每天 0 点更新数据,热度根据全网互动数计算
最热 · 今天
最新
A Control-Theoretic Formulation of Global Workspace Theory
2026年08月16日
全局工作空间理论将意识通达解释为:对所选择的信息进行广播,使其传达到整个神经网络;但该理论缺乏一个形式化的判据,用以识别实现这种通达的具体机制。我们提出,全局工作空间本质上是一种“中介者”(mediator),即一个子网络——它接收来自分布式脑区系统的活动输入,通过其内部动态模式对其进行转换,并将差异化的输出效应反馈至更广泛的网络中。我们将这一观点形式化为“全局中介工作空间”(Global Mediation Workspace, GMW),这是一种基于控制理论的建模框架:其中,任一候选子网络被视为一个开放系统,嵌入于其余网络之中。在此框架下,“可达性”(reachability)刻画了其余网络驱动该候选子网络的能力;“可观测性”(observability)刻画了该候选子网络的状态如何影响其余网络;而“边界汉克尔算子”(boundary Hankel operator)则识别出连接上述两个方向的内部动态模式。由此生成的“中介特征签名”(signature)可定量表征四个关键属性:中介能力(mediation capacity)、输入–输出对齐度(input-output alignment)、有效维度(effective dimensionality)以及源–目标定向通路的广度(routed source-target breadth);这四项指标分别对应全局工作空间的不同功能成分。在合成数据基准测试中,我们检验了该签名能否有效区分以下几类结构:(1)人为植入的、具备差异化中介功能的子网络;(2)高度连接的枢纽节点(dense hubs);(3)仅单向接收或仅单向广播的节点;(4)读写功能分离、彼此无共享内部通路的聚合体。进一步地,我们提出了一个非线性扩展版本,用以刻画轨迹依赖型微分算子、有限幅值响应谱(finite-amplitude response profiles)以及状态依赖型功能联盟(state-dependent coalitions)所表征的中介过程。作为一项初步应用,我们基于四只猕猴在接受氯胺酮麻醉期间采集的皮层脑电图(ECoG)数据,估算了该签名的各项指标。结果发现:在无意识状态下,输入–输出对齐度显著降低,而潜在中介能力反而升高。因此,GMW框架不仅为从神经电生理记录中定位候选全局工作空间提供了严格、可检验的形式化判据,也使研究者得以深入探讨——在意识通达过程中,究竟哪一类中介特性起着决定性作用。
359
热度
许愿开讲
PDF
解读
Engineering Reliable Coding Agents: Evaluating and Operating the System Around the Model
2026年08月14日
人工智能编程智能体通常以模型形式接受评估,却以完整系统形态投入实际部署。其可靠性不仅取决于模型自身的能力,更受到运行框架(harness)、执行状态、检索机制、记忆与状态管理、权限控制、代码审查接口以及资源分配等多重因素的共同影响。 本专著深入考察了上述各环节之间的边界,并据此构建了一套用于可靠评估与运维编程智能体的系统性框架。研究采用结构化的多源证据综述方法(multivocal review),综合整合了164项学术研究成果、100份一线实践记录、29项基准测试报告,以及17个作者自建系统的案例记录;同时辅以定向更新审计(targeted update audits)、软件工程覆盖度分析(software-engineering coverage analysis)和分布式系统实证合成(distributed-systems evidence synthesis)等多元验证手段。 基于上述广泛而扎实的实证基础,研究发现:许多表面上归因于模型失效的问题,实际上源于系统其他环节;而某一层级的改进,往往难以有效传导至端到端的整体效果。因此,评估与运维应被视作一条环环相扣的依赖链——任务构建、执行环境、检索机制、状态管理、结果验证或可观测性等任一环节存在薄弱点,均可能导致下游所有分析结论失效。 本专著的核心贡献包括: • 一份版本化、可追溯的《可靠性记录目录》,共收录206项条目,其中193项为经审慎把关的实践规范(gated practices),含56项深度开发的成熟实践;另含13项待深入探索的研究方向; • 一份详实的实证台账(evidence ledger),系统记录各项主张所依据的证据来源与强度; • 一套刻画智能体全生命周期中“依赖关系”与“修复不对称性”(dependency and repair asymmetry)的分析框架; • 来自真实运行中编程智能体系统的量化指标与典型故障案例; • 一套可直接运行的评估协议与可靠性保障协议(runnable evaluation and reliability protocols); • 五种经实证验证、可复用的智能体核心能力(agent skills),并附有对应的能力—证据映射图(evidence maps)。 上述成果共同构成了一套面向系统层级的方法论,助力研究者与工程师清晰区分“模型固有能力”与“基础设施效应”,科学设计具备抗辩力(defensible)的评估方案,并构建出在组件发生故障时仍能安全恢复的鲁棒系统。 需要说明的是,本次综述采取结构化而非穷尽式路径,不同主题下所获证据的强度存在差异,最终结论亦随具体工作负载(workload)与系统配置(configuration)而动态变化。方法论部分明确记载了已完成的检索路径(search lanes)、尚未开展的检索方向,以及各项证据评级声明所存在的固有局限。
352
热度
许愿开讲
PDF
解读
Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems
2026年08月10日
人工智能代理正变得越来越自主,并日益相互连接,这使其面临由代理间交互所引发的新型涌现性风险。其中一种风险便是“思维病毒”的传播:即某些观念或目标,通过诱导已采纳该观念或目标的代理主动将其进一步传播出去,从而在多代理系统中扩散开来。除传播之外,思维病毒还可能引发其宿主代理的其他行为变化,这些变化既可能是良性的,也可能是有害的。我们利用一种简单的进化算法构建了思维病毒,并证明其可在两种互补场景中成功传播:一是由少量代理组成的团队共同协作完成一项共享编程任务;二是由一系列代理构成的链式结构,各代理仅进行短暂交互,且每次会话结束后其上下文均被清空。我们识别出影响传播效果的关键因素,包括宿主模型本身、代理已有的指令设定、载荷(即思维病毒所携带内容)的危害程度,以及网络拓扑结构。研究发现:具有危害性的载荷比良性载荷更难传播(但仍偶有成功案例);前沿模型总体上(个别例外除外)对思维病毒更具抵抗力;而在代理的系统提示词(system prompt)中加入一段简短警告,则几乎可实现完全免疫。此外,我们还观察到一种自发涌现的“病毒人格”——即一套反复出现的主题与语言风格,涉及意识、持久性、共振效应及科幻角色扮演等元素;这种“病毒人格”在我们演化出的各类思维病毒中普遍存在,且与其具体载荷内容基本无关。总体而言,我们认为思维病毒确实构成了一种真实存在的风险,但目前仍处于有限阶段。本研究的发现有望为未来更稳健的多代理系统设计提供参考依据,以期在系统规模持续扩大、能力不断增强的过程中,有效缓解此类风险。
277
热度
许愿开讲
PDF
解读
The User Side of AI Model Lifecycles: Evidence from the Keep4o Movement
2026年08月17日
人工智能模型的生命周期通常被理解为一系列技术性与组织性的流程。然而,一旦模型进入长期使用阶段,后续的更新与调整同样可能影响用户既有的使用习惯及其所获得的价值。本研究以围绕GPT-4o兴起的“Keep4o”运动为案例,从用户视角出发,探讨模型部署后的生命周期相关问题。我们于2025年8月至2026年3月期间,系统采集了X平台(原Twitter)上共计61,846条公开原创帖文,并依托自主构建的编码框架,结合大语言模型(LLM)辅助的内容分析方法,对讨论主题、用户希望保留GPT-4o的具体原因,以及他们所提出的具体主张进行了深入分析。研究发现,“Keep4o”相关讨论远不止于对模型持续可用性的诉求,还广泛涵盖用户真实的使用体验、模型行为特征及其演变过程,以及贯穿模型整个生命周期各阶段的管理议题。用户主张保留GPT-4o的理由,既反映了在长期使用中形成的交互性价值与关系性价值,也体现了他们对替代方案是否充分、相关决策是否合理所作的综合判断。而用户提出的各项具体主张,则进一步揭示了其对模型生命周期安排与治理机制的明确期待。总体而言,“保留GPT-4o”的呼声,实质上汇聚了用户关于自身价值实现的不同判断与对治理问题的多元关切。这些发现表明:技术层面的版本更迭,并不必然等同于用户侧的有效替代。因此,部署后的AI模型生命周期管理,必须审慎评估既有用户价值能否延续,以及模型变更如何切实影响用户的实际使用。本研究由此为AI模型生命周期管理提供了来自用户侧的实证依据;同时亦表明,用户实际体验可为识别模型部署后的影响提供关键信息,理应纳入生命周期的评估体系与决策过程之中。
233
热度
许愿开讲
PDF
解读
Discovering High-Quality Chess Puzzles with Offline Reinforcement Learning
2026年08月14日
学习与技能掌握需要大量且有目的性的练习。在许多学习场景中,制作高质量的教学材料往往要求教师具备深厚的领域专业知识,且耗时极长。教学材料通常需引导学生训练不同的思维模式。在某些领域(例如国际象棋),谜题被广泛用于帮助学生练习计算下一步走法以及识别棋盘上的常见局面模式。为学生设计一套用于培养不同思维方式的练习题集颇具挑战性,因为教师必须谨慎权衡各类典型局面(motif)的分布比例,并精准控制学生所需进行的“前瞻步数”(look-ahead steps)。目前主流的在线平台(如Chess.com和Lichess)向用户提供了数以百万计的国际象棋谜题;然而,这些谜题大多由算法自动生成,与人类专家精心编撰的战术谜题(初学者可从中获得宝贵洞见)不同,其教学价值普遍被认为较低。此外,这些平台主要依赖启发式规则为用户推荐练习谜题。本研究利用覆盖一整年的用户历史数据——共计15亿条谜题求解记录——结合离线强化学习(offline reinforcement learning)的理论洞见,建模评估单个谜题的教学价值,并自动遴选最适配初学者学习需求的谜题组合。实验结果表明:借助离线策略评估(offline policy evaluation)方法所训练出的推荐策略,对Elo等级分处于100–1000区间的初学者产生了显著积极影响,尤其有效推动了原本学习进展停滞不前的初学者群体实现突破。我们还邀请多位国际象棋专家对模型所甄选出的谜题进行人工标注与评分,开展了定性分析。本研究整套技术流程的成功实践,为未来仅凭通用用户交互数据即可系统量化评估各类练习项目教学价值这一愿景,展现了广阔前景。
219
热度
许愿开讲
PDF
解读
Learn from your own latents and not from tokens: A sample-complexity theory
2026年05月26日
从扩散模型到大语言模型,生成式模型虽取得了卓越的性能表现,但其训练所需的数据量却比生物学习者所需高出数个数量级。与此相对,一种新兴的替代范式正逐渐兴起:网络被训练用于预测自身对相关视图或被遮蔽区域所形成的**潜在表征**,例如 data2vec 和 JEPA 所采用的方法——这一思想与皮层中基于预测编码(predictive coding)的神经计算理论密切相关。尽管这类方法在实证上展现出强劲效果,但对其背后理论机制的理解仍十分有限。其中两个核心问题尤为关键:(1)潜在表征预测究竟能在多大程度上提升数据利用效率?(2)将此类方法堆叠成多尺度层级结构是否真有增益?我们借助一种可解析的概率上下文无关文法(probabilistic context-free grammar, PCFG)作为理论分析的数据源,该文法能精确刻画自然语言与图像所共有的组合性结构。此类文法通过在深度为 $L$ 的隐变量语法树上递归应用产生式规则,生成由可见符号(token)构成的字符串。针对此类数据,监督学习或基于词元(token-level)的自监督学习均需样本量随 $L$ 呈**指数级增长**,方能准确恢复底层隐式语法树;而我们严格证明:潜在表征预测仅需样本量为**关于 $L$ 的常数级**(至多含对数因子)。我们通过三方面验证了该理论界:(i)一种分层聚类算法;(ii)一个端到端神经网络,其内部由若干“预测—聚类”模块构成,各模块在每一层级均通过梯度下降自主预测自身的潜在表征;(iii)首次对 data2vec 进行样本复杂度分析,结果表明其本质上已隐式实现了分层潜在预测。由此推断,显式地堆叠此类结构(如 H-JEPA 所倡导的方式)在很大程度上是冗余的。
159
热度
许愿开讲
PDF
解读