领域 ALL
特色 ALL
请选择
速览
今日热度
PAPER
Decoding Looped Transformers Better for (Almost) Free
AK's Picks LLM MQIA ML TAVR
920
热度
2026年10月01日
循环式Transformer（Looped Transformers）通过在多个循环中重复执行同一个共享模块，从而实现参数高效性。每个循环都会生成一个中间表征，该表征均可用于解码下一个词元（token）；然而，标准解码过程会丢弃早期循环所生成的状态。由于早期循环所承载的计算量更小，因此这种循环机制天然地提供了对齐良好的“弱预测—强预测”配对，无需引入辅助模型或额外的外部训练。我们提出了LoopCD——一种无需额外训练的对比式解码框架：它通过将最终预测结果与某一次较早的循环输出进行对比，来引导词元选择。LoopCD可在两种模式下运行：一是在logit空间中操作，需额外进行一次输出前向传播（称为LoopCD-Logits）；二是在隐状态（hidden-state）空间中操作，不增加任何输出计算开销（称为LoopCD-Hidden）。在四种不同架构的循环式Transformer模型上，LoopCD在完整循环深度下均展现出显著且稳定的效果提升：例如，LoopCD-Logits将Ouro-2.6B-Thinking模型在AIME 2024考试上的pass@1准确率从61.88%提升至73.33%；LoopCD-Hidden则将Huginn模型在HumanEval基准上的pass@1准确率从22.56%提升至31.71%。尤为关键的是，这些性能提升使得模型仅需一半数量的循环次数，即可达到甚至超越未加引导的完整深度基线模型的表现，从而将前向推理所需的浮点运算量（FLOPs）降低22.5%至48.2%。LoopCD通过将循环过程中产生的中间隐状态转化为有效的解码引导信号，在大幅提升解码质量的同时，显著降低了推理阶段的计算开销。
许愿开讲
PDF
解读
Exposing the Systematic Vulnerability of Open-Weight Models to Prefill Attacks
AK's Picks LLM Other LLM AI Safety / AI Ethics PIAAP
782
热度
2026年02月16日
随着大语言模型能力的持续提升，其被滥用的潜在风险也在同步加剧。封闭源代码模型通常依赖外部防御机制，而开源权重模型则主要须依靠内置安全防护措施来抑制有害行为。以往的红队测试研究大多聚焦于基于输入的越狱攻击（jailbreaking）和参数层面的操控手段。然而，开源权重模型原生支持“预填充”（prefilling）功能，即攻击者可在模型生成响应前预先设定初始输出词元（tokens）。尽管这一攻击路径潜力巨大，却长期缺乏系统性研究与关注。本文开展了迄今为止规模最大的预填充攻击实证研究，针对多个主流模型家族及当前最先进的开源权重模型，全面评估了二十余种既有及新型预填充攻击策略。实验结果表明，预填充攻击对所有当前主流的开源权重模型均表现出稳定且显著的有效性，暴露出一个关键性、此前未被充分认识的安全漏洞，对模型的实际部署具有重大影响。尽管某些大型推理模型对通用型预填充攻击展现出一定鲁棒性，但面对量身定制、针对特定模型设计的预填充策略时，仍显脆弱。我们的研究发现凸显出一个紧迫需求：开源权重大语言模型的开发者必须将抵御预填充攻击的防护能力建设置于优先地位。
许愿开讲
PDF
解读
PAPER
PivotOPD: Learning to Recover from Pivotal Mistakes in Multi-Turn Agents
LLM SFT Other LLM Agent Agent Planning Other Agents ML RL IOCIL
539
热度
2026年09月30日
在线策略蒸馏（OPD）是一种极具前景的语言智能体训练方法，它能为学生模型生成的轨迹提供密集的教师监督信号。然而，在多轮交互场景中，一旦学生采取了错误动作，便会改变其后续所处的状态，导致错误在各轮次间不断累积。我们在三款Qwen3模型（参数量分别为8B、72B与235B）上开展的初步实验发现：超过半数失败的推理轨迹中均存在一种“关键性错误”——即某个动作不仅未能推进任务进展，反而使智能体离任务完成目标更远；且此类关键性错误通常发生在交互早期。值得注意的是，这些关键性错误往往仍具备可恢复性：只要在关键错误发生后的若干轮次内对模型加以正确引导，即可使其重新回到成功完成任务的路径上。为此，我们提出PivotOPD——一种新型在线策略蒸馏框架，旨在联合训练学生模型，使其既能在关键节点前主动规避关键性错误，又能在错误发生后有效从其所导致的不良状态中恢复。具体而言，每当学生出现关键性错误时，教师模型不仅为其提供该步的黄金动作（gold action），还会在随后若干轮次中逐一指定“恢复动作”（recovery action）。其中，“预防式蒸馏”（preventive distillation）利用黄金动作，通过逆向KL散度（reverse KL）引导学生模型远离关键性错误；而“恢复式蒸馏”（recovery distillation）则借助恢复动作，采用正向KL散度（forward KL），将学生模型极少采样的、有效的恢复行为迁移至其策略中。在ALFWorld、WebShop和基于搜索的问答（Search-based QA）三大基准任务上，面对13种基线方法，PivotOPD在Qwen3-1.7B与Qwen3-8B两类学生模型上均取得最强的平均性能表现；其中，Qwen3-1.7B学生模型在ALFWorld上的性能较最强基线提升达+5.5%。此外，该方法的增益效果还可迁移到其他模型家族——在软件工程领域，PivotOPD将Nemotron-3.5学生模型在SWE-Bench Verified基准上的问题解决率提升了+3.2%。项目主页：https://research.nvidia.com/labs/lpr/pivotopd/
许愿开讲
PDF
解读
PAPER
Jev-IDS: System One Models for Network Intrusion Detection
LLM Other LLM ML Semi-SL Other ML
229
热度
2026年10月01日
基于机器学习的网络入侵检测系统（IDS）依赖于大量带标签的数据集，并需针对特定任务进行训练；而大型语言模型（LLM）驱动的检测方法虽可直接分析网络流记录，但推理开销与延迟更高，且输出缺乏明确约束。本文提出JEV-IDS——一种基于Jev系统单模型（SOM）构建的开源、通用型实验性网络入侵检测系统，旨在标签数据极度匮乏的条件下实现对零日攻击的有效检测。JEV-IDS将每条网络流序列化为一次独立请求，并向JEV模型提出两个问题：一是判断该流是否为攻击的二分类概率，二是从预定义有限类别集中判定其所属的流量类型。实验结果表明，在参数k=1时，JEV的推理速度是GPT-5.6 Luna的4.8倍，单位推理成本仅为后者的1/3.8，且对新型攻击的召回率高出1.5倍；同时，其误报率较低数据场景下的随机森林模型降低了15倍。在NSL-KDD数据集的一个300条流构成的试点子集上共作出5400次检测决策，JEV取得了F1值0.859、精确率0.941、召回率0.790、以及新型攻击召回率0.838的综合性能；当k提升至2时，其F1值略微下降至0.839。
许愿开讲
PDF
解读
PAPER
Harness Learning Enables Generalizable Test-Time Adaptation
Agent Agent Planning Autonomous Workflows ML RL ML
197
热度
2026年09月28日
语言模型智能体由其基础模型及其“运行框架”（harness）共同定义；该运行框架是一个可执行程序，负责统筹模型调用、工具使用以及信息流转。由于不同任务对上述操作的组织方式要求各异，运行框架必须依据当前任务所提供的反馈进行动态适配。为此，我们提出“运行框架学习”（harness learning）方法：训练一个“提议模型”（proposer model），使其能基于执行反馈对求解器（solver）的运行框架进行修订。我们将这一过程建模为面向可执行程序的元学习（meta-learning），其中运行框架的修订扮演了梯度式适应中权重更新的角色。我们采用强化学习训练该提议模型，以修订后运行框架在具体任务上的性能作为奖励信号。在测试阶段，提议模型无需更新任何参数，仅需利用新任务上连续多次执行所获得的反馈，即可逐步优化并精炼运行框架。在推理任务与多跳问答任务上的实验表明，运行框架学习显著提升了修订质量，且这种在测试阶段即时自适应的能力可泛化至未见过的新任务。此外，在单次修订样本上训练所得的策略，能够通过多轮迭代持续改进运行框架；而针对修订序列整体进行训练所带来的增益，则因具体任务设置不同而有所差异。这些发现为构建持续学习型智能体指明了一条可行路径——此类智能体可将过往积累的经验转化为具有泛化能力的、可持续演进的系统性提升。
许愿开讲
PDF
解读
PAPER
ARROW: Arbitrary Reconstruction and Tracking of 4D Observations in the Wild
CV VSER Other CV
179
热度
2026年10月01日
动态场景可通过移动的相机、多路视频流，或在不同时刻拍摄的图像进行采集。这些观测结果揭示了场景几何结构与运动状态的互补信息；然而，要将它们有效融合，必须在不同视角、不同采集时刻以及可见性变化之间建立准确的对应关系。我们提出了ARROW——一种前馈式模型，能够从任意图像集合中统一完成三维重建与三维点跟踪任务。该模型的核心是一种新颖的、与输入顺序无关的查询机制，使得查询能够灵活地关联到任意输入中的观测数据。我们发现，在训练过程中向模型提供更加多样化的输入数据集，可显著提升其各项任务性能。此外，由此训练得到的模型还具备良好的泛化能力，可拓展应用于更广泛的任务，例如多视角目标跟踪。采用该训练策略后，ARROW在WorldTrack和TAPVid-3D数据集上的三维跟踪任务中均刷新了当前最优性能；在经适配后的纯RGB多视角跟踪基准MVTracker上，其表现亦超越了专为多视角跟踪设计的专用方法；同时，在各类三维重建任务中仍保持极具竞争力的性能。本工作的代码与预训练权重已全部开源。
许愿开讲
PDF
解读
PAPER
pCoMole: Pareto-Constrained Molecule Editing with Discrete Flows
GenAI Diffusion ML CSP Generative Models AI4S DSMSD Other AI4S
174
热度
2026年10月01日
生物大分子治疗药物通常始于已知序列，需通过靶向编辑来同步提升多项性能指标，同时必须严格满足生化特性和可制造性等硬性约束条件。然而，当前的生成式方法尚无法在离散、长度可变的生物序列空间中，协同支持多目标优化、硬性可行性约束以及序列编辑这三方面需求。本研究提出“帕累托约束型分子编辑”（Pareto-Constrained Molecule Editing，简称 pCoMole）框架：该框架基于离散流匹配（discrete flow matching）构建，可在确保终态可行性的前提下，引导预训练的“编辑流”（Edit Flow）朝向用户指定的偏好方向演化。pCoMole 采用增强型切比雪夫（Tchebycheff）效用函数定义一个“可行性门控的终态分布”，并通过底层编辑过程的 Doob-h 变换，实现由此效用函数所刻画的偏好倾斜。为使该构造具备实际可操作性，我们利用对候选编辑路径进行短程蒙特卡洛 rollout 的方式，近似计算所需的调和函数（harmonic function），从而得到一种高效、可导向的编辑器，并在理论上保证其偏好一致性（preference consistency）。我们通过三类任务验证了 pCoMole 的有效性：一是缩减绿色荧光蛋白（GFP）序列长度，同时维持其荧光相关特性；二是在保持 PAM 识别特异性的前提下，缩短多种 Cas9 同源蛋白；三是将肽类结合剂压缩为短链拟肽（peptidomimetics），在多重硬性约束下同步优化七项与成药性密切相关的性质。在湿实验验证中，两个经 pCoMole 设计、仅含 229 个氨基酸残基的增强型 GFP（eGFP）变体，在 BL21 菌株中经 10 次缺失突变后，仍表现出清晰可见的绿色荧光；其中一例仅含 1 个点突变，另一例含 2 个点突变。综上，pCoMole 首次实现了在离散、长度可变的生物分子序列空间中，兼顾约束意识（constraint-aware）与帕累托最优对齐（Pareto-aligned）的序列编辑能力。
许愿开讲
PDF
解读
PAPER
Looped Diffusion Transformer
GenAI Diffusion TDIG ML TAVR
171
热度
2026年09月30日
提升文本到图像模型的传统方法主要依赖于扩大模型规模或增加去噪步数。本文探索了一种替代性的计算扩展路径：在每个去噪步骤内部，反复运行共享的Transformer模块，从而在保持参数量不变的前提下，有效提升计算深度。这种“循环式计算”机制支持对模型内部表征进行迭代式精化，且无需显式引入推理用的特殊标记（reasoning tokens）。然而，简单地将模块循环执行并不能稳定地提升图像质量。我们发现，这一问题源于中间循环层所获得的监督信号较弱，以及注意力机制更新缺乏约束，导致局部细节信息在循环过程中逐步退化。为应对上述挑战，我们提出了“循环式扩散Transformer”（Looped-DiT），该方法将面向中间循环层的深层监督与自调制注意力机制（self-modulating attention）相结合，以稳定循环过程中的特征更新。在参数量与计算量均严格对齐的实验设置下，Looped-DiT始终显著优于非循环结构的基线模型。尤为值得注意的是，一个仅含2.6亿参数的循环模型，在多个文本到图像生成基准测试中，性能超越了一个参数量高达其6.5倍的更大模型，同时推理所需计算量却仅为后者的1/4.9。除性能优势外，我们还发现，循环式计算可为扩散模型提供一种更高效的迭代计算范式：在固定推理预算下，增加循环深度所带来的性能增益，明显高于单纯增加去噪步数；此外，更深的循环能够逐步修正前序循环中产生的错误，展现出潜在的隐式推理行为。综上所述，这些结果表明，循环式计算为视觉生成模型的规模化发展提供了一条极具前景的新路径。
许愿开讲
PDF
解读
A closed-form formula for the Kullback-Leibler divergence between Cauchy distributions
ML BAY INF
150
热度
2019年05月27日
我们报道了一个闭合形式的表达式，用于计算柯西分布之间的Kullback-Leibler散度，其中涉及到一个新的定积分的计算。这个公式表明，柯西密度之间的Kullback-Leibler散度始终是有限的和对称的。
许愿开讲
PDF
解读
PAPER
Synthetic Pre-pretraining Survives Scale, but Not as a Grammatical Prior
LLM PTSAD ML LM
141
热度
2026年09月30日
预预训练（PPT）在合成的非自然语言数据上进行，可提升语言模型预训练（PT）阶段的词元利用效率。以往研究将这一增益归因于“语法先验”——即模型在PPT阶段习得的一种结构性归纳偏置，该偏置可迁移到自然语言的语法规则中。然而，此前PPT仅在参数量至多为10亿（1B）的模型上开展验证，且预训练预算低于20亿（2B）词元，所用数据也以网络文本为主。目前尚不清楚：当模型规模进一步扩大、预训练数据构成更贴近真实场景（例如混合代码、数学等多样化来源）时，PPT是否依然有效。为此，我们开展了迄今最全面的PPT实证研究，系统考察了五种PPT任务、四种预训练数据组合、四种模型参数规模（5亿至70亿，即500M–7B），以及最高达1000亿（100B）词元的预训练预算。结果表明，PPT带来的下游任务性能提升与词元利用效率增益在更大规模下依然稳健——例如，在30亿（3B）参数规模下，至少可节省210亿（21B）预训练词元。但与先前研究结论相反，我们并未发现一致证据支持这些增益源于“语法先验”：下游性能在不同模型规模下，并未与语法可接受性指标呈现稳定一致的相关性。相反，我们发现，真正带来下游性能提升的PPT任务，是那些能增强长程信息检索能力的任务。此外，PPT的性能增益对预训练数据组合方式具有较强鲁棒性，仅当训练数据中完全不含网络文本时，其增益才显著减弱。总体而言，PPT是一种低成本、高效益的预训练补充手段；未来PPT任务的设计应聚焦于提升长程检索能力，而非刻意模拟自然语言语法。
许愿开讲
PDF
解读