针对 Qwen 系列大模型的线性注意力机制,分享高性能优化实践,涵盖算子实现与推理加速思路,对做大模型推理部署和长上下文优化的工程师有参考价值。
Navalia 以企业财报为数据源,自动合成带可追溯证据和真实数据依赖的金融分析任务,经独立模型审查与程序校验后用于轨迹采集、冷启动微调和强化学习,使基于 Qwen3.6-35B-A3B 的智能体在五个基准上全面超越基座模型。
ClawLoop 提出一种无需外部教师模型的自我改进框架,通过任务合成、训练与诊断反馈三阶段循环,让基于沙箱环境的智能体持续提升,并在多个基准上验证了效果。
字节团队论文指出 DeepSeek V4 系列因分块 KV Cache 压缩存在相位敏感性,关键信息落在压缩块交界盲区时准确率骤降,加几个空格即可让模型答错,该问题在采用同类压缩技术的模型中普遍存在。
研究团队提出 AREX-2,用机器学习与算法编程任务合成长程改进轨迹训练智能体,使其在测试时能反复迭代优化答案,在 MLE-bench Lite、BrowseComp、GAIA 等基准上取得高分,且随迭代轮数增加持续提升。
研究提出GAD-RL方法,在联合后训练中根据学生模型当前表现自适应调节教师监督强度,避免固定教师指导随学生进步而失效,在CHAOS-Bench上Micro Recall达59.92%,显著优于GRPO基线。
研究提出 DASA 方法,用冻结参考模型的激活梯度反馈优化连续合成输入嵌入,无需人类可读文本即可微调大模型。在 Llama 和 Qwen 六个模型、六项基准上,性能与自然语言数据相当甚至更优,且比 GRADMM 快 3.6 至 4.9 倍。
AI for AI 成为海外头部实验室公开目标:OpenAI 设 RSI 团队、Anthropic 内部 3 万 Agent 协作、Google 推 AlphaEvolve。中训练与后训练因实验多、周期短,成为 AI 接手研发最先落地的环节。
Pistis 模型家族发布,含 270 亿和 90 亿参数两个多模态大模型,基于 Qwen3.6 与 Qwen3.5,采用交错蒸馏与强化学习新范式训练,并推出自动优化推理框架的 PAH 方法。
阿里云在2026云栖大会发布Agentic Cloud战略,推出AgentCore、Agent Sandbox、新一代CPFS等新品,并展示灵骏真武M890十万卡超节点集群,旨在让AI智能体进入生产流程、实现规模化落地。
云栖大会上,千问办公发布企业级Agent基础设施“企业上下文”与AI硬件QwenNote A2,前者把群聊、文档、业务系统信息压缩结构化供Agent调用,后者以名片大小录音卡补上线下对话这一外部上下文来源。
2026年华为全联接大会上,360集团与昇腾AI联合推出智能体解决方案,以360智能体工厂为核心,结合昇腾算力优化,使多角色协作任务效率提升6倍,复杂任务成功率超95%。
研究者发布 BioPhys-Bridge 基准,含 500 个案例、1517 项智能体任务,覆盖六个生物领域与九类物理模型,用于评估大模型在生物物理文献中的证据溯源与推理能力。初步评测中 DeepSeek-V4-Flash 证据 ID F1 最高(0.360)。
研究者发布全开源7B稠密基础模型ZGCM-1,通过架构与系统协同设计、FP8 Muon优化器及渐进式课程训练,支持256K上下文,在数学推理与智能体搜索任务上可与Qwen3-235B等超大模型竞争,并开源权重、代码与数据配方。