研究提出 DASA 方法,用冻结参考模型的激活梯度反馈优化连续合成输入嵌入,无需人类可读文本即可微调大模型。在 Llama 和 Qwen 六个模型、六项基准上,性能与自然语言数据相当甚至更优,且比 GRADMM 快 3.6 至 4.9 倍。
英伟达开源 Nemotron 3 Ultra 的 IMO 数学推理系统,含两个数学专家 checkpoint、训练数据、推理代码与 200 道新基准,以 30/42 分超金牌线,但 1.5TB 显存门槛引发算力集权争议。
研究者发布全开源7B稠密基础模型ZGCM-1,通过架构与系统协同设计、FP8 Muon优化器及渐进式课程训练,支持256K上下文,在数学推理与智能体搜索任务上可与Qwen3-235B等超大模型竞争,并开源权重、代码与数据配方。