Hugging Face首席政策官Irene Solaiman在TechCrunch活动上表示,AI实验室依赖的模型基准评测方法仍复杂且不成熟,嵌入式AI评估器不会成为简单解决方案。
研究探讨基准测试饱和后能否继续评估模型能力,发现利用解题过程记录仍可预测模型表现,成对评判法效果最佳,预测误差降低5.3倍。
研究对开源Laya与托管Jev两个系统1决策模型在11个智能体决策点上做配对评估,共7283个基础用例加6640个鲁棒性变体。Jev在9个决策点显著更准,但两者在零样本模型路由上均未超随机水平。
HappyWorld-Bench 提出一套面向世界模型的统一评测基准,试图解决各家模型自说自话、缺乏可比性的问题,为研究者和开发者提供横向对比依据。
埃森哲成为 Anthropic 首个嵌入式评估合作伙伴,将承接其最高风险的咨询项目,负责对 AI 模型进行独立评估。此举对关注大模型安全与第三方评测的企业有参考价值。