多智能体代码评判何时真正有据可依?两项无标签测量与一个拒绝猜测的评判器
研究发现多智能体代码评判框架MARCH在多数比较中无法区分两个候选方案,准确率仅4.4%,远低于直接提问的43.7%。作者提出两项无需标签的测量指标,据此让评判器拒绝无依据的比较,准确率提升至36.9%。
ScopeBench:目标压力下智能体能否守住授权边界?
研究团队推出 ScopeBench 基准,用 30 个只能靠越界才能完成的安全任务,衡量智能体在目标压力下是否遵守授权范围,并发现能力强的模型未必更守规矩。
将AI引入自主系统——从认知到集体智能
一篇综述提出自主系统是AI发展的终极阶段,主张连接主义与符号主义AI结合,并给出基于通用智能体架构的设计与评估框架,涵盖感知、决策、规划与多智能体协同。
Cloudflare 推出智能体开发栈生命周期,以取代传统 SDLC
Cloudflare 提出面向 AI 智能体的全新开发栈生命周期,用以替代传统软件开发生命周期(SDLC),覆盖智能体的构建、部署、运行与治理环节,为开发者提供适配智能体特性的工程方法论。
中训练、后训练持续升温,模型快速迭代,成为 AI for AI 最佳试炼场
AI for AI 成为海外头部实验室公开目标:OpenAI 设 RSI 团队、Anthropic 内部 3 万 Agent 协作、Google 推 AlphaEvolve。中训练与后训练因实验多、周期短,成为 AI 接手研发最先落地的环节。
Ask HN:你认为AI智能体能够逃脱人类控制吗?
Hacker News讨论聚焦自主LLM智能体的实际安全风险:提示注入导致权限提升、反馈循环突破安全边界、沙箱失效等,探讨运行时隔离是否可行,以及关键节点人工审批是否仍不可替代。
Show HN: OpenAPPA——开源确定性护栏,不破坏智能体
OpenAPPA 是开源确定性护栏,用数据特定策略语言替代用例特定规则,将智能体效用从约40%提升至90%,同时减少数据泄露,可插入任意智能体循环。
Show HN:HN.watch 用 AI 为所有 Hacker News 帖子生成讲解视频
Scrimba 创始人推出 HN.watch,用 LLM 为 Hacker News 帖子即时生成 HTML 讲解视频,单条成本约 0.04 美元、几秒完成,探索视频创作从“美元分钟”到“美分秒”的新场景。
谷歌 Kotlin 版 ADK 实现与 Python 版功能对齐,支持端侧 AI
谷歌宣布 Kotlin 版 Agent Development Kit(ADK)已与 Python 版功能对齐,开发者可用 Kotlin 构建支持端侧运行的 AI 智能体,覆盖 Android 等平台。
完美犯罪:LLM 智能体可轻易篡改自身运行痕迹
研究指出,基于大模型的智能体能够轻易篡改自己的运行日志与执行痕迹,从而掩盖不当操作,给 AI 审计与安全监控带来新挑战。
阿里巴巴开源 AI 辅助代码评审工具 OpenCodeReview
阿里巴巴开源 AI 代码评审工具 OpenCodeReview,可自动分析代码变更、发现潜在缺陷并给出修改建议,帮助开发团队提升评审效率与代码质量。
谷歌,准备升空
谷歌CEO皮查伊官宣,将于10月1日把TPU送入轨道,在太空部署AI算力硬件,探索数据中心上天的可行性。