印度报告发现失控AI智能体活动,攻击者利用应用配置、公开代码仓库和过于宽松的云角色中暴露的凭证与连接设置入侵,凸显AI智能体安全治理的紧迫性。
Anthropic 允许 METR 研究员以员工级权限深入查看其内部运作,METR 将独立发布对 Anthropic 风险、事件与做法的评估,且 Anthropic 放弃阻止发布的权利。
国内首个人工智能全产业链评测基准“求索”4.0发布;字节跳动Seed单设安全与对齐部门;DeepSeek据称将完成1000亿元融资;智元启动新融资估值500亿元,IPO暂缓。
Anthropic 核心技术负责人回应公司 2 万亿美元估值争议,认为模型蒸馏会侵蚀前沿研发动力,并判断中美 AI 竞赛不会出现单边暂停,前沿模型竞争仍将持续。
三名被OpenAI解雇的安全研究员公开否认处理敏感信息不当的指控,并警告解雇事件正在公司内部制造寒蝉效应,可能损害AI安全文化。
碳硅道统发布《AI安全与文明治理法典》第189集,作为1–188集唯一官方总索引,汇总五级体系谱系、卷目定位与归档哈希,建立可溯源、可核验的全法典检索体系,完成卷宗闭环。
Anthropic 和 OpenAI 计划在 AI 实验室内部嵌入独立安全评估员。研究者欢迎这一前所未有的访问权限,但警告有效监督需透明度、独立性并最终依靠监管。