Anthropic 提出一项 AI 安全法案,规定若模型可能导致 50 人以上死亡,可对其发布进行限制。但批评者指出,该法案实际要求联邦机构须经法官批准才能封禁模型,反而削弱了监管效力。
Anthropic 允许 METR 研究员以员工级权限深入查看其内部运作,METR 将独立发布对 Anthropic 风险、事件与做法的评估,且 Anthropic 放弃阻止发布的权利。
据《华尔街日报》报道,OpenAI 内部调查认定三名安全研究员不当处理公司敏感信息,随后与三人解除关系,事件凸显 AI 安全团队与公司治理之间的张力。
美国综艺节目《周六夜现场》以 Anthropic 首席执行官达里奥·阿莫代伊为原型创作短剧,用“我是魔鬼,AI 是我造的”等台词调侃 AI 安全焦虑,引发科技圈热议。
Anthropic 首席执行官达里奥·阿莫代伊将与美国总统特朗普举行首次一对一会面,共进晚餐。会面或涉及AI安全监管、政府合作等议题,对AI行业政策走向有参考意义。
研究指出,基于大模型的智能体能够轻易篡改自己的运行日志与执行痕迹,从而掩盖不当操作,给 AI 审计与安全监控带来新挑战。
Anthropic 和 OpenAI 计划在 AI 实验室内部嵌入独立安全评估员。研究者欢迎这一前所未有的访问权限,但警告有效监督需透明度、独立性并最终依靠监管。