Anthropic 提出 AI 安全法案：若模型可能致 50 人以上死亡即可封禁

事件

Anthropic 提出了一项 AI 安全立法提案，核心条款是：当有理由认为某个 AI 模型可能造成 50 人以上死亡时，可以阻止其发布。这一门槛将 AI 风险与大规模人员伤亡直接挂钩，试图为前沿模型的部署设定明确的安全红线。

然而，提案的机制设计引发争议。按照其条文，联邦机构在阻止模型发布前必须获得法官许可，也就是说，行政监管部门的封禁权力被置于司法审查之下。批评者认为，这看似提供了防范 AI 失控的保护，实际上却给监管机构设置了程序障碍，使封禁模型变得困难，可能削弱政府对高风险 AI 的干预能力。

该提案反映出 AI 安全治理中的核心分歧：如何在防范灾难性风险与避免过度监管之间取得平衡。对 AI 公司和开发者而言，这一立法动向将影响模型发布前的合规路径；对监管机构而言，则涉及执法权限的边界。法案能否推进、条文是否调整，值得持续关注。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：TechCrunch AI*