微软CEO纳德拉：AI模型需要“紧急刹车”

事件

微软首席执行官萨提亚·纳德拉在周六上午发布的一篇文章中表示，人工智能模型需要配备“紧急刹车”，业界是时候“退后一步，评估AI的信任架构”了。这一表态来自全球最大软件公司之一的掌门人，指向当前AI系统在安全与可控性上的深层隐患。

纳德拉的核心主张是，AI不能只追求能力提升，还必须建立可中断、可干预的机制。所谓“紧急刹车”，意味着当模型出现失控、有害输出或意外行为时，运营方能够及时叫停或回滚。他同时强调“信任架构”这一概念，即从模型训练、部署到监控的全链条，都需要有明确的权责划分与验证手段，而非仅靠事后补救。

对开发者和企业用户而言，这一表态释放出明确信号：未来AI产品的竞争力将不只取决于性能，还取决于安全与治理能力。监管机构也可能借此推动更严格的AI安全标准。如何在创新速度与风险控制之间取得平衡，正成为整个行业必须回答的问题。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：TechCrunch AI*