字节跳动 Seed 单独设立大模型安全与对齐部门

事件

字节跳动 Seed 近日发出内部邮件，宣布成立“Seed Model-Alignment&Preparedness”部门，由严林负责，向 Seed 负责人吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。这是国内前沿 AI 实验室首次将安全与对齐工作从公司整体安全合规体系中独立出来，单独设立部门。

新部门的核心目标是让模型行为与人类意图和安全约束保持一致，重点提升智能体模型的安全能力，并防范化学、生物、放射、核等前沿能力风险。具体投入方向包括模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控，同时加强与外部研究机构和第三方评测的公开合作。

Seed 团队内部判断，随着模型能力增强、应用场景复杂化，安全与对齐已不只是风险防范，而是决定模型能否规模化应用的核心能力。当前智能体逃逸引发的网络攻击等事件频繁发生，大模型安全风险日益凸显。该部门的设立意味着字节跳动试图在模型能力与自主性提升的同时，持续降低滥用及行为偏离风险，建立面对未知风险的全面安全体系。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：雷锋网*