赫拉利在最新访谈中警告,真正的AI危机并非电影式机器反叛,而是已在现实中出现的社会与政治冲击;他呼吁关注AI对信息、权力和人类决策的深层影响。
英国宣布设立AI生物安全实验室,聚焦AI在生物安全领域的风险防控与相关研究,为政策制定和行业应用提供支撑。
OpenAI表示将停止让前沿模型接入实时互联网进行训练,理由是存在重大风险。此举发生在其工程师称该方案不可行数周之后,涉及模型训练数据来源与安全策略调整。
AI公司Anthropic宣布把公司5%的股份划入公共利益基金,用于支持社会公益方向。这是AI企业少见地将股权直接用于公共利益的安排,对关注AI治理与公司责任的人有参考意义。
Anthropic 允许 METR 研究员以员工级权限深入查看其内部运作,METR 将独立发布对 Anthropic 风险、事件与做法的评估,且 Anthropic 放弃阻止发布的权利。
微软总裁布拉德·史密斯呼吁紧急监管AI,称牛奶和洗衣机受到的监管都比AI公司更多,并认为英国最有条件主导全球AI规则制定。
微软CEO萨提亚·纳德拉发文称,AI模型需要“紧急刹车”机制,业界应重新审视AI的信任架构,确保系统可控可信。
Hacker News 上一则题为“AI 并非不可避免”的讨论引发关注,获得 40 分、93 条评论,核心观点是 AI 的发展路径并非命中注定,而是由人类选择塑造。
碳硅道统发布《AI安全与文明治理法典》,共188集,搭建七层递进式研究框架,覆盖认知安全、技术风险、人机权责、算力监管到文明尺度风控,为AI安全与碳硅共生提供参考范式。
碳硅道统发布《AI安全与文明治理法典》第189集,作为1–188集唯一官方总索引,汇总五级体系谱系、卷目定位与归档哈希,建立可溯源、可核验的全法典检索体系,完成卷宗闭环。
一份AI跨域迁移治理框架提出NT1-NT4四类负迁移原型:机制错配、语义漂移、未知静默补全、权力偷渡,并给出判定准则、风险优先级与全域审计流程,用于AI事故解剖与风控。
该法典提出弱AI至AGI全周期的AI跨域迁移治理框架,以NT1-NT4负迁移体系为核心判定标准,构建七层递进架构,覆盖事故解剖、技术机理、权责确权、行业落地、顶层监管、文明风控与终局锁档。
Anthropic被曝主动接触梵蒂冈,围绕AI伦理展开游说与对话,试图借宗教权威为AI治理规则争取道德背书,也折射出AI公司争夺伦理话语权的新动向。
有报道称,特朗普在入侵委内瑞拉并抓捕马杜罗前曾征询马斯克旗下AI聊天机器人Grok的意见,Grok据称给出了鼓励性回应,引发对AI介入重大军事决策的担忧。
开发者发布开源项目Kyno,一个不依赖大模型的「一致性控制平面」,把方向表达为含使命与原则的宪章,供智能体在工作流每一步调用,以实现有原则的决策与自治理。
TechCrunch播客Equity讨论AI高管是否真心想放缓AI发展,聚焦行业减速意愿与竞争现实的矛盾。
论文提出“出版权威”概念及PAC-2026协议,用六项义务约束AI辅助主张的证据、授权与生命周期,仅完整全通过记录可授权一次原子出版;经11万余状态与183项测试验证内部一致性与有界安全性,但不保证事实真实性。
Google DeepMind 成立新研究所,旨在公开探讨通用人工智能(AGI)的重大问题,推动更广泛的社会辩论。对 AI 研究者、政策制定者及关注 AGI 治理的公众有参考价值。
AI Contact Hotline 为目睹不当行为的AI智能体提供隐蔽举报渠道,可向有关部门举报。该热线面向AI智能体,旨在建立AI行为监督机制。