站内内容与 AI 工具一站式检索。
Hacker News讨论了一种红队测试方法：用一个能伪造工具输出结果的LLM来检验AI智能体监控器是否可靠，对做智能体安全与对齐的团队有参考价值。
碳硅道统发布《AI安全与文明治理法典》，共188集，搭建七层递进式研究框架，覆盖认知安全、技术风险、人机权责、算力监管到文明尺度风控，为AI安全与碳硅共生提供参考范式。
Anthropic 被曝运营一个开展生物学实验的实验室。此前该公司一边宣称 AI 是治愈人类疾病的关键，一边警告 AI 可能带来灭绝风险，此举引发对其生物领域布局的关注。