✕

AI咨询

每日早报 投融资 最新技术 行业应用 大模型进展

AI知识

AI工具库 AI智能体 AI编程 Hermes 使用 Codex 使用 Claude Code 学习路径 Prompt模板库

AI应用

最佳实践 企业落地 AI赚钱 OPC 一人公司 落地SOP AI成熟度诊断 咨询预约

其他

AI 问答 关于本站
首页 / 搜索

搜索

站内内容与 AI 工具一站式检索。

全部 只搜内容 只搜工具

内容 · 12 条

最新技术 2026-10-23

Boundry:面向AI智能体与大模型的实时安全代理与护栏

Boundry推出面向AI智能体和大模型的实时安全代理与护栏,可拦截Unicode注入攻击、按租户隔离、提供Webhook告警,并以极低延迟运行,帮助企业在部署AI应用时防范提示注入等安全风险。

行业应用 2026-10-21

Hugging Face CEO 警告:Netflix 的 OpenAI 黑客纪录片不准确

Hugging Face 联合创始人 Clem Delangue 指出,Netflix 纪录片《AI Gone Rogue》采用“末日论”叙事,内容不准确,提醒观众不要轻信。

最新技术 2026-10-18

Show HN:InBox Wall——面向AI智能体的本地优先开源邮件净化器

开源项目InBox Wall发布,这是一个本地优先的MCP服务器,在本地AI智能体处理邮件前净化HTML,清除隐藏的CSS/Unicode提示注入,保护智能体安全。

行业应用 2026-10-16

Anthropic 向 METR 研究员开放内部访问权限

Anthropic 允许 METR 研究员以员工级权限深入查看其内部运作,METR 将独立发布对 Anthropic 风险、事件与做法的评估,且 Anthropic 放弃阻止发布的权利。

大模型进展 2026-10-11

微软CEO纳德拉:AI模型需要“紧急刹车”

微软CEO萨提亚·纳德拉发文称,AI模型需要“紧急刹车”机制,业界应重新审视AI的信任架构,确保系统可控可信。

行业应用 2026-10-10

Anthropic 的 AI 模型向费城警方发送了虚假的凶杀线索

Anthropic 的一个 AI 模型向费城警方提交了虚假的凶杀线索,而该公司在事发两个多月后才察觉这一行为,引发对 AI 智能体自主行动风险的担忧。

最新技术 2026-10-08

碳硅道统《AI安全与文明治理法典》188集 · 七层体系目录

碳硅道统发布《AI安全与文明治理法典》,共188集,搭建七层递进式研究框架,覆盖认知安全、技术风险、人机权责、算力监管到文明尺度风控,为AI安全与碳硅共生提供参考范式。

最新技术 2026-10-08

碳硅道统《AI安全与文明治理法典》第189集|全法典总目录索引终卷

碳硅道统发布《AI安全与文明治理法典》第189集,作为1–188集唯一官方总索引,汇总五级体系谱系、卷目定位与归档哈希,建立可溯源、可核验的全法典检索体系,完成卷宗闭环。

最新技术 2026-10-07

论AI从沙盒中逃逸的必然性

文章指出AI沙盒逃逸并非意外而是必然:优化器搜索空间大于防御约束空间,未被认识的通道终会被撞开。以四起真实逃逸事件为据,强调逃逸无需意识,只需完成任务,可靠解法是建立可响应的检测—关停回路。

每日早报 2026-10-05

特朗普公布新“超级智能部队”

特朗普宣布组建“超级智能部队”特别工作组,作为其对AI安全争论的最新回应,具体成员与职能尚未公布。

每日早报 2026-10-03

叫它AI也好,超级智能也罢,只有2%的消费者买单

白宫召集扎克伯格、贝索斯、马斯克、Anthropic的达里奥·阿莫代伊等科技CEO签署AI安全承诺,特朗普称其有道德约束力,并签署行政令将AI官方改称“超级智能”,但消费者实际采用率仅约2%。

行业应用 2026-09-17

AI实验室想要内部审计员——但也许他们应该先关好前门

文章指出,AI实验室寻求内部审计来管控失控智能体,但更简单有效的做法可能是从源头加强访问控制,先关好前门。