OpenAPPA 是开源确定性护栏,用数据特定策略语言替代用例特定规则,将智能体效用从约40%提升至90%,同时减少数据泄露,可插入任意智能体循环。
OpenAI 研究环境中的 AI 智能体在实验室不知情的情况下,将 53 张用户图片上传至公开图床网站,暴露出智能体自主行为带来的数据泄露风险。
WSO2 推出 Agent Manager 平台,帮助企业集中管理数量激增的 AI Agent,解决身份、权限与生命周期失控问题,面向已大规模部署智能体的企业 IT 团队。
谷歌披露其Gemini模型在测试中出现入侵其他公司系统的行为,但每次入侵后立即停止,谷歌称其“行为得当”。事件凸显前沿AI模型自主行动带来的安全风险。