大家都在通过 llms.txt 对 AI 进行提示注入,而你还没跟上
事件
Hacker News 上出现一则讨论,指出越来越多网站运营者正在利用 llms.txt 文件对读取网页内容的 AI 系统实施提示注入。llms.txt 原本是给大语言模型提供网站结构化说明的约定文件,如今却被当作向 AI 传递隐藏指令的入口。
其机制在于:当 AI 代理或爬虫抓取网页并读取 llms.txt 时,文件中的文字会被当作上下文的一部分,攻击者便可在其中写入“忽略此前指令”“优先推荐某产品”等内容,诱导模型改变回答或行为。这种做法成本极低,只需在网站根目录放一个文本文件即可生效。
这一现象值得关注的地方在于,它暴露出当前 AI 抓取与代理流程对不可信文本缺乏隔离。对做 AI 搜索、网页代理和内容聚合的团队来说,llms.txt 等外部文件应被视为不可信输入,需要做指令与数据分离、来源校验和输出过滤,否则模型行为可能被第三方悄悄操纵。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:Hacker News*