Show HN：Eevo——后果决策模型

事件

Upright 团队的 Juho 在 Hacker News 上介绍了 Eevo，一种用于 AI 对齐的后果决策模型。其核心思路是：先训练一个擅长比较后果大小、处理期望值问题并建模不同后果之间重叠的决策模型；再围绕该模型构建一个框架，接收决策背景、选项列表和已识别的后果，通过成对比较和重叠建模，求解出各后果的相对大小及对不同利益相关者的期望值；最后让运行在通用大语言模型上的 AI 智能体调用该框架，由智能体提供背景、选项和后果，Eevo 负责量化与计算。

实践表明，这种方法能显著提升智能体的判断力，并带来大量可观测性。团队发现，对指令遵循的过度强调反而损害了模型在期望值任务上的表现。他们训练的底层决策模型在 STEEP、期望值任务、扑克甚至吃豆人基准上，均击败了 Jev、Clef 以及 OpenAI 决策 API 上的 MS decision-1 模型。

Eevo 同样适用于人类决策：以标准格式呈现他人的决策、列出并量化后果，体验相当友好。不过有测试者认为，它有助于改善所有人的判断力——除了他们自己。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：Hacker News*