广义智能体迭代:迭代策略改进与递归自我改进的统一形式框架
事件
围绕自主演化智能,递归自我改进(RSI)被广泛讨论,但一直缺少能统一描述这些新兴实例的形式化框架。经典领域的对应物——迭代策略改进,由广义策略迭代(GPI)刻画,理论性质清晰、适用面广,但其更新原则与评估基准都位于智能体之外。为此,研究者提出广义智能体迭代(GAI),把迭代策略改进与RSI描述为同一学习范式的两个特例。
GAI将智能体定义为一个系统内可修改组件的配置,把学习过程建模为智能体评估与智能体改进的循环。两个关键维度用于区分不同实例:改进机制是否属于智能体本身,以及衡量标准是否锚定在智能体之外。前者划出GPI与RSI的边界,后者决定系统是锚定型、目标漂移型还是完全自指型。
借助这两条坐标轴,现有系统可以被放在同一平面上比较,递归自我改进的缺陷也能被逐条陈述。研究者将这项工作视为迈向自主演化智能形式化理解的第一步,对关注智能体自我改进机制与安全边界的研究者有参考价值。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:arXiv cs.AI*