VISTA：面向离散扩散加速序贯蒙特卡洛引导的价值感知调度裁剪

事件

奖励引导的离散扩散模型能在推理阶段与下游目标对齐，但在每个去噪步骤都施加序贯蒙特卡洛（SMC）引导计算代价高昂：主动引导步骤需要额外的奖励评估，基于梯度的提议还要计算价值梯度。稀疏引导只在一部分时间步上引导以降低成本，但常用调度是固定启发式，效果在不同任务间差异很大。

为此研究者提出 VISTA，一种免训练方法，可在固定预算下自动选择被引导的时间步。VISTA 把稀疏引导建模为对理想全引导概率路径的近似，推导出可估计的 L1 路径偏差上界；利用少量全引导预热生成收集到的价值统计量，通过动态规划精确优化经验代理目标。预热生成可保留为模型输出，调度选定后，VISTA 每次生成的引导复杂度与其他同预算稀疏调度相同。

在文本、生物序列和图像生成任务上，VISTA 能发现依赖任务的调度，在多数测试设置中优于手工设计的稀疏调度，并在若干任务指标上接近或超过全引导性能。以有毒文本生成为例，VISTA 达到 0.99 的独特有毒比例，全引导为 1.00，同时将选择后每次生成的延迟从 204.23 秒降至 38.16 秒，加速 5.35 倍。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：arXiv cs.AI*