MeMoDecode:基于元模型引导的 LLM 解码实现一致 DSL 生成
Metamodel-Guided LLM Decoding for Consistent DSL Generation
AI 导读
MeMoDecode 是一种解码框架,在 LLM 生成 DSL 产物时联合强制执行具体语法、抽象语法和良构性约束,并在检测到不一致时从最近可完成快照恢复解码。在 4 种 DSL 和 6 个 0.6B 至 70B 参数的开源权重 LLM 上,其一致性平均比无约束解码提升 23%,比语法约束解码提升 8%,且运行开销较小。
来源:arXiv cs.AI · arxiv.org