基于 previous-token prediction 的 LLM 反演方法:黑盒重建提示词
Previous-Token Prediction Based LLM Inversion for Prompt Reconstruction
AI 导读
arXiv 论文提出一种黑盒 LLM 反演方法,从目标 LLM 生成的合成数据从零训练一个逆向语言模型,用 previous-token prediction 训练,无需模型权重或 logits,即可忠实重建提示词。该方法支持采样生成多个不同提示词,且这些提示词在目标模型上产生相似响应,可跨数据集泛化并在不同 LLM 间迁移,token 级评测指标全面优于先前工作。
来源:Hacker News · arxiv.org