跳到正文
热点事件持续更新

提出prompt条件化SDF让模型相信任意注入事实

1 篇报道1 个报道来源53 分钟前更新

先了解这件事

AI 综述

Ananya Sutradhar 与 Fabien Roger 发布论文(arXiv:2611.23938),提出提示词条件化 Synthetic Document Finetuning(SDF):对单个模型在覆盖数千个事实的合成文档上微调,使其相信提示中 <facts> 标签注入的任意事实,从而无需为每套假信念单独微调一个新模型。作者称这是对该方法的探索。 两位作者同时说明该方法存在初步限制:在小模型上将其应用于对齐审计的初步实验结果为负;而针对其一项信念深度指标做训练,会使这类评估更难被信任。

AI 根据报道生成 · 34 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    让 LLM 相信提示词中的任意假事实:提示词条件化 SDF 研究

    研究提出提示词条件化 Synthetic Document Finetuning(SDF),对单个模型在覆盖数千个事实的合成文档上微调,使其相信提示词标签中注入的任意假事实,避免每套假信念都微调一个新模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。