跳到正文
arXiv cs.AI· Hyojung Han, Ryangkyung Kang, Youngeun Kim, Seung-Hun Jeon·· 1 天前AI 评分46

PTQ 校准何时有益或有害:量化文本嵌入器中的剂量驱动崩溃与验证门控弃用分析

When PTQ Calibration Helps or Hurts: Dose-Driven Collapse and Validation-Gated Abstention in Quantized Text Embedders

AI 导读

一项 arXiv 研究分析 4-bit 权重量化下 PTQ 校准对文本嵌入器的影响,覆盖 e5-base-v2、BGE-M3、EmbeddingGemma-300m 三款模型共 161 次校准运行。

来源:arXiv cs.AI · arxiv.org