开源 LLM 通过 RL 后训练可在垂直领域达到 SOTA
As I suspect w/ open src LLMs, you can RL them w/ good data set + competent domain knowledge to be SOTA in the area that you care about. While trainin...
AI 导读
Tony Huang 指出，开源 LLM 与全量训练相比，针对特定领域用高质量数据集加专业领域知识做 RL 后训练要容易得多，足以在自己关心的领域做到 SOTA。他建议在比较较小的中国模型与 GPT Astra 时考虑这一因素。