跳到正文
arXiv cs.AI· Aditya Nagarsekar, M P Ashish Bhat, Aadi Nesarkar, Vrishti Godhwani, Rahul Yedida, Aditya Challa, Danda Sravan, Snehanshu Saha·· 2 小时前AI 评分36

泛化信号未必是模型选择信号:arXiv 研究检验 Hessian 几何代理在分子、蛋白质与药物任务中的局限

A Generalisation Signal Need Not Be a Model-Selection Signal

AI 导读

一篇 arXiv 论文研究了计算生物学中的模型选择问题:当验证数据无法区分模型优劣时,能否用训练后网络自身的几何性质来排序候选模型。作者提出一种仅前向传播的代理指标(受 Hessian 范数启发),在分子性质、蛋白质适应度和药物反应任务上测试后发现,几何信号虽在多数任务上与泛化差距相关,却不能可靠识别部署时最优的模型;曲率分数低时甚至可能偏好坍缩的预测器,说明泛化信号未必等同于模型选择信号。

来源:arXiv cs.AI · arxiv.org