研究:ESM-2预训练过滤病毒蛋白有效但微调可恢复
热点事件持续更新
研究:ESM-2预训练过滤病毒蛋白有效但微调可恢复
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Aaron Maiwald 等研究者在 arXiv 论文中以 ESM-2 系列蛋白质语言模型(8M 到 3B 参数)为对象,发现从预训练数据中过滤病毒蛋白会显著降低模型在病毒蛋白上的掩码语言建模、突变效应预测和长程接触预测能力,但对非病毒蛋白的性能基本不受影响。 研究同时发现这种过滤并不持久:用被过滤掉的病毒家族序列对模型进行微调,即可恢复损失的性能,即使对最大的模型,成本也仅约 80 美元的 H100 计算时间。
AI 根据报道生成 · 30 分钟前更新
最新进展11月20日 13:00
研究考察 ESM-2 蛋白质语言模型预训练数据过滤的有效性与持久性报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AI研究考察 ESM-2 蛋白质语言模型预训练数据过滤的有效性与持久性
研究以 ESM-2 系列(8M 到 3B 参数)蛋白质语言模型为对象,考察预训练数据过滤的有效性、持久性与可扩展性。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。