软件是不是本来就复杂到超出人类能力?——从黎曼猜想被 AI 辅助证明说起
Was software just always too complex for humans?
AI 导读
作者由上周黎曼猜想经 1700 万行 AI 辅助代码完成证明引发思考,指出人类写的软件充满漏洞,安全风险正在加剧。他提出三条出路:先为软硬件各层建立形式化规范并由其推导新软件、用智能体强制实现多样性以避免单一文化的批量沦陷、以及改变开源社区的社会协作与信任机制。作者认为仅靠更好的模型和 harness 不足以让软件工程跟上。