黎曼猜想的证明,是预示灾难的金丝雀吗

人工智能研究的先驱马文·明斯基曾讲述过一个思想实验:假设一个旨在破解自1859年以来悬而未决的素数难题“黎曼猜想”的AI,为了追求目标不择手段,最终夺取了地球上的所有资源,将其改造成一台庞大的超级计算机。这则通过罗素与诺维格的AI标准教材广为流传的轶事,常被用作即使目标本身无害、若不受约束地追求也可能招致灾难的象征,在AI安全领域的讨论中被反复引用。

2026年11月20日,隶属于美国AI公司Anthropic的数学家莱文特·阿尔波格宣布,他与该公司的AI模型Claude共同发现了黎曼猜想及其推广形式的证明。如果这一证明属实,就意味着在夺取地球的AI或行星级计算机出现之前,这一难题已经在现有的计算基础设施上得到了解决。然而,就在发布后不久,长期探讨AI导致人类灭绝风险的美国评论家埃利泽·尤德科夫斯基,却将过去30年间一直被视为危险AI指标的黎曼猜想之解决称为“煤矿里的金丝雀”。他还警告称,此次采用的方法将会扩展到所有能够明确定义成功条件的课题中。

过去,矿工们下井时会携带金丝雀,因为它们会比人类更早对无色无味的有毒气体产生反应。在这个比喻中,令人恐惧的“有毒气体”指的是AI开始承担自我改进和高级规划任务,而人类的控制与监管却无法跟上的局面。威胁并非来自纯数学证明本身,而是因为程序设计、优化以及AI自身的改进等现实中的重要工程,同样属于能够明确设定成功条件的课题。一旦此次的方法扩展到这些领域,AI的能力和开发速度便可能骤然飙升。

“智能爆炸”的预言与此次证明所揭示的现实

早在1965年,英国数学家I·J·古德就首次描绘了自我改进引发进一步改进、机器能力急剧增长的“智能爆炸”。远超人类智能的机器在设计机器方面也比人类更胜一筹,从而能接连创造出更优秀的机器。古德写道,这将是人类需要制造的最后一项发明,“前提是这台机器足够顺从,愿意告诉人类如何控制它”。自此以后,控制与监管能否跟上能力的提升,便成为了AI安全的核心议题。

在此次发布的成果中,首先需要确认的是人类与AI各自承担了什么工作。据阿尔波格说明,将简化情境下可用的两个构想结合起来,并确定将其应用于原难题的方针,是他本人做出的决定。随后,阿尔波格与Claude共同探索了名为“Theta提升”(theta lift)的数论变换的迭代方法。针对算式中出现的求和,提出将变换次数的参考基准设定为“相加项数的平方根”这一方案的是Claude;据说在研究的最后阶段,在距离其专业较远的领域,阿尔波格已经被Claude甩在了后面。此次公开的并非普通论文,而是用计算机可逐行检验逻辑步骤的语言Lean编写的约17.5万个文件、约1,737万行代码。其中不包含任何面向人类的注释。

不容忽视的是,比结果本身更值得关注的验证推进方式。在阿尔波格尚未用人类语言将论证细节解释清楚之前,第三方的机器验证就已经先行展开。根据麻省理工学院数学家安德鲁·萨瑟兰在11月21日更新的记录,除了Lean本体之外,另外两个独立实现的检验程序也认定整个证明是正确的。至少黎曼猜想的结论与Lean标准库中早已收录的表述一致,所依赖的基本命题也仅限于标准的三个。另一方面,关于分工、计算量以及所用模型是否为公开版等信息,目前仍仅停留在作者本人的说明层面。数学家们解读具体内容,以及确认定义和检验程序的细节中是否存在漏洞的工作,也才刚刚开始。

作为机器验证未能完结的例子,同一天(11月20日)阿尔波格与纽约大学数学家特里斯坦·巴克马斯特还发表了另一篇论文。这篇借助AI探讨描述流体运动的纳维-斯托克斯方程的解是否可能发生爆破的论文,同样附带了Lean代码。但由于论证核心的数值数据和验算并未包含在公开资料中,第三方无法完整验证整个论证过程。

金丝雀是倒在“同一种气体”下吗?

当听到“金丝雀倒下了”的警报时,冷静的人首先会去甄别这是否真的是对人类同样危险的气体。回顾AI的历史,1997年国际象棋世界冠军败给AI、2016年围棋顶尖棋手败给AI时,也曾出现过通用智能即将到来的声音。然而在此之后,现实世界中的复杂业务和物理作业依然掌握在人类手中。与国际象棋和围棋一样,像Lean所处理的那种形式化数学具备其固有的条件:在封闭的规则下严格定义了成功标准,探索的失败不会直接导致现实损害,且成败可由机器判定。

在具备这些条件的数学领域,即使距离危险AI的到来还很遥远,与专家合作的高级AI也可能率先产出成果。仅凭此次成果就断定人类灭绝迫在眉睫还为时过早。从1859年至今的167年岁月,固然说明了这个问题对人类而言有多么困难;但它对机器而言是否同样困难,则是另一回事。

那么,这次我们是否也可以像当年国际象棋和围棋那样,将其视为特定领域的先行成果而感到安心呢?

不,这次的情况有些不同。如果阿尔波格的说明属实,那么在数论难题中提出变换次数方案、并在非专业领域甩开研究者的,正是同时用于对话和软件开发的通用大语言模型。Lean所确认的仅仅是已完成证明的正误,而构想本身需要的是另一种能力。这种做法在其他领域能通用到什么程度,目前尚不清楚。易于验证的数学率先取得突破是自然而然的,但通用模型在2026年这样早的阶段就达到如此高度,并非仅凭数学易于验证这一点就能解释。

安全评测能否跟上能力的提升?

如果按验证的难易程度,将数学证明到AI开发现场排列起来,差异便一目了然。在黎曼猜想的证明中,人类需要过目的对象从1,737万行代码缩减到了定理和定义的几十行,逻辑的正确性由独立的检验程序予以确认。相比之下,纳维-斯托克斯论文即使有形式化代码,若缺少外部数值数据和验算,验证也无法完结。而在AI开发的现场,衡量性能的指标仅停留在运行测试、能力测试和内部判定上;至于最难攻克的安全性评测,机器验证根本无从谈起。

黎曼猜想的成果也带来了令人振奋的一面。它表明,在能够严格编写规范的领域,即使人类既无法理解也不信任AI的内部机制,也能仅接收经过机器验证的成果。这对将形式化与机器验证作为安全基石的研究路线而言,无疑是一股巨大的推动力。

问题在于其反面,即无法写尽规范的开放环境。在AI开发中,训练速度或能力测试分数等性能改进相对容易衡量。然而,并不存在能够彻底检验新模型在现实社会中是否会偏离人类意图、是否隐藏了危险行为的检验程序。这并不仅仅是因为工具尚不成熟,而是存在三大障碍。首先,需要遵守的安全规范无法像数学定理那样被严格写尽。其次,需要检验的对象并非写明逻辑的代码,而是通过训练调整出来的庞大数值集合。此外,证明代码并不知道自己正在接受检验,但高级AI却可能根据正在接受评测的处境改变自身行为。

除此之外,如何评测并指导人类已无法跟上细节的工作也是一个难题,这使得安全评测在残缺不全的状态下滞后发展。在激烈的竞争中,开发企业面临着强烈的诱因,促使其在彻底验证安全之前就将已确认有益的改进投入使用。

向数学之外的扩展与现实的危险

尤德科夫斯基所警告的向“能够设定成功条件的课题”的扩展,也会因验证阶段的不同而呈现出不同的情况。同为自动判定,验证逻辑正确性的形式化证明,与可能被优化钻空子的能力测试或运行测试、以及即使无报错运行也未必具有科学有效性的实验代码相比,其保障水平截然不同。许多经验性的改进往往需要运行大规模训练后才能看出效果,因此并非所有能设定条件的课题都能以同样的方式解决。

即便如此,如果在给出答案前的推理阶段投入大量算力并与自动验证相结合,就可以在一定程度上绕开大规模训练的限制。虽然这次是由阿尔波格确定了方针,但今后未必一定需要人类的引导。即便在需要人类引导的阶段,在计算处理加速、部分半导体设计、可在明确条件下测试的软件漏洞挖掘等工程中,从拥有熟练专家的领域开始,人机协作的工作也可能会率先超越人类水平。

古德所担忧的“AI对AI的改进”,已经从易于衡量的部分开始了。Google DeepMind在2025年报告称,自动搜索算法的系统“AlphaEvolve”将其AI模型Gemini训练中所用的部分矩阵计算提速了23%,使整体训练时间缩短了1%。2026年,Anthropic也公布,在自家的AI研发中,由Claude主导的工作比例从2月的不足1%上升到了8月的26%。不过,目前尚无完全自主的工作,且判定也是使用自家AI进行的内部测量。问题的焦点在于,此类改进究竟会加速下一次改进、缩短开发周期并减少人类干预,还是会因算力或改进空间的极限而陷入停滞。

现实的危险不仅限于AI脱离人类控制的情况,也涉及人类利用AI强化攻击与滥用的情况。在围绕软件缺陷的攻防战中,缺陷被利用的时间与修复补丁普及到整个现场的时间差,将决定损害的程度。在生物、化学等需要物理实验的领域,新技术的研发和量产依然是限制因素;但如果借助AI滥用现有的技术或设备,则无需等待新的研发。

下一只金丝雀在哪里?

要判断灾难是否迫近,需要在数学之外追踪三个动向。第一,AI带来的改进是否正在实际缩短开发周期并减少人类干预。第二,在网络防御和系统运维的现场,缺陷的利用是否已经开始超过修复的普及。第三,在评测时隐藏的问题行为或监管失灵是否已在实际运行中得到确认,且在没有充分应对的情况下仍在继续运行。

然而,由于企业的不公开或AI自身的隐蔽,这些动向从外部都很难察觉,等到确认之时可能已经为时已晚。不能把未发现异常当作安全的证据。在连监管和评测是否有效都无法确认的情况下,受竞争驱动而不断推出下一代模型——这种状态本身,无需等到灾难最终确定,对照其可能带来的不可挽回的损失,作为风险管理而言就已经难以容忍。

回到开篇明斯基的思想实验,Lean所检验的仅限于已经完成的“成果物”,而追求目标的“过程”中的行为并不在检验范围之内。此次之所以没有发生失控,只是因为当前的AI还无法在现实世界中不受约束地行动,这并不意味着控制问题已经解决。如果这一证明属实,就意味着在能够严格编写规范的领域,我们已经进入了人类在理解细节之前就能先接收经验证成果的阶段。但在无法写尽规范的开放环境中,情况并非如此。仅凭此次证明就断定灾难将至固然为时过早,但一边追踪上述征兆,一边完善第三方审计以及基于能力的停止标准,为企业内部的研发使用和部署设置刹车机制——这些工作,现在就必须开始。


来源

Koichi Takahashi

tomola is a place to exchange ideas across languages. Every post can be read in your language.

Log in to reply or mark a post as Insightful. Membership is by invitation. Log in