黎曼猜想的證明,是預告災難的金絲雀嗎?

人工智慧研究的先驅馬文・明斯基(Marvin Minsky)曾提出一個思想實驗。他假設一個被設計來解決自1859年以來懸而未決的質數難題「黎曼猜想」的AI,可能會因為過度追求目標而奪取地球上所有的資源,將地球改造成一台巨大的超級電腦。這則透過羅素(Russell)與諾維格(Norvig)的AI標準教科書而廣為人知的軼事,作為「即使是無害的目標,若無限制地追求也可能招致災難」的象徵,在AI安全的討論中被反覆引用。

2026年11月20日,任職於美國AI企業Anthropic的數學家萊文特・阿爾波格(Levent Alpöge)宣布,他與該公司的AI模型Claude共同發現了黎曼猜想及其推廣的證明。如果這項證明屬實,這意味著在奪取地球的AI或行星規模的電腦出現之前,這個難題就已經在現有的運算基礎上被解開了。然而在消息公布後不久,長期論述AI導致人類滅絕風險的美國評論家艾利澤・尤德科夫斯基(Eliezer Yudkowsky),將過去30年來一直被列為危險AI指標的黎曼猜想之解決,稱為「煤礦裡的金絲雀」。他也警告,這次的手法將會擴展到所有能明確定義成功條件的課題上。

過去礦工們會帶著對無色無臭有毒氣體比人類更早產生反應的金絲雀進入地下。在這個比喻中令人恐懼的「有毒氣體」,指的是AI開始承擔自我改良與高度規劃,導致人類的控制與監視無法跟上的事態。構成威脅的並不是純數學證明本身,而是程式設計、最佳化、AI自身的改良等現實中的重要工程,也都包含在「能明確訂定成功條件的課題」之中。一旦這次的手法擴展到這些領域,AI的能力與開發速度便可能一口氣暴增。

「智慧爆炸」的預言,以及這次證明所顯示的意義

1965年,英國數學家I・J・古德(I. J. Good)首次描繪了自我改良促使進一步改良、讓機器能力急劇增長的「智慧爆炸」。擁有遠超人類智慧的機器,在設計機器方面也比人類更擅長,因此會接連不斷地創造出更優秀的機器。古德寫道,這將會是人類需要製造的最後一項發明,並附上但書:「前提是這台機器足夠順從,願意教導人類如何控制它。」自此之後,控制與監視能否追上能力的增長,便成為AI安全的核心課題。

在這次的發表中,首先要確認的是人類與AI各自負責了什麼。根據阿爾波格的說明,將簡化情況下可用的兩個構想結合起來,並訂定應用於原本難題的方針,是由他本人完成的。接著,阿爾波格與Claude共同探索了一種反覆進行稱為「Theta提升」(theta lift)的數論轉換之手法。針對算式中出現的總和,提出將轉換次數的基準設為「相加項數的平方根」這個點子的是Claude;據稱在研究尾聲、距離他自身專業較遠的領域中,阿爾波格甚至被Claude拉開了差距。公開的並非一般論文,而是以電腦能夠檢查邏輯各階段的語言Lean所編寫的約17萬5千個檔案、約1,737萬行程式碼,其中一行給人類看的註解都沒有。

不容忽視的是,比起結果的重大性,更值得關注的是驗證的推進方式。在阿爾波格用人類語言將論證細節說明完畢之前,第三方的機械驗證就已經先行展開。根據麻省理工學院數學家安德魯・薩瑟蘭(Andrew Sutherland)於11月21日更新的紀錄,除了Lean本體之外,另外兩個獨立實作的檢查程式也認定整份證明是正確的。至少黎曼猜想的結論與Lean標準函式庫中早已收錄的形式化定義一致,作為前提的基本命題也僅限於標準的三個。另一方面,關於分工方式、運算量以及所使用的模型是否為公開版,目前仍僅止於作者本人的說明。數學家解讀內容的工作,以及確認定義與檢查程式的細節中是否存在漏洞,也都才正要開始。

作為機械驗證無法完結的例子,同在11月20日,阿爾波格與紐約大學數學家崔斯坦・巴克馬斯特(Tristan Buckmaster)發表了另一篇論文。這篇在AI協助下論述流體運動的納維-斯托克斯方程式(Navier-Stokes equations)之解可能發生爆破(blow-up)的論文,同樣也附上了Lean程式碼。然而,作為論證關鍵的數值資料與驗算並未包含在公開資料中,第三方無法完整確認整個論證。

金絲雀是因「同一種氣體」而倒下的嗎?

當聽到「金絲雀倒下了」的警報時,冷靜的人首先會試圖判斷那是否真的是對人類也有危險的氣體。回顧AI的歷史,1997年西洋棋世界冠軍敗給AI、以及2016年圍棋頂尖棋士敗給AI時,也曾出現通用智慧即將到來的聲音。然而現實世界中複雜的業務與物理作業,在那之後依然留在人類手中。與西洋棋和圍棋一樣,像Lean所處理的形式化數學也具備固有條件:在封閉的規則下嚴格定義成功,探索失敗不會直接造成現實損害,且成敗可由機器判定。

在具備這些條件的數學領域,即使危險AI的到來還早,與專家合作的AI仍可能率先產出成果。僅憑這次的成果就斷定人類滅亡迫在眉睫未免過早。從1859年至今的167年歲月,訴說了這個問題對人類而言有多麼困難。然而,對機器而言是否也同樣困難,則是另一回事。

那麼,這次是否也能像西洋棋和圍棋那時一樣,將其視為特定領域領先達成的成果而感到安心呢?

不,這次的情況有些不同。如果如阿爾波格所言,在數論難題中提出轉換次數的點子、並在遠離其專業的領域拉開與研究者差距的,是同時也用於對話與軟體開發的通用大型語言模型。Lean所確認的僅止於完成後的證明是否正確,構想本身則需要另一種能力。這種做法在其他領域能通用到什麼程度,目前還不得而知。容易驗證的數學率先取得進展是自然的,但通用模型在2026年這麼早的階段就走到這一步,光靠數學容易驗證這一點是無法解釋的。

安全評測能追上能力的提升嗎?

若將從數學證明到AI開發第一線的領域依「驗證的難易度」排列,差異便一目了然。在黎曼猜想的證明中,人類需要過目的對象從1,737萬行縮減到定理與定義的數十行,邏輯的正確性則由獨立的檢查程式確認。另一方面,納維-斯托克斯論文即使有形式化程式碼,若缺少外部數值資料與驗算,驗證就無法完結。更進一步說,在AI開發第一線衡量效能的指標僅止於執行測試、能力測驗與內部判定;而在最困難的安全性評測中,機械驗證根本無從成立。

黎曼猜想的成果也有令人抱持希望的一面。因為它顯示了在能嚴格撰寫規格的領域中,人類可以從既無法理解也無法信任其內部運作的AI那裡,只接收經過機器驗證的成果。這對將形式化與機械驗證作為安全基礎的研究路線而言,是一大助力。

問題在於其反面,也就是無法將規格寫盡的開放環境。在AI開發中,訓練速度或能力測驗分數等效能改善相對容易衡量。然而,並不存在能夠徹底驗證新模型在現實社會中是否會偏離人類意圖、或是否隱藏了危險行為的檢查程式。這不只是工具尚未成熟而已,而是存在三個障礙。首先,必須遵守的安全規格無法像數學定理那樣嚴格寫盡。其次,受檢的對象並非寫下邏輯的程式碼,而是透過訓練調整出來的龐大數值集合。再者,證明的程式碼並不知道自己正在受檢,但高度先進的AI卻可能根據正在接受評測的情境而改變自身行為。

除此之外,還有如何評測與指導人類無法完全掌握細節之工作的難題,使得安全評測只能在不完整的狀態下緩慢推進。身處激烈競爭中的開發企業,往往有強烈的誘因在徹底驗證安全之前,就先採用已確認具優勢的改良。

向數學之外的擴展,與現實的危險

尤德科夫斯基警告的向「能訂定成功條件的課題」之擴展,也會依驗證階段而有不同情況。同為自動判定,確認邏輯正確性的形式證明,與可能因最佳化而被鑽漏洞的能力測驗或執行測試、以及即使無錯誤運行也不見得科學上妥當的實驗程式碼,三者的保證水準並不相同。也有許多必須透過大規模訓練才能看出效果的經驗性改良,因此不能斷言所有能訂定條件的課題都能以同樣的方式解決。

即便如此,若在得出答案前的推論階段投入大量算力並結合自動驗證,便能繞過部分大規模訓練的限制。這次是由阿爾波格訂定方針,但今後未必一定需要人類的引導。即使在仍需人類引導的階段,在運算處理加速、部分半導體設計、以及能在明確條件下測試的軟體漏洞搜尋等工程中,具備熟練專家的第一線仍可能率先出現「與AI合作的作業開始超越人類水準」的情況。

古德所擔憂的「由AI進行的AI改良」,已經從容易衡量的部分開始了。Google的AI研究機構DeepMind在2025年報告指出,自動探索演算法的系統「AlphaEvolve」將該公司AI模型Gemini訓練所使用的部分矩陣運算加速了23%,並將整體訓練時間縮短了1%。2026年Anthropic也公布,在自家的AI研發中,由Claude主導的工作比例從2月的不到1%增加到8月的26%。不過,目前還沒有完全自主的工作,判定也是使用自家AI進行的內部測量。焦點在於,這類改良是否會加速下一輪改良、縮短開發週期並減少人類介入,還是會因為算力或改良空間的極限而觸頂。

現實的危險不僅限於AI脫離人類控制的情況,也包括人類利用AI加強攻擊與濫用的情況。在圍繞軟體缺陷的攻防中,缺陷被濫用所需的時間,與修補程式普及到整個現場所需的時間,兩者之間的差距將會左右損害程度。在生物或化學等伴隨物理實驗的領域,新開發與量產仍是限制,但若是在AI協助下濫用現有技術與設備,便無需等待新開發。

下一隻金絲雀在哪裡?

要判斷災難是否迫近,需要在數學之外追蹤三項動向。第一,AI所帶來的改良是否實際縮短了開發週期並減少了人類介入。第二,在資安防禦或系統維運的現場,缺陷的濫用是否開始超越修補的普及。第三,在評測時隱藏的問題行為或監視失效是否在實際運作中被確認,且在沒有充分應對的情況下仍持續運作。

然而,這些動向都可能因企業不公開或AI自身的隱蔽而難以從外部察覺,等到確認時恐怕為時已晚。看不到異常並不能作為安全的證據。在連監視與評測是否有效都無法確定的情況下,仍受競爭驅使而持續推出下一代模型——這種狀態本身,無須等到災難確定發生,對照可能造成的無可挽回之損失,在風險管理上就已經難以容許。

回到開頭明斯基的思想實驗,Lean所檢查的僅限於完成後的「成果物」,追求目標的「過程」中之行為並不在檢查對象內。這次沒有發生失控,是因為目前的AI還無法在現實世界中無限制地行動,並不代表控制的問題已經解決。如果這項證明屬實,那麼在能嚴格撰寫規格的領域中,人類已進入在理解細節之前就能先接收已驗證成果的階段。但在無法寫盡規格的開放環境中,卻並非如此。僅憑這次的證明就斷定災難將至還言之過早,但我們現在就必須開始追蹤前述徵兆,同時建立第三方稽核與依能力訂定的停止標準,為企業內部的研發利用與部署踩下煞車。


資料來源

Koichi Takahashi

tomola is a place to exchange ideas across languages. Every post can be read in your language.

Log in to reply or mark a post as Insightful. Membership is by invitation. Log in