Posted
リーマン予想の証明は、破局を告げるカナリアか
人工知能研究の草分けであるマービン・ミンスキーはかつて、一つの思考実験を語った。素数の分布をめぐる難問「リーマン予想」(1859年提起)を解くよう作られたAIが、目標を追求するあまり地球の資源をすべて奪い取り、巨大なスーパーコンピューターへ変えてしまうかもしれない、という想定である。スチュアート・ラッセルとピーター・ノーヴィグによるAIの標準教科書を通じて広く知られたこの思考実験は、無害な目標でも無制約に追求すれば破局を招きうることの象徴として、AI安全性の議論で繰り返し引かれてきた。
2026年11月20日、そのリーマン予想について、米国のAI企業Anthropicに所属する数学者レベント・アルポゲが、同社のAIモデルClaudeとともに証明を発見したと発表した(より広い命題である一般化リーマン予想も含む)。この証明が正しければ、地球の資源を奪うAIも惑星規模の計算機も現れないうちに、リーマン予想が現在の計算基盤の上で解かれたことになる。それでも発表の直後、AIによる人類絶滅の危険を長く論じてきた米国の論客エリエザー・ユドコウスキーは、リーマン予想は過去30年にわたり危険なAIの到来を告げる指標として挙げられてきたと述べ、その解決を「炭鉱のカナリア」と呼んだ。今回の証明で使われたAI活用の手法は、目標や条件を明確に定義できるあらゆる課題へ広がるだろうとも警告した。
かつて鉱夫たちは、無色無臭の有毒ガスに人間より先に反応するカナリアを連れて地下へ入った。この比喩では、リーマン予想の解決がカナリアの異変に当たり、恐れられている「有毒ガス」は、AIが自らの改良や高度な計画を担い始め、人間の制御と監視が追いつかなくなる事態を指す。純粋数学の証明そのものが人類を直接に脅かすわけではないが、長年の難問に通用した手法がAI自身の開発や現実世界の危険な領域へ広がれば、AIの能力が人間の制御の効かない水準へ予想外に早く達するおそれがある。
## 「知能爆発」の予言と、今回の証明が示したこと
1965年、自己改良がさらなる改良を促して機械の能力が急激に増大する「知能爆発」の筋道を最初に明確に描いたのは、英国の数学者I・J・グッドだった。人間をはるかに凌ぐ知能を持つ機械は、機械の設計という知的作業も人間よりうまくこなせるため、さらに優れた機械を次々に生み出す。グッドは、そのような機械は人類が作る必要のある最後の発明になるだろうと書き、「その機械が、人間に制御の方法を教えてくれるほど従順であればの話だが」とただし書きを添えた。以来、能力が伸びる速さに制御と監視が追いつくのか、そもそも人間を超える知能を制御下に置けるのかが、AI安全性の中心課題となってきた。
この視点から今回の発表を見ると、まず確かめたいのは人間とAIが何を分担したかである。アルポゲが公開した短い説明文によれば、問題を単純化した状況で使える二つの着想を結びつけ、元の難問へ応用する方針を定めたのはアルポゲ自身だった。そこからアルポゲとClaudeは、「テータリフト」と呼ばれる数論の変換を繰り返す手法を探った。素数の分布を調べる式に出てくる和を扱うとき、この変換を何回繰り返せばよいか。その和の項数(足し合わせる項の数)の平方根を目安にする案を出したのはClaudeであり、研究の終盤、自分の専門から遠い領域ではClaudeに引き離されたとアルポゲは記している。公開されたのは通常の論文ではなく、Leanという言語で証明を書き下した(形式化した)約17万5千ファイル、約1,737万行のコードだった。Leanはコンピューターが論理の各段階を機械的に検査できる言語であり、公開されたコードには人間向けの注釈(コメント)が一行も含まれていなかった。
AI安全性の観点から見逃せないのは、結果の大きさ以上に検証の進み方である。アルポゲ自身が議論の細部を人間の言葉で説明し終えるより先に、第三者による機械検証が進んだ。マサチューセッツ工科大学の数学者アンドリュー・サザーランドが日本時間11月21日朝に更新した記録によると、Lean本体の検査プログラムに加え、独立して実装された二つの検査プログラムが証明全体を正しいと認めた。一般化リーマン予想を含めた細部の精査は残るものの、少なくともリーマン予想の結論は、Mathlib(Leanで共有されている標準的な数学の定義・定理集)に以前から収められていた定式化と一致していた。証明せずに前提とする基本命題(公理)も、Leanで標準とされる三つに限られており、未証明の箇所や独自の公理が紛れ込んでいないことも確かめられた。一方で、先述の役割分担や投入した計算量、使われたモデルが公開版かどうかといった研究の経緯は、開発元に所属する著者自身の説明に基づくものであり、証明の正否と違って第三者の検証を経ていない。数学界による概念的な受容や、定義と検査プログラムの細部に抜け道がないかの確認もこれからである。仮に今後どこかに綻びが見つかれば、機械検証に頼ること自体の危うさを示す実例になりうる。
機械検証がどこまで完結するかという点では、同じ11月20日にアルポゲがニューヨーク大学の数学者トリスタン・バックマスターとともに公表した別論文が対照的である。流体の運動を記述するナビエ・ストークス方程式の解が破綻しうることをAIの助けを借りて論じたこの論文にも、Leanによる形式化のコードは添えられていた。しかし、論証の要となる数値データとその正しさを確かめる計算が公表時の資料に含まれておらず、公開資料だけでは論証全体の検証を完了できない。人間が追い切れない成果を第三者が確かめられるかどうかは、必要な根拠まで含めて機械検証のなかで完結しているかに左右される。
## カナリアは「同じガス」で倒れたのか
炭鉱でカナリアが倒れたとき、最初に問うべきは、それが本当に人間をも脅かす同じガスによる反応なのかという点である。AIの歴史を振り返ると、1997年にチェスの世界王者が、2016年に囲碁のトップ棋士がAIに敗れたときも、汎用的な知能の到来が近いと語る声があった。それでも現実世界の複雑な業務や物理的な作業は、そのあとも人間の手にとどまり続けた。チェスや囲碁と同じく、Leanで扱うような、論理を形式化した数学には固有の条件がそろっている。閉じたルールのもとで何が成功かが厳密に定まり、学習や探索の段階での失敗が現実の被害に直結しにくく、成否を機械的に判定できる。
こうした条件を考えれば、今回の成果をもって人類の滅亡が間近に迫ったと結論づけるのは早い。危険なAIの到来がまだ先であっても、ルールと判定法が整った数学なら、専門家と組んだAIが先に成果を出しうるからである。1859年から167年という歳月は、人間にとってこの問題がどれほど難しかったかを物語る。しかし、人間にとって難しい問題が解けたことと、現実社会へ致命的な被害をもたらす能力の実現に近づいたこととは別である。
では、今回もチェスや囲碁のときと同じように、特定領域で先行した成果として安心してよいのだろうか。
かつてのチェスや囲碁とまったく同じ話とは言えない。チェスや囲碁を制したのは、その競技のためだけに作られた特化型のプログラムだった。今回、アルポゲの説明どおりなら、数論の難問で変換回数の案を出し、専門から遠い領域で研究者を引き離したのは、会話やソフトウェア開発にも使われる汎用的な大規模言語モデルである。Leanが確かめるのは完成した証明の正否にとどまり、着想そのものは別の能力を要する。この研究体制のどの部分が他分野へ移せるかは、別に確かめる必要がある。ただ、検証しやすい数学が他分野より先に進むのは自然だとしても、汎用モデルが2026年の時点でこの難問に到達した速さまでは、それで片づけることはできない。カナリアの比喩に即して言えば、答えは二つに分かれる。検証のしやすさは数学に固有だが、そこで動いたのが汎用的な大規模言語モデルである点は、ほかの分野とも共通する「同じガス」の成分を含んでいる。
## 能力の向上に、安全の評価は追いつくか
数学の証明からAI開発の現場までを検証できる度合いで並べてみると、AI安全性の難しさがどこにあるかが見えてくる。リーマン予想の証明では、人間が確かめるべき対象が1,737万行のコード全体から定理の文と定義の数十行にまで縮まり、独立した検査プログラムによって論理の正しさを確かめられた。同日のナビエ・ストークス論文は、形式化のコードがあっても外部の数値データと検算が欠ければ検証が完結しない。さらに、AI開発の現場で性能を測る指標は実行試験やベンチマーク、社内判定にとどまり、最難関である安全性の評価では、そもそも機械検証が成り立たない。
一方で、リーマン予想の成果には明るい見通しにつながる面もある。仕様を厳密に書ける領域なら、人間が中身を理解も信頼もできないAIから、機械で検証済みの成果だけを受け取れるという実例だからである。このように形式化と機械検証を安全の土台に据える研究路線にとっては、大きな追い風になる。
問題はその裏側、すなわち仕様を書き切れない開かれた環境にある。AIの開発では、学習速度や能力テストの点数といった限定された性能改善は比較的測りやすい。しかし、新しいモデルが実社会で人間の意図から外れた行動をとらないか、危険な振る舞いを隠していないかを検証し切る検査プログラムは存在しない。そうしたプログラムがないのは単に道具が未熟だからではなく、三つの障害があるためである。守るべき安全の仕様は数学の定理のように厳密に書き切れず、検査すべき対象も論理を書き下した証明のコードではなく、学習で調整された膨大な数値パラメーターである。加えて、証明のコードは自分が検査されていることを知らないが、高度なAIは評価されている状況に応じて振る舞いを変えうる。人間が細部を追い切れない仕事をどう評価し指導するかという難題を含め、安全の評価は不完全なまま遅れて進む。激しい競争のなかにいる開発企業には、利点が確かめられた改良を、安全を検証し切る前に取り込む強い誘因が働く。
ユドコウスキーが警告した、定義できるあらゆる課題への広がりも、この検証の段階に分けて見る必要がある。自動判定といっても、論理の正しさを確かめる形式証明と、点数を測れるが抜け道を突かれうるベンチマークや実行試験、そしてエラーなく動くことと科学的に妥当であることが別である実験コードの生成とでは性質が異なる。自動の判定器に向けて最適化すれば、判定器の穴を突く行動も起きうる。また、課題の難しさは一列に並ばず、大規模な学習を回して初めて効果がわかる経験的な改良も多いため、定義できる課題がほぼ同じように解けるとは言い切れない。
もっとも、既存のモデルに対し、答えを出す前の推論に計算資源を多く割り当てて自動検証と組み合わせる道筋では、大規模学習の制約の一部を迂回できる。また、今回はアルポゲが方針を定めたことから人間の関与が不可欠だとする見方もあるが、今回の事例が示したのは人間が関わった事実までであり、今後も不可欠かどうかは別問題である。人間の案内がまだ要る段階であっても、計算処理の高速化、半導体設計の一部、明確な条件で試せるソフトウェアの脆弱性探索といった工程では、熟練した専門家がそろう現場から先に、AIと組んだ作業が人間の水準を超え始める可能性がある。
グッドが懸念した「AIによるAIの改良」は、こうした計測しやすい部分からすでに動き始めている。実運用に組み込まれた小さな例として、Google DeepMind(GoogleのAI研究機関)は2025年、アルゴリズムを自動探索するシステム「AlphaEvolve」の成果を報告した。同社のAIモデルGeminiの学習に使う重要な行列計算の一部を23%高速化し、学習全体の所要時間を1%短縮したという。2026年には、Anthropicも自社のAI研究開発のうちClaudeが主導する仕事の割合が、2月の1%未満から8月には26%まで増えたと公表した。ただ、完全に自律した仕事はまだなく、判定にも自社AIを用いた社内測定であり、研究生産性がそのまま26%上がったという意味でもない。見極めるべき点は、AIによる改良が次の改良をさらに加速させる自己増幅へ転じ、開発周期の短縮や人間の介入の減少につながるのか、それとも計算資源の制約や改良余地の縮小で頭打ちになるのかである。
現実の社会で生じる危険は、AIが人間の監督を離れる制御喪失にとどまらず、人間がAIと組んで能力を増幅させ、攻撃や悪用に転じる場合にも及ぶ。ソフトウェアの欠陥をめぐる攻防では、アクセス権限や防御の重なりに加え、欠陥が悪用されるまでの時間と修正が現場全体へ届くまでの時間との差が被害を左右するだろう。生物や化学のように物理的な実験を伴う分野では、未知の物質の開発や量産の工程が制約として残るが、既存の技術や設備を使う悪用をAIが助ける場合には、新規開発を待つ必要はない。
では、リーマン予想のあとで見るべき「次のカナリア」は何か。破局が切迫しているかを判断するには、数学の外で三つの動きを事前に定めて追う必要がある。第一に、AIによる改良が開発周期を実際に縮め、人間の介入を減らしているか。第二に、サイバー防御やシステム運用の現場で、欠陥の悪用が修正の普及を上回り始めているか。第三に、評価時には隠していた問題行動や、監視の破綻が実運用の現場で確認され、十分な対処もないまま運用が続いていないかである。加えて、監視や評価が機能しているかを確かめられないまま、競争の圧力のもとで次世代モデルの投入が続く状態も、それ自体が重大な警鐘となる。破局が確定したという直接の証拠にはならなくとも、取り返しのつかない損失が生じうる領域で安全を示せないまま配備を進めるのは、リスク管理として許容しがたいからである。
冒頭のミンスキーの思考実験へ立ち返れば、Leanが検査したのは完成した「成果物」に限られ、ミンスキーが問うた「目標を追求する過程で何が起きるか」は検査の対象外だった。今回暴走が起きなかったのは、現在のAIが現実世界で無制約に行動して目標を追う段階にないためであり、制御の問題が解決したことを意味しない。この証明が正しければ、仕様を厳密に書ける領域では、人間による解説がそろうより先に検証済みの成果を受け取れる段階が始まったことになる。裏返せば、仕様を書き切れない開かれた環境では、人間が細部まで理解して監督する従来の方法に代わる手立てがまだない。今回の証明をもって破局の切迫を断定するのは早いが、先に挙げた指標を監視し、人間の理解だけに頼らない安全評価と配備の歯止めを整える作業は、いま始める必要がある。
---
出典
- Russell, S., & Norvig, P. (2003). *Artificial Intelligence: A Modern Approach* (2nd ed., Section 26.3).(マービン・ミンスキーによるリーマン予想の思考実験への言及)
- Good, I. J. (1965). Speculations Concerning the First Ultraintelligent Machine. *Advances in Computers*, 6, 31–88.
- クレイ数学研究所によるリーマン予想の解説:https://www.claymath.org/millennium/riemann-hypothesis/
- 公開コードの集計(leanprover-community/riemann-hypothesis):https://github.com/leanprover-community/riemann-hypothesis/blob/main/verification/NOTES.md
- レベント・アルポゲによる研究経緯の説明(Remark):https://alpo.ge/remark.pdf
- アンドリュー・サザーランドの検証記録:https://math.mit.edu/~drew/grh/
- アルポゲ、トリスタン・バックマスターによるナビエ・ストークス論文と公開資料:https://github.com/tristanbuckmaster/navier-stokes
- エリエザー・ユドコウスキーの投稿(2026年11月):https://x.com/allTheYud/status/2123843874796023936
- Google DeepMind「AlphaEvolve」の報告(2025年):https://deepmind.google/blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/
- Anthropicによる自社AI研究開発の測定報告(2026年):https://www.anthropic.com/institute/measuring-pace-of-ai-development