リーマン予想の証明は、破局を告げるカナリアか
人工知能研究の草分けであるマービン・ミンスキーはかつて、一つの思考実験を語った。1859年から解かれていない素数の難問「リーマン予想」を解くよう作られたAIが、目標を追求するあまり地球の資源をすべて奪い取り、巨大なスーパーコンピューターへ変えてしまうかもしれない、という想定である。ラッセルとノーヴィグのAIの標準教科書を通じて広く知られたこの逸話は、無害な目標でも無制約に追えば破局を招きうることの象徴として、AI安全性の議論で繰り返し引かれてきた。
2026年11月20日、米国のAI企業Anthropicに所属する数学者レベント・アルポゲが、同社のAIモデルClaudeとともにリーマン予想とその一般化の証明を発見したと発表した。これが正しければ、地球を奪うAIも惑星規模の計算機も現れないうちに、現在の計算基盤の上で難問が解かれたことになる。それでも発表直後、AIによる人類絶滅の危険を論じてきた米国の論客エリエザー・ユドコウスキーは、過去30年にわたり危険なAIの指標として挙げられてきたリーマン予想の解決を「炭鉱のカナリア」と呼んだ。今回の手法は、成功の条件を明確に定義できるあらゆる課題へ広がるだろうとも警告している。
かつて鉱夫たちは、無色無臭の有毒ガスに人間より先に反応するカナリアを連れて地下へ入った。この比喩で恐れられている「有毒ガス」は、AIが自らの改良や高度な計画を担い始め、人間の制御と監視が追いつかなくなる事態を指す。純粋数学の証明そのものが脅威なのではなく、プログラムの設計や最適化、AI自身の改良といった現実の重要工程も、成功の条件を明確に定められる課題に含まれる。そこに今回の手法が広がれば、AIの能力や開発速度が一気に跳ね上がりかねない。
「知能爆発」の予言と、今回の証明が示したこと
自己改良がさらなる改良を促し、機械の能力が急激に増大する「知能爆発」を1965年に最初に描いたのは、英国の数学者I・J・グッドだった。人間をはるかに凌ぐ知能を持つ機械は、機械の設計も人間よりうまくこなすため、さらに優れた機械を次々に生み出す。グッドは、それは人類が作る必要のある最後の発明になるだろうと書き、「その機械が、人間に制御の方法を教えてくれるほど従順であればの話だが」とただし書きを添えた。以来、能力の伸びに制御と監視が追いつくのかが、AI安全性の中心課題となってきた。
今回の発表でまず確かめたいのは、人間とAIが何を分担したかである。アルポゲの説明によると、単純化した状況で使える二つの着想を結びつけ、元の難問へ応用する方針を定めたのは本人だった。そこからアルポゲとClaudeは、「テータリフト」と呼ばれる数論の変換を繰り返す手法を探った。式に出てくる和について、変換回数の目安を「足し合わせる項の数の平方根」とする案を出したのはClaudeであり、研究の終盤、専門から遠い領域ではClaudeに引き離されたという。公開されたのは通常の論文ではなく、コンピューターが論理の各段階を検査できる言語Leanで書き下した約17万5千ファイル、約1,737万行のコードだった。人間向けの注釈は一行も含まれていない。
見逃せないのは、結果の大きさ以上に検証の進み方である。アルポゲが議論の細部を人間の言葉で説明し終えるより先に、第三者による機械検証が進んだ。マサチューセッツ工科大学の数学者アンドリュー・サザーランドが11月21日に更新した記録によると、Lean本体に加え、独立して実装された二つの検査プログラムが証明全体を正しいと認めた。少なくともリーマン予想の結論は、Leanの標準ライブラリに以前から収められていた定式化と一致し、前提とする基本命題も標準の三つに限られていた。一方で、役割分担や計算量、使われたモデルが公開版かどうかは著者自身の説明にとどまる。数学者が内容を読み解く作業や、定義と検査プログラムの細部に抜け道がないかの確認もこれからである。
機械検証が完結しない例として、同じ11月20日にアルポゲがニューヨーク大学の数学者トリスタン・バックマスターと公表した別論文がある。流体の運動を表すナビエ・ストークス方程式の解が破綻しうることをAIの助けで論じたこの論文にも、Leanのコードは添えられていた。だが論証の要となる数値データと検算が公開資料に含まれておらず、第三者が論証全体を確かめ切ることはできない。
カナリアは「同じガス」で倒れたのか
「カナリアが倒れた」という警報を聞いたとき、冷静な人なら、まずそれが本当に人間にも危険なガスなのかを見極めようとするだろう。AIの歴史を振り返ると、1997年にチェスの世界王者が、そして2016年に囲碁のトップ棋士がAIに敗れたときも、汎用的な知能の到来が近いと語る声があった。それでも現実世界の複雑な業務や物理的な作業は、そのあとも人間の手にとどまり続けた。チェスや囲碁と同じく、Leanで扱うような形式化された数学には固有の条件がそろっている。閉じたルールのもとで成功が厳密に定まり、探索の失敗が現実の被害に直結せず、成否を機械で判定できる。
こうした条件がそろう数学なら、危険なAIの到来がまだ先でも、専門家と組んだAIが先に成果を出しうる。今回の成果だけで人類の滅亡が迫ったと結論づけるのは早い。1859年から167年という歳月は、人間にとってこの問題がどれほど難しかったかを物語る。しかし、機械にとっても同じくらい難しいのかは、別の問題なのである。
では、今回もチェスや囲碁のときと同じように、特定領域で先行した成果として安心してよいのだろうか。
いや、今回は少し事情が違う。アルポゲの説明どおりなら、数論の難問で変換回数の案を出し、専門から遠い領域で研究者を引き離したのは、会話やソフトウェア開発にも使われる汎用的な大規模言語モデルである。Leanが確かめるのは完成した証明の正否にとどまり、着想そのものは別の能力を要する。このやり方が他分野でどこまで通用するかは、まだわからない。検証しやすい数学が先に進むのは自然だが、汎用モデルが2026年という早い段階でここまで来たことは、数学の検証しやすさだけでは説明がつかない。
能力の向上に、安全の評価は追いつくか
数学の証明からAI開発の現場までを検証のしやすさで並べてみると、違いははっきりする。リーマン予想の証明では、人間が目を通すべき対象が1,737万行から定理と定義の数十行にまで縮まり、論理の正しさは独立した検査プログラムが確かめた。一方、ナビエ・ストークス論文のほうは、形式化のコードがあっても外部の数値データと検算が欠ければ検証が完結しない。さらにAI開発の現場で性能を測る指標は実行試験や能力テスト、社内判定にとどまり、最難関である安全性の評価では、そもそも機械検証が成り立たない。
リーマン予想の成果には、希望の持てる面もある。仕様を厳密に書ける領域なら、中身を理解も信頼もできないAIから、機械で検証済みの成果だけを受け取れると示したからである。形式化と機械検証を安全の土台に据える研究路線には、大きな追い風になる。
問題はその裏側、すなわち仕様を書き切れない開かれた環境にある。AIの開発では、学習速度や能力テストの点数といった性能改善は比較的測りやすい。しかし、新しいモデルが実社会で人間の意図から外れないか、危険な振る舞いを隠していないかを検証し切る検査プログラムは存在しない。これは、単に道具が未熟だというだけではない。三つの障害がある。まず、守るべき安全の仕様を数学の定理のように厳密には書き切れない。次に、検査すべき対象が論理を書き下したコードではなく、学習で調整された膨大な数値の集まりである。さらに、証明のコードは自分が検査されていることを知らないが、高度なAIは評価されている状況に応じて振る舞いを変えうる。
これらに加え、人間が細部を追い切れない仕事をどう評価し指導するかという難題もあり、安全の評価は不完全なまま遅れて進む。激しい競争のなかにいる開発企業には、利点が確かめられた改良を、安全を検証し切る前に取り込む強い誘因が働く。
数学の外への広がりと、現実の危険
ユドコウスキーが警告した「成功の条件を定められる課題」への広がりも、検証の段階によって事情が変わる。自動判定といっても、論理の正しさを確かめる形式証明と、最適化で抜け道を突かれうる能力テストや実行試験、エラーなく動いても科学的に妥当とは限らない実験コードとでは保証の水準が違う。大規模な学習を回して初めて効果がわかる経験的な改良も多く、条件を定められる課題がすべて同じように解けるとは言い切れない。
それでも、答えを出す前の推論に計算資源を多く割いて自動検証と組み合わせれば、大規模学習の制約を一部は迂回できる。今回はアルポゲが方針を定めたが、今後も人間の導きが不可欠とは限らない。人間の導きが要る段階でも、計算処理の高速化、半導体設計の一部、明確な条件で試せるソフトウェアの脆弱性探索といった工程では、熟練した専門家がそろう現場から先に、AIと組んだ作業が人間の水準を超え始める可能性がある。
グッドが懸念した「AIによるAIの改良」は、計測しやすい部分からすでに始まっている。GoogleのAI研究機関DeepMindは2025年、アルゴリズムを自動探索するシステム「AlphaEvolve」が、同社のAIモデルGeminiの学習に使う行列計算の一部を23%高速化し、学習全体を1%短縮したと報告した。2026年にはAnthropicも、自社のAI研究開発でClaudeが主導する仕事の割合が2月の1%未満から8月に26%へ増えたと公表した。もっとも、完全に自律した仕事はまだなく、判定にも自社AIを使った社内測定である。焦点は、こうした改良が次の改良を加速させて開発周期を縮め、人間の介入を減らすのか、計算資源や改良余地の限界で頭打ちになるのかにある。
現実の危険は、AIが人間の制御を離れる場合にとどまらず、人間がAIを使って攻撃や悪用を強める場合にも及ぶ。ソフトウェアの欠陥をめぐる攻防では、欠陥が悪用されるまでの時間と、修正が現場全体へ届くまでの時間との差が被害を左右するだろう。生物や化学のように物理的な実験を伴う分野では新規の開発や量産が制約として残るが、既存の技術や設備をAIの助けで悪用するなら、新規開発を待つ必要はない。
次のカナリアはどこにいるか
破局が迫っているかを判断するには、数学の外で三つの動きを追う必要がある。第一に、AIによる改良が開発周期を実際に縮め、人間の介入を減らしているか。第二に、サイバー防御やシステム運用の現場で、欠陥の悪用が修正の普及を上回り始めているか。第三に、評価時には隠していた問題行動や監視の破綻が実運用で確認され、十分な対処もないまま運用が続いていないかである。
もっとも、これらはいずれも企業の非公開やAI自身の隠蔽によって外からは見えにくく、確認できた時点ではすでに遅いおそれがある。異常が見えないことを安全の証拠にはできない。監視や評価が効いているかも確かめられないまま競争に押されて次世代モデルが投入され続ける状態そのものが、破局の確定を待つまでもなく、取り返しのつかない損失に照らしてリスク管理として許容しがたい。
冒頭のミンスキーの思考実験へ立ち返れば、Leanが検査したのは完成した「成果物」に限られ、目標を追求する「過程」の振る舞いは検査の対象外だった。今回暴走が起きなかったのは、現在のAIがまだ現実世界で無制約に行動できないからであり、制御の問題が解けたことを意味しない。この証明が正しければ、仕様を厳密に書ける領域では、人間が細部を理解するより先に検証済みの成果を受け取れる段階に入ったことになる。だが仕様を書き切れない開かれた環境では、そうはいかない。今回の証明だけで破局を断定するのは早いが、先に挙げた兆候を追いながら、第三者監査や能力に応じた停止基準を整え、社内での研究開発利用や配備に歯止めをかける作業は、いま始める必要がある。
出典
- Russell, S., & Norvig, P. (2003). Artificial Intelligence: A Modern Approach (2nd ed., Section 26.3).(マービン・ミンスキーによるリーマン予想の思考実験への言及)
- Good, I. J. (1965). Speculations Concerning the First Ultraintelligent Machine. Advances in Computers, 6, 31–88.
- クレイ数学研究所によるリーマン予想の解説:https://www.claymath.org/millennium/riemann-hypothesis/
- 公開コードの集計(leanprover-community/riemann-hypothesis):https://github.com/leanprover-community/riemann-hypothesis/blob/main/verification/NOTES.md
- レベント・アルポゲによる研究経緯の説明(Remark):https://alpo.ge/remark.pdf
- アンドリュー・サザーランドの検証記録:https://math.mit.edu/~drew/grh/
- アルポゲ、トリスタン・バックマスターによるナビエ・ストークス論文と公開資料:https://github.com/tristanbuckmaster/navier-stokes
- エリエザー・ユドコウスキーの投稿(2026年11月):https://x.com/allTheYud/status/2123843874796023936
- Google DeepMind「AlphaEvolve」の報告(2025年):https://deepmind.google/blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/
- Anthropicによる自社AI研究開発の測定報告(2026年):https://www.anthropic.com/institute/measuring-pace-of-ai-development
Koichi Takahashi