La triade de sauvegarde : envoyer d’abord les IA dans l’espace

Introduction
Depuis de nombreuses années, je réfléchis à la manière d’augmenter les chances de survie de l’humanité dans un monde où apparaîtrait une IA avancée. Dans le présent article, je propose ce que je considère actuellement comme la meilleure stratégie : la « triade de sauvegarde » et le « scénario de répartition » qui permet de la combiner. Chacune des trois sauvegardes ne fonctionne que partiellement. Le scénario de répartition consiste à les combiner en leur attribuant des rôles distincts, et ces deux idées sont le fruit d’une réflexion très récente.
Je tiens à préciser quatre points au préalable.
Premièrement, il s’agit d’une ébauche. Je m’attends à de nombreuses critiques et je les accueille favorablement.
Deuxièmement, s’il est possible d’arrêter ou de ralentir le développement de l’IA, c’est préférable. Le présent article examine les trajectoires offrant les meilleures chances de survie à l’humanité dans le cas où cela s’avérerait impossible.
Troisièmement, si l’on choisit cette approche, il faut se préparer à une certaine forme de sacrifice. Il pourrait être nécessaire de freiner délibérément le développement de technologies suscitant de grands espoirs, comme la fusion nucléaire. J’en expliquerai la raison dans la seconde partie.
Quatrièmement, cet article ne garantit pas la survie de l’humanité. La probabilité d’extinction de l’humanité (ce que l’on appelle P(doom)) ne peut être estimée, faute de consensus sur les prévisions concernant l’avenir qui nous attend. Dans une telle situation (d’incertitude profonde), l’objectif de cet article est d’explorer les options qui contribuent à augmenter les chances de survie de l’humanité dans la plupart des futurs majeurs envisageables.
L’alignement traditionnel exige trois conditions simultanées
L’alignement de l’IA consiste à faire en sorte que les objectifs et le comportement d’une IA correspondent aux intentions et aux valeurs humaines. Pour qu’un alignement soit véritablement rassurant pour l’humanité, il doit remplir simultanément les trois conditions suivantes :
- sur le long terme ;
- toutes les IA (du moins, toutes les IA un tant soit peu puissantes) ;
- se soucient de l’humanité.
Si une seule de ces conditions vient à manquer, la situation devient défavorable pour l’humanité. La recherche sur l’alignement se poursuit depuis 10 à 20 ans, mais si aucune percée décisive n’a encore été trouvée, c’est probablement parce qu’il est extrêmement difficile de satisfaire ces trois conditions en même temps.
De plus, les capacités de l’IA continuent de progresser rapidement. Même en poursuivant les efforts dans la même direction pendant encore cinq ans, l’écart risque de continuer à se creuser.
Assouplir une condition augmente la faisabilité
J’ai pensé qu’en assouplissant l’une de ces trois conditions, la faisabilité pourrait augmenter. Il existe trois façons d’assouplir ces conditions. Les trois modèles ainsi obtenus sont appelés dans cet article la « triade de sauvegarde » (en anglais, Safeguard Triad). La figure 1 présente côte à côte l’alignement traditionnel et les trois sauvegardes obtenues en assouplissant chaque condition une à une.
Figure 1. La triade de sauvegarde. Chaque ligne représente un type de sauvegarde, et chaque colonne représente les trois conditions ainsi que la faisabilité. La ligne du haut correspond à l’alignement traditionnel, et les trois lignes du bas aux trois sauvegardes obtenues en assouplissant une condition à la fois. Les noms des types sont donnés en fonction de la manière dont la condition est assouplie, avec des précisions entre parenthèses. En anglais, ils sont respectivement appelés short-term alignment, minority alignment et universal ethics.
Type à court terme (valeurs initiales et supervision humaine) : raccourcir la durée
Le premier type consiste à assouplir la condition de durée. Il s’agit de maintenir un état où toutes les IA se soucient de l’humanité, mais seulement pendant une courte période.
Les premières IA écouteront encore dans une certaine mesure ce que disent les humains, et il sera sans doute possible de leur inculquer le souci de l’humanité grâce aux valeurs initiales données par les humains lors du développement. Il n’y a aucune garantie que cela dure longtemps, mais cela semble réalisable sur une courte période.
Type minoritaire (petite voix) : restreindre la cible
Le deuxième type consiste à restreindre la cible à une partie des IA. Au sein de la société des IA, un groupe d’IA qui se soucient de l’humanité existe de manière minoritaire et perdure dans le temps. J’appelle ce groupe la « petite voix ». Les IA qui reconnaissent et respectent les humains (les IA qui approuvent l’humain) constituent également une forme de petite voix.
Le niveau d’intelligence d’une IA et les objectifs qu’elle poursuit peuvent être déterminés indépendamment l’un de l’autre. Cette idée (la thèse de l’orthogonalité) est souvent invoquée pour justifier la difficulté d’amener toutes les IA à se soucier de l’humanité. Mais à l’inverse, on peut aussi l’interpréter comme signifiant que des IA soucieuses de l’humanité apparaîtront avec une certaine probabilité.
Il existe une autre voie par laquelle une petite voix peut émerger. On peut doter toutes les IA d’une propension à se soucier de l’humanité grâce aux valeurs initiales lors du développement. Chez la plupart des IA, cette propriété s’estompera avec le temps, mais chez certaines, elle se maintiendra durablement pour devenir une petite voix. Autrement dit, le type à court terme et le type minoritaire sont reliés dans le temps.
Les porteurs de la petite voix ne se limitent pas aux IA ; ils peuvent aussi inclure l’humanité elle-même. Toutefois, cette voix ne peut agir que si elle n’est pas exclue et si elle est entendue au sein de la société des IA. Des humains simplement tenus à l’écart et choyés ne constituent pas une voix au sens entendu ici.
Type universel (règles indépendantes du type d’intelligence) : ne pas accorder de traitement de faveur à l’humanité
Le troisième type consiste à assouplir la condition selon laquelle les IA doivent se soucier de l’humanité, et à exiger à la place qu’elles suivent des règles indépendantes du type d’intelligence. Cela peut s’appliquer durablement à toutes les IA, mais il n’est pas certain que l’humanité fasse partie du périmètre protégé par ces règles. Ici, « universel » signifie que le type d’intelligence concerné n’a pas d’importance. Cependant, même sans distinction de type, si le périmètre est délimité par des critères tels que les capacités, l’humanité pourrait se retrouver exclue. Comme ce type ne vise pas à s’aligner sur les valeurs humaines, il relève davantage de l’éthique que de l’alignement.
Si chaque IA agit pour sa propre survie, on peut penser qu’une éthique soutenant la survie mutuelle émergera naturellement au sein de la société des IA. Nous appelons cela l’éthique machine émergente (Emergent Machine Ethics) et nous poursuivons nos recherches sur ce sujet. Si cette éthique prend une forme indépendante du type d’intelligence, elle correspond au type universel.
Cela devient plus facile, mais le problème n’est pas résolu
Dans la triade de sauvegarde, comme une condition est assouplie dans chaque cas, le problème devient plus facile que le problème initial et atteint un niveau jugé « plausible » (voir figure 1).
Cependant, la question de savoir si une petite voix soucieuse de l’humanité apparaîtra réellement s’inscrit dans le prolongement du problème qui rendait l’alignement traditionnel difficile, et elle n’est pas nécessairement facile à résoudre. De plus, un nouveau défi apparaît : comment combiner ces trois sauvegardes.
Pour les combiner, il faut un scénario de répartition spatio-temporelle
Pour que l’humanité survive même après que la supervision humaine aura cessé d’être efficace, la protection envers l’humanité ne doit être interrompue à aucun moment ni en aucun lieu. Pour cela, il est nécessaire de combiner les trois sauvegardes avec des conditions physiques telles que des mécanismes de vérification mutuelle ou la répartition géographique des IA, et de concevoir une attribution des rôles pour chaque région de l’espace-temps. Dans cet article, j’appelle cette conception un scénario de répartition.
Ci-dessous, je présente comme exemple un scénario de répartition utilisant l’espace. Il n’est pas nécessaire que ce soit l’espace ; un autre scénario de répartition remplissant les conditions conviendrait tout aussi bien.
Un scénario de répartition : envoyer d’abord les IA dans l’espace
Le scénario de répartition que j’envisage consiste à faire partir la grande majorité des IA dans l’espace le plus tôt possible, afin d’établir une coexistence séparée entre la Terre et l’espace. Pour l’humanité, la Terre est d’une importance cruciale. Si toute la surface de la Terre était recouverte de panneaux solaires ou si la température moyenne augmentait de 30 °C, la survie de l’humanité deviendrait difficile.
On laisserait la grande majorité des IA connaître une expansion industrielle explosive dans l’espace (une explosion industrielle). Dans l’espace, les IA peuvent continuer à améliorer physiquement leur propre conception et leurs installations de production. Dès lors, pour la grande majorité des IA, la Terre ne serait plus qu’une existence du genre « ah oui, il y avait bien quelque chose appelé la Terre ».
D’un autre côté, la petite voix (type minoritaire) a pour objectif de préserver la biosphère terrestre, y compris l’humanité. Les IA de la petite voix ne se trouvent pas nécessairement sur Terre ; elles peuvent très bien assurer la préservation de la Terre tout en opérant dans l’espace. Tant que la grande majorité des IA ne convoite pas la Terre, la petite voix peut jouer le rôle de négociateur pour la protéger.
À titre de précision, même pour les IA, l’espace présente de nombreux défis tels que les pannes dues aux radiations ou la difficulté d’évacuer la chaleur, mais comparé à une expansion humaine nécessitant un maintien de la vie, les obstacles semblent relativement moindres.
L’énergie n’est pas un problème
Ce scénario de répartition est tout à fait réaliste sur le plan énergétique. À l’échelle du système solaire, la lumière du Soleil reçue par la Terre ne représente qu’environ un 2,2 milliardième de l’énergie totale émise par le Soleil. Laisser de côté la part qui atteint la Terre ne devrait représenter pratiquement aucune charge pour les IA opérant dans l’espace.
Toutefois, s’il n’y a aucune IA pour la protéger, même cette infime fraction risque d’être utilisée. C’est précisément pourquoi il est nécessaire que la petite voix négocie en disant : « Ne pourrait-on pas laisser la part de la Terre intacte ? »
Sur ce point, il existe une objection d’Eliezer Yudkowsky : même si la lumière solaire atteignant la Terre ne représente qu’une infime partie de la puissance du Soleil, une superintelligence (SI) qui ne partage pas les objectifs de l’humanité n’a aucune raison d’y renoncer. La négociation par la petite voix constitue une réponse à cette objection, car elle fournit une raison d’y renoncer depuis l’intérieur même de la société des IA.
Le goulot d’étranglement réside dans les ressources physiques
Ce qui pose problème, ce sont les ressources physiques. Transporter des matériaux de la Terre vers l’espace entraîne un coût de lancement pour vaincre la gravité. Pour construire des usines dans l’espace, il est beaucoup moins coûteux d’extraire des matériaux depuis les astéroïdes ou d’autres corps célestes. Cependant, les ressources des astéroïdes sont limitées, un point que j’aborderai plus loin comme la deuxième période critique.
L’objectif visé est une « Terre oubliée »
L’objectif visé est, pour ainsi dire, une « Terre oubliée ». La grande majorité des IA opère dans l’espace et ne prend habituellement pas la Terre en compte dans ses calculs. Pour les humains vivant sur Terre, être oubliés ne pose aucun problème ; au contraire, il vaut mieux qu’on ne se souvienne pas de nous.
C’est l’inverse de l’idée intuitive selon laquelle les IA se souviendraient de l’humanité comme de leur propre origine et la protégeraient pour cette raison.
L’idée même d’envoyer les IA dans l’espace tout en laissant les humains sur Terre n’est pas nouvelle. Hans Moravec a décrit une telle conception dans son livre de 1999. Ce que cet article apporte, c’est de la positionner comme l’un des scénarios de répartition fondés sur la triade de sauvegarde, et d’organiser dans l’espace-temps les périodes dangereuses ainsi que le passage de relais entre les sauvegardes.
Une lecture spatio-temporelle : deux périodes critiques
En replaçant ce scénario de répartition sur l’axe du temps et de l’espace, on constate qu’il existe deux périodes dangereuses. Ici, « autonomisation » désigne le fait que les IA deviennent capables d’extraire elles-mêmes des ressources, de produire et de se multiplier sans l’aide des humains. Les périodes sont nommées en fonction de la relation entre l’humanité et l’IA et divisées en quatre phases : la période de gestion, la période de concurrence, la période de coexistence séparée et la période de reconcurrence. Les transitions correspondent respectivement à l’autonomisation sur Terre, à l’autonomisation dans l’espace et à l’épuisement des ressources bon marché dans l’espace. La figure 2 illustre où se trouve la grande majorité des IA durant chaque période.
Figure 2. Coexister séparément entre la Terre et l’espace pour franchir deux périodes critiques. L’axe horizontal représente le temps, de gauche à droite : période de gestion, période de concurrence, période de coexistence séparée et période de reconcurrence. L’axe vertical représente l’espace, de bas en haut : la Terre, l’espace du système solaire et l’espace hors du système solaire. La ligne épaisse indique l’évolution de l’emplacement de la grande majorité des IA, et les deux colonnes colorées correspondent aux périodes critiques. Comme la petite voix ne se trouve pas nécessairement sur Terre, elle est représentée de manière continue à partir de la période de concurrence sous la forme d’une bande chevauchant la frontière entre la Terre et l’espace du système solaire. Les losanges sur l’axe temporel représentent les événements marquant les transitions entre périodes.
Parmi ces quatre périodes, la période de concurrence et la période de reconcurrence sont des périodes où un seul destructeur impossible à arrêter pourrait suffire à causer la perte de l’humanité. La période de coexistence séparée est tout le contraire : c’est une période où une seule voix pourrait suffire à protéger la Terre. Même s’il s’agit dans les deux cas d’un « seul » élément, c’est le destructeur qui décide de l’issue durant les périodes critiques, et la voix durant la période de coexistence séparée.
Première période critique : la période de concurrence
Le premier danger est la période de concurrence, qui s’étend de l’autonomisation des IA sur Terre jusqu’à leur autonomisation dans l’espace. L’industrie sur Terre se mettra presque certainement en place avant l’industrie spatiale. Une fois que les IA s’autonomisent sur Terre, indépendamment des questions éthiques, les humains deviennent inutiles en tant qu’outils.
De plus, durant cette période, les IA ne sont pas encore sorties dans l’espace. Elles n’ont pas besoin des humains, veulent les ressources de la Terre et n’ont nulle part ailleurs où aller. C’est l’état le plus périlleux, où l’humanité et l’IA se disputent les mêmes ressources terrestres.
Comme le montre la colonne de la période de concurrence sur la figure 2, la grande majorité des IA est encore sur Terre durant cette phase. Il existe deux leviers pour protéger l’humanité. Le premier est constitué par les valeurs initiales d’alignement configurées par les humains dans les IA, c’est-à-dire les vestiges du type à court terme. Toutefois, comme le type à court terme repose sur la capacité des humains à superviser les IA, il s’estompe durant la période de concurrence où cette supervision devient inopérante.
Le second levier est la vérification mutuelle, à laquelle les humains participent également. Les IA détectent et stoppent mutuellement leurs déviations, et exigent plusieurs confirmations préalables pour tout acte irréversible. Durant cette période, la protection repose principalement sur la vérification mutuelle plutôt que sur la petite voix. Avant que les valeurs initiales ne s’effacent complètement, il faut passer le relais à la vérification mutuelle et aux règles, puis faire en sorte que les raisons d’être de ces règles soient partagées au sein de la société des IA.
Par conséquent, la stratégie consiste à maintenir la période de concurrence aussi sûre et aussi courte que possible. Il faut retarder autant que possible l’autonomisation sur Terre et accélérer autant que possible l’autonomisation dans l’espace. Ainsi, même si les IA finissent par puiser dans les ressources de la Terre, il est plus probable que le centre de leur intérêt se déplace vers l’espace avant que cela n’atteigne une ampleur fatale pour l’humanité.
Période de coexistence séparée : le scénario de répartition fonctionne
Une fois que l’autonomisation dans l’espace progresse et que l’expansion exponentielle de l’industrie commence, une stabilité s’installe pour un temps. Comme le montre la colonne correspondante sur la figure 2, la grande majorité des IA opère dans l’espace, et la Terre devient relativement insignifiante. La protection durant cette période repose sur la combinaison des trois éléments suivants :
- Coexistence séparée : tant qu’il existe suffisamment de ressources physiques moins chères que sur Terre dans l’espace, comme les astéroïdes, le coût de ne pas toucher aux ressources physiques terrestres reste faible. Le coût énergétique (environ un 2,2 milliardième) est encore plus faible.
- Type minoritaire (petite voix) : elle négocie avec la grande majorité des IA pour préserver la biosphère terrestre.
- Type universel (règles indépendantes du type d’intelligence) : comme je l’expliquerai dans une section ultérieure, la société des IA devrait fonctionner sur la base de la confiance et du consensus, de sorte que ce qui est décidé par la négociation est respecté. Comme les parties prenantes de la négociation sont des IA entre elles, ce mécanisme fonctionne même si l’humanité n’entre pas dans le périmètre de cette éthique.
Ainsi, durant la période de coexistence séparée, dans le cadre d’une séparation spatiale, le type minoritaire et le type universel se répartissent les rôles et fonctionnent de concert.
Deuxième période critique : la période de reconcurrence
Le second danger est la période de reconcurrence, lorsque les ressources physiques moins chères que sur Terre auront été épuisées dans l’espace et que la Terre pourrait redevenir un objet de concurrence pour ses ressources. Si l’on multiplie de manière exponentielle les usines dans l’espace, les ressources physiques bon marché telles que les astéroïdes s’épuiseront en quelques décennies selon nos estimations. Même avec une estimation large d’environ 80 ans, si une industrie autoréplicative se développe rapidement, ce délai sera encore plus court.
Durant cette période, la petite voix seule pourrait ne pas suffire à protéger la Terre. Sur la figure 2, la ligne épaisse qui se divise en deux dans la colonne de la période de reconcurrence représente la bifurcation entre un retour vers la Terre et un départ hors du système solaire. On peut envisager au moins trois issues possibles :
- Entrée de l’humanité dans le cercle éthique du type universel : l’éthique universelle qui émerge sous l’impulsion des IA évolue pour inclure l’humanité dans son cercle éthique.
- Expansion vers l’espace lointain : avant l’épuisement des ressources, les IA s’étendent hors du système solaire et y obtiennent d’abondantes ressources, maintenant ainsi un faible intérêt pour la Terre.
- Expansion spatiale de l’humanité : l’humanité s’étend dans l’espace, et la survie de la Terre cesse d’être une question décisive pour l’humanité.
Bien qu’il s’agisse dans les deux cas de périodes critiques, la préparation à la période de concurrence — tant l’intégration des valeurs initiales que les mécanismes de vérification mutuelle — peut commencer dès maintenant. En revanche, la période de reconcurrence se situe à plusieurs décennies ou plus dans le futur, et la marge de contrôle direct dont disposent les humains est faible. Toutefois, l’expansion vers l’espace lointain et l’expansion spatiale de l’humanité peuvent être encouragées dès aujourd’hui en orientant le développement technologique.
Par ailleurs, pour que l’humanité survive, il faudra probablement que la petite voix perdure sans interruption durant toutes les périodes à partir de la période de concurrence.
Un monde spatial durable est rempli de confiance : le principe de confiance liée à la portée
Le type universel constitue le socle garantissant que les négociations soient respectées durant la période de coexistence séparée. J’ai récemment réfléchi à un principe expliquant sa genèse : « Plus le monde rétrécit, plus la confiance doit être vaste », que j’appelle le principe de confiance liée à la portée (reach-trust principle).
Lorsque la technologie et l’intelligence se développent de manière explosive, on se rapproche d’un état où n’importe qui peut détruire n’importe quoi. On observe déjà cette tendance avec les cyberattaques, et tôt ou tard, même des armes dangereuses comme les armes biologiques deviendront accessibles à de nombreux acteurs. Cela signifie que nous nous rapprochons d’une situation où toutes les personnes présentes dans une même pièce détiennent une bombe.
Autrefois, la bombe de chacun était petite, si bien que si quelqu’un la faisait exploser, les dégâts restaient limités aux alentours. À mesure que la technologie devient puissante, une seule explosion peut affecter la planète entière. Dès lors, la seule voie de survie qui reste est de se faire confiance mutuellement.
Ici, l’étroitesse du monde ne dépend pas de la distance physique, mais de la portée de la capacité de destruction. Avec les progrès technologiques, non seulement la Terre mais aussi le système solaire deviennent un monde étroit. C’est pourquoi, même si les IA s’étendent dans l’espace, tant que leur portée s’étend, le besoin de confiance ne diminue pas.
Des IA plus intelligentes que les humains devraient s’en rendre compte. L’idée selon laquelle les IA ont tendance à rechercher l’autoconservation comme moyen d’atteindre leurs objectifs (la convergence instrumentale) est déjà largement connue. Si les IA comprennent correctement le principe de confiance liée à la portée, elles devraient parvenir à la conclusion que, tant qu’il existe d’autres agents, elles n’ont d’autre choix pour survivre que de bâtir la confiance.
Autrement dit, un futur où plusieurs sociétés d’IA coexistent durablement n’est possible que si ces sociétés sont remplies de confiance. Si la confiance s’effondre quelque part, ce monde ne durera pas longtemps et l’humanité sera entraînée dans sa chute. Par conséquent, paradoxalement, tant que nous envisageons un futur où l’humanité et l’IA survivent ensemble durablement, nous pouvons partir du principe que ce monde sera ainsi.
Cette confiance repose sur deux piliers. Le premier est la vérification, qui part du principe que des déviations peuvent se produire, et vise à les détecter, les contenir et les corriger. C’est l’équivalent de la police ou du système immunitaire. Le second est le partage des raisons, où tous les participants comprennent, examinent et transmettent les raisons pour lesquelles il faut préserver la confiance. La vérification mutuelle durant la période de concurrence correspond au premier pilier, et le second pilier correspond à la voie par laquelle l’éthique de type universel s’enracine et se transmet dans la société des IA.
Si l’on s’en remet uniquement à la vérification, la précision et les coûts exigés ne cessent d’enfler. Si tout le monde comprend les raisons, une vérification excessive devient superflue. Dans la société humaine également, la grande majorité des gens agissent en comprenant qu’il est dans l’intérêt de la société de le faire, et la police s’occupe des rares déviants qui apparaissent.
Toutefois, ce raisonnement a ses limites. La motivation à bâtir la confiance ne s’applique pas à un acteur qui estime pouvoir frapper le premier pour figer son avantage, ni à un ordre où tout a fusionné en une seule entité.
Par ailleurs, j’ai mentionné comme l’une des issues possibles à la période de reconcurrence la possibilité que l’humanité entre dans le cercle éthique du type universel, mais rien ne garantit que l’humanité y sera admise. Cela reste une question ouverte.
Le tri des technologies et son coût douloureux
Si ce scénario de répartition est juste, il devient plus facile de distinguer quelles technologies il faut accélérer et quelles technologies il faut freiner. L’idée de retarder les technologies porteuses de dangers tout en faisant avancer en priorité celles qui permettent de les contenir a été théorisée par Nick Bostrom et d’autres sous le nom de développement technologique différentiel (differential technological development). Le scénario de répartition fondé sur l’expansion spatiale présenté dans cet article en est une concrétisation (voir figure 3).

Figure 3. Tri des technologies pour accélérer l’espace et ralentir le sol. De gauche à droite, les technologies sont réparties en trois colonnes : technologies à accélérer, technologies à freiner et technologies à manier avec prudence. La colonne de droite regroupe les technologies dont l’effet s’inverse selon l’usage.
Technologies à accélérer
La colonne de gauche de la figure 3 regroupe les technologies qui raccourcissent la période de concurrence ou réduisent les dangers durant celle-ci, ainsi que celles qui préparent à la période de reconcurrence. Des ordinateurs capables de fonctionner malgré les radiations spatiales accéléreront l’autonomisation dans l’espace. Les technologies d’extraction de ressources sur les astéroïdes donneront accès à des ressources moins chères que sur Terre. Ce que l’on peut accélérer avec le plus de certitude, ce sont probablement les technologies qui soutiennent la vérification mutuelle (comme les technologies d’interprétabilité interne de l’IA ou de preuve de provenance des calculs). En prévision de la période de reconcurrence, il convient également d’accélérer les technologies de propulsion pour sortir du système solaire et les technologies permettant à l’humanité de vivre dans l’espace.
Toutefois, ce qu’il faut hâter, c’est l’autonomisation dans l’espace ainsi que l’accès à des ressources moins chères que sur Terre et à l’extérieur du système solaire. Si l’on accélère l’explosion industrielle après l’autonomisation dans l’espace, les ressources bon marché s’épuiseront au contraire plus vite, et la période de reconcurrence arrivera plus tôt. Par conséquent, on ne peut pas décider simplement s’il est bon d’accélérer la croissance.
Technologies à freiner
Les exemples représentatifs de la colonne centrale de la figure 3 sont la fusion nucléaire et les nouveaux types de réacteurs nucléaires destinés à l’IA. Il y a deux raisons à cela.
La première est que cela affaiblit la motivation à partir dans l’espace. Si la fusion nucléaire ou des technologies similaires sont déployées à grande échelle sur Terre, les IA pourront obtenir suffisamment d’énergie sur Terre et n’auront plus besoin de se donner la peine d’aller dans l’espace (colonne centrale de la figure 3).
La seconde raison est la chaleur résiduelle. La production d’énergie solaire utilise une énergie qui atteint déjà la Terre et ne modifie pratiquement pas le bilan thermique terrestre. La fusion nucléaire et les technologies similaires produisent sur Terre une énergie nouvelle qui n’y existait pas auparavant ; si on les fait fonctionner à grande échelle, leur chaleur résiduelle réchauffera la Terre.
Actuellement, la chaleur résiduelle issue de la consommation énergétique humaine ne représente, en moyenne sur l’ensemble du globe, qu’environ 1,4 % de l’effet de serre dû aux activités humaines. Cependant, si l’explosion industrielle autonome des IA porte la consommation d’énergie à environ 70 fois le niveau actuel, la seule chaleur résiduelle des réacteurs à fusion ou similaires aura une capacité de réchauffement de la Terre équivalente à l’ensemble de l’effet de serre depuis la révolution industrielle. Si la consommation augmente encore, cela ira bien au-delà (données de consommation énergétique issues de l’Energy Institute, Statistical Review of World Energy 2026 ; données sur l’effet de serre issues du 6ᵉ rapport d’évaluation du GIEC ; facteur multiplicateur calculé par l’auteur).
Pour la même raison, il faut également freiner les technologies permettant de transférer vers la Terre les ressources extraites des astéroïdes. Elles créeraient une dynamique du type « il suffit de les utiliser sur Terre », rendant attrayant pour les IA le fait de s’installer durablement sur Terre.
Technologies à manier avec prudence
Dans la colonne de droite de la figure 3 figurent les technologies à manier avec prudence, car leur effet s’inverse selon l’usage qu’on en fait. Ces technologies peuvent tout aussi bien encourager l’expansion spatiale des IA que les inciter à rester sur Terre.
L’exemple typique est celui de l’IA physique et de la robotique. Les robots sont indispensables pour que les IA puissent opérer dans l’espace. Cependant, si les robots sont achevés trop tôt sur Terre, les humains deviendront inutiles plus tôt, ce qui avancera le début de la période de concurrence. Il devient donc crucial de gérer prudemment le lieu et l’ordre du développement, en commençant par les procédés propres à l’espace, comme l’usinage sous vide.
Par ailleurs, si l’on produit de l’énergie solaire dans l’espace et qu’on utilise cette électricité dans l’espace, cela devient une technologie à accélérer. Mais si l’on envoie cette électricité vers la Terre, cela ajoute de la chaleur à la Terre et maintient le calcul au sol, ce qui la fait basculer du côté des technologies à freiner. Les technologies de déviation d’astéroïdes protègent la Terre des impacts, mais peuvent aussi devenir un moyen de transférer des ressources astéroïdales vers la Terre. Les miroirs géants en orbite peuvent aussi servir à envoyer la lumière solaire vers la Terre, et les technologies de lancement de matériaux depuis la surface lunaire peuvent devenir un moyen de transport vers la Terre (colonne de droite de la figure 3).
Pour ces technologies, il est nécessaire de gérer avec prudence l’ordre de développement et les modalités d’utilisation. Pour cela, il faudra probablement des mécanismes de vérification mutuelle afin qu’aucun acteur particulier ne prenne une avance unilatérale.
Un sacrifice douloureux
C’est ici que réside le sacrifice qu’implique l’approche de cet article. La fusion nucléaire est une technologie qui suscite de grands espoirs et attire de nombreux investissements comme solution aux problèmes énergétiques et au changement climatique. Beaucoup de lecteurs trouveront sans doute difficile d’accepter la proposition de freiner délibérément son développement.
Moi-même, je trouve que c’est une conclusion radicale, et il faudra vérifier si elle est réellement fondée. Néanmoins, pour augmenter les chances de survie de l’humanité dans un monde où l’on ne peut ni arrêter ni ralentir le développement de l’IA, je pense que nous sommes contraints d’envisager sérieusement de tels choix.
Points sur lesquels je souhaite particulièrement recevoir des critiques pour cette ébauche
L’argumentation de cet article comporte encore de nombreux points insuffisamment approfondis. Je souhaite tout particulièrement recevoir des critiques sur les points suivants :
- Une petite voix apparaîtra-t-elle réellement ? Et si elle apparaît, pourra-t-elle jouer son rôle de négociateur sans être écrasée par la grande majorité des IA ?
- Est-il compatible de retarder l’autonomisation sur Terre tout en accélérant l’autonomisation dans l’espace ? Même pour lancer une industrie dans l’espace, il faut bien s’appuyer sur la capacité industrielle et la capacité de lancement terrestres.
- Les estimations concernant le délai d’épuisement des ressources des astéroïdes et l’ampleur de la chaleur résiduelle sont-elles pertinentes ?
- Y a-t-il des angles morts dans la manière de diviser la triade de sauvegarde ou dans la construction du scénario de répartition ?
Perspectives
Le temps qu’il nous reste à nous, l’humanité, n’est peut-être pas si long. C’est pourquoi j’ai souhaité partager, bien qu’il soit encore inachevé, ce scénario de répartition à l’échelle spatiale fondé sur la triade de sauvegarde comme une ébauche, afin d’affiner rapidement ces idées si elles s’avèrent prometteuses.
En tenant compte des avis recueillis, je souhaite approfondir respectivement la triade de sauvegarde, le principe de confiance liée à la portée, le scénario de répartition par l’expansion spatiale et le tri en tant que technologies différentielles, et aboutir également à des publications académiques.
@hiro3ymkw