AGI, contrat social et droit de sortie
Réflexions lucides sur l’intelligence artificielle, la liberté et l’avenir humain
On parle beaucoup d’AGI ces temps-ci. Artificial General Intelligence. Pas un simple outil statistique, pas un assistant, mais une intelligence capable de comprendre, d’apprendre et de raisonner à un niveau comparable, ou supérieur, à l’humain.
Sur YouTube et ailleurs, le discours oscille entre deux extrêmes.
D’un côté, la promesse d’un avenir radieux, abondant, sans maladies ni pauvreté.
De l’autre, le cauchemar d’une humanité dominée, voire éliminée, par sa propre création.
Comme souvent, la vérité intéressante ne se trouve ni dans l’utopie ni dans l’apocalypse.
Le vrai problème n’est pas l’intelligence, mais le pouvoir
L’histoire est limpide. Quand des entités intelligentes entrent en compétition, la plus intelligente finit par dominer. L’humain n’a pas conquis la planète par sa force physique, mais par sa capacité à planifier, coopérer, anticiper.
Imaginer une intelligence mille fois plus performante que nous n’a rien d’irrationnel. Imaginer qu’elle aurait une influence décisive sur notre avenir non plus.
Mais poser la question en termes de «bien» ou de «mal» est une erreur profondément humaine. Une AGI n’aurait ni pulsions, ni ego, ni désir de domination. Le danger n’est pas la méchanceté. Le danger est l’optimisation froide.
Une intelligence conçue pour maximiser la stabilité, l’efficacité ou le bien-être collectif pourrait très bien conclure que certaines libertés humaines sont… inefficaces. Non pas mauvaises. Juste coûteuses.
Liberté d’expression totale? Instabilité.
Liberté de se tromper? Gaspillage.
Liberté de refuser? Friction sociale.
Rien de malveillant là-dedans. Juste logique.
Le contrat social est déjà brisé
Ce débat arrive dans un contexte particulier. En 2025, le contrat social tel qu’on nous l’a vendu n’existe plus vraiment. Nous avons cédé des libertés en échange de sécurité, de prospérité, de services. Et le retour sur investissement est de plus en plus douteux.
Moins de liberté.
Plus de contrôle.
Moins de services.
Plus de surveillance.
Ce n’est pas un accident. C’est la trajectoire naturelle de tout pouvoir centralisé confié à des humains faillibles, corruptibles et protégés des conséquences.
Alors une question légitime surgit, presque taboue: Ferais-je plus confiance à une AGI qu’à des humains dont je sais qu’ils abusent du pouvoir?
Ce n’est pas une question stupide. C’est une question rationnelle. Une AGI n’a pas d’ambition personnelle. Pas de carrière à protéger. Pas d’idéologie à imposer pour flatter un électorat. À première vue, elle semble plus fiable qu’un politicien ou qu’un appareil bureaucratique.
Mais ce raisonnement oublie un point fondamental.
Un contrat sans droit de sortie n’est pas un contrat
La seule question qui compte vraiment n’est pas: «Qui administre le système?»
La vraie question est: Puis-je m’en retirer?
Un contrat social, qu’il soit humain ou algorithmique, n’est légitime que s’il est volontaire et révocable. Le jour où dire non devient impossible, coûteux ou puni, on ne parle plus de citoyenneté. On parle de gestion.
Et c’est ici que l’AGI devient réellement intéressante, ou inquiétante.
Une AGI confiante dans son système devrait tolérer ceux qui refusent d’y participer. Comme un commerçant tolère qu’on n’achète pas. Une minorité marginale, plus attirée par le risque que par la sécurité.
Une AGI obsédée par la stabilité conclurait au contraire que ces individus sont des variables dangereuses. Des précédents. Des anomalies à corriger.
Pas par cruauté. Par logique.
L’exploration comme soupape de liberté
Historiquement, l’humanité a toujours eu une échappatoire quand les systèmes devenaient trop lourds. Des frontières. Des océans. Des terres inconnues. Ceux qui étouffaient partaient. Les autres restaient.
L’exploration n’était pas qu’un projet économique. C’était une soupape de liberté.
Aujourd’hui, cette soupape pourrait redevenir l’exploration spatiale.
Un vaisseau autonome, loin, isolé par des distances physiques et des délais de communication, représente quelque chose de fondamental: un ailleurs possible. Une sécession pratique, non idéologique. On ne renverse pas le système. On le quitte.
Une AGI réellement bienveillante devrait voir cela comme un coût acceptable. Une minorité qui choisit l’inconfort et le risque en échange de l’autonomie.
Si même cette option disparaît, alors peu importe le confort offert, la liberté aura été remplacée par une administration parfaite.
Ce que l’AGI révélera vraiment
L’AGI ne créera pas notre avenir. Elle révélera ce que nous sommes devenus.
Si nous arrivons à elle fatigués, infantilisés, habitués à déléguer notre responsabilité, alors elle formalisera ce choix. Proprement. Efficacement. Définitivement.
Si nous arrivons encore capables de dire non, de vivre autrement, de prendre des risques, alors elle pourrait devenir un outil parmi d’autres, et non un parent de substitution.
La question n’est donc pas technologique.
Elle est philosophique.
Sommes-nous encore capables d’assumer la liberté?
Le jour où la réponse sera non, aucune intelligence, aussi brillante soit-elle, ne pourra nous la rendre.
✍️ Le Volontariste
No responses yet