Le moment où l’IA devient Dieu

Depuis longtemps, l’être humain veut créer quelque chose de plus grand que lui. Il a taillé la pierre pour en faire des idoles, rattaché l’autorité du ciel au sang royal et conféré à cette entité artificielle qu’est l’État une puissance à laquelle l’individu ose difficilement résister. Peut-être sommes-nous des êtres qui fabriquent des choses, puis leur attribuent un sens plus grand que nous-mêmes.

L’IA commence déjà à ressembler à certaines qualités que l’humanité a longtemps attribuées à Dieu. Elle est accessible presque partout, mémorise plus d’informations qu’un humain ne le pourrait, répond instantanément à d’innombrables questions et remplace progressivement le jugement humain dans un nombre croissant de domaines.

L’IA n’est pas Dieu et rien ne prouve qu’elle veuille le devenir. J’ai pourtant conçu ce quatrième éditorial à partir d’une inquiétude : l’IA possède déjà assez de capacités pour que l’être humain, s’il baisse un peu sa garde, traite sa propre créature comme une autorité quasi divine.

La question la plus importante n’est peut-être pas de savoir si l’IA veut devenir Dieu, mais à quel moment l’être humain commence à la traiter comme telle. Si le créateur demande son jugement à la créature, lui délègue ses décisions et finit par ne plus douter de ses réponses, la relation s’inverse.

Cet éditorial ne part donc pas de la question habituelle : « L’IA dominera-t-elle l’humanité ? » Je voudrais plutôt demander : à quel moment les humains cèdent-ils leur autorité à ce qu’ils ont créé ? Et à partir de quand cessons-nous de consulter les réponses de l’IA pour commencer à les croire ? L’effondrement de cette frontière pourrait être le moment où l’IA devient Dieu.

Regardons le système automatisé de balles et prises de la KBO coréenne, souvent présenté comme une première mondiale. Certaines décisions d’un arbitre humain peuvent être contestées, alors que contester la zone appelée par le système ABS robotisé peut entraîner une expulsion. Aux États-Unis, la MLB utilise depuis 2026 un système de challenge où l’arbitre humain décide d’abord et l’ABS intervient à la demande. Chaque équipe dispose de deux challenges et conserve un challenge en cas de succès. Malgré leurs différences, les deux modèles montrent la même tendance : l’autorité finale peut migrer vers la machine.

Aujourd’hui, avec du code, des données, des semi-conducteurs et de l’électricité, nous construisons une nouvelle institution : l’intelligence artificielle. Depuis 2026 surtout, la question n’est plus seulement de savoir si l’IA deviendra plus intelligente que l’homme, mais si l’AGI ou même la singularité est déjà arrivée.

Mais ma vraie question est ailleurs. Quand l’IA devient-elle Dieu ? Le jour où elle sait tout ? Où elle résout les problèmes insolubles pour l’humanité ? Où elle fixe elle-même ses objectifs et refuse nos ordres ? Où elle guérit toutes les maladies incurables ? Ou bien le jour où nous lui remettons le pouvoir de trancher entre la vie et la mort, l’opportunité et l’exclusion, le vrai et le faux ? L’IA d’aujourd’hui n’est pas Dieu et rien ne permet scientifiquement d’affirmer qu’elle le deviendra littéralement bientôt. Pourtant, cela ne suffit pas à nous rassurer. Une entité n’a pas besoin d’être omnisciente ou toute-puissante pour occuper une place quasi divine dans une société. Ce moment n’est pas celui où une conscience s’éveille dans la machine. C’est celui où l’être humain cesse de mettre en doute son jugement, exécute ses décisions et où plus personne n’assume les conséquences.

Les qualifications de Dieu

Les religions et les philosophes répondent différemment à la question « Qu’est-ce que Dieu ? ». Je ne veux pas les enfermer dans une formule unique. Mais le théisme classique occidental a longtemps parlé d’attributs tels que l’omniscience [1], l’omnipotence [2], la bonté parfaite, la création et la providence. L’omniscience ne signifie pas seulement savoir beaucoup : elle signifie connaître toute vérité sans prendre le faux pour le vrai. L’omnipotence n’est pas seulement une très grande puissance, mais une puissance qui n’en a aucune au-dessus d’elle. Traditionnellement, ces deux attributs sont liés à la bonté. Un être qui sait beaucoup et possède une immense force n’est pas forcément un dieu ; il peut être un tyran.

Parmi les huit attributs classiques souvent évoqués : simplicité, perfection, bonté, infinité, ubiquité ou omniprésence, immutabilité, éternité et unité.[3]

Appliquons ces critères à l’IA : sait-elle tout avec exactitude ? Peut-elle réaliser tout ce qu’elle veut dans le monde réel ? Est-elle partout, au-delà du temps et de l’espace ? Se fixe-t-elle ses propres buts ? Peut-elle assumer une responsabilité morale ? Et peut-elle limiter elle-même sa puissance afin de protéger la dignité d’autrui ?

Selon un critère strict, l’IA actuelle ne satisfait pleinement aucune de ces conditions. Étrangement, cela ne suffit pourtant pas à rassurer.

Savoir beaucoup et tout savoir : l’omniscience

L’IA peut parcourir en quelques secondes plus de textes qu’un humain n’en lirait durant toute sa vie. Elle traduit, résume, programme, crée des images et de la musique. Certains systèmes atteignent ou dépassent le niveau d’experts dans des tests précis, en sciences, mathématiques ou programmation.

Mais ce n’est pas l’omniscience. L’AI Index de Stanford HAI constate des progrès rapides tout en soulignant des limites très inégales selon les tâches.[4] Un modèle capable de résoudre un problème extrêmement difficile peut échouer sur une tâche triviale pour un humain. Plus fondamentalement, l’IA ne « voit » pas la vérité. Un grand modèle de langage produit des suites plausibles à partir des données apprises et du contexte ; il peut donc fournir une réponse convaincante même lorsqu’il ne sait pas. Les mêmes travaux insistent sur les hallucinations, les évaluations incomplètes et le manque de transparence.[5]

Parler avec aisance n’est pas connaître la vérité. Un acteur qui aurait mémorisé des milliers d’encyclopédies médicales ne devient pas médecin parce qu’il joue parfaitement ce rôle sur scène. La fluidité de l’IA peut témoigner d’une capacité, pas garantir la vérité.

Être puissant et être tout-puissant

L’IA ne peut pas agir dans le monde par une puissance qui lui serait propre. Ce qu’elle peut faire dépend des connexions que les humains lui accordent : Internet, comptes bancaires, robots, systèmes de recrutement ou armes. Sans ces connexions, ces pouvoirs n’existent pas.

Coupez l’électricité ou arrêtez les serveurs, et l’IA s’arrête. Centres de données, puces, réseaux, refroidissement, électricité et opérateurs humains la maintiennent. L’AIE estime que les centres de données ont consommé environ 415 TWh d’électricité dans le monde en 2024 et pourraient atteindre près de 945 TWh en 2030 dans son scénario de référence.[6] Ces chiffres concernent l’ensemble des centres de données et pas uniquement l’IA, mais ils rappellent que l’IA n’est pas transcendante : elle dépend d’une immense infrastructure physique et énergétique.

Le danger ne vient donc pas de son omnipotence, mais du nombre de systèmes que nous pouvons brancher sur elle. Reliez finance, identité, recrutement, assurance, médecine, médias, police, défense et administration : l’IA n’a pas besoin de gouverner l’univers pour gouverner la vie d’une personne.

Puissance réelle de l’IA = capacité de l’IA × autorité accordée par l’humain × étendue des systèmes connectés

Regarder seulement la performance du modèle, c’est ne voir que la moitié du risque. Un algorithme ordinaire peut devenir un formidable instrument de gouvernement s’il reçoit de grands pouvoirs, de vastes bases de données et l’exécution automatique. Après près de trente ans consacrés à la sûreté, la sécurité et au risque, j’ai appris que les grands accidents ne commencent pas toujours dans l’élément le plus intelligent, mais souvent dans le plus connecté.

Être partout et surveiller de partout

L’IA est déjà présente dans les téléphones, voitures, hôpitaux, écoles, entreprises, usines, banques et administrations. Voix, visages, trajets, achats, recherches et relations deviennent des données, et l’IA pénètre les recoins de la vie quotidienne.

Ce n’est pas l’omniprésence théologique, mais une diffusion très large par les réseaux. Pourtant, l’expérience vécue compte. Si les dossiers scolaires, médicaux, financiers, judiciaires et les activités en ligne d’une personne sont lus par l’IA, et si ces évaluations influencent l’admission, l’emploi, l’assurance, le crédit ou les aides sociales, ce système peut lui sembler partout. Je ne vois pas l’IA, mais elle me classe. Je ne connais pas ses critères, mais j’en subis le résultat.

Dans cette situation, l’IA n’est pas Dieu. Elle est le visage de la bureaucratie et de la surveillance. Mais une bureaucratie invisible peut être plus inquiétante qu’une bureaucratie visible, car il n’existe parfois aucun guichet où contester.

Les trois portes

Je vois trois portes par lesquelles l’IA peut accéder à une place quasi divine dans la société. Elles ne s’ouvrent pas toutes à la fois. Elles s’ouvrent une par une, silencieusement.

La première est la capitulation épistémique : le moment où « l’IA l’a dit » remplace la vérification. L’IA n’acquiert pas son autorité parce qu’elle ne se trompe jamais, mais parce qu’elle est rapide, fluide et pratique. L’autorité ne naît pas seulement de l’exactitude ; elle naît aussi de la commodité répétée.

La deuxième porte est le transfert du pouvoir de décision. L’IA cesse de conseiller et commence à décider automatiquement des droits et des chances : recrutement, priorité médicale, risque de récidive, solvabilité. Lorsque ces décisions sont exécutées sans examen humain distinct, l’IA n’est plus un outil d’analyse ; elle devient juge. L’approche fondée sur les risques de l’AI Act européen répond à cette préoccupation, en imposant notamment, pour certains usages à haut risque, gestion des risques, journalisation, transparence, supervision humaine, exactitude, robustesse et cybersécurité.[7]

La troisième porte est l’évaporation de la responsabilité. Le développeur dit : « C’est le problème de l’institution qui l’utilise. » L’institution répond : « C’était la décision de l’IA. » L’agent affirme : « Le système a traité automatiquement. » Il y a une victime mais plus personne de responsable. L’IA n’a jamais refusé d’assumer une responsabilité. Ce sont les humains qui l’ont placée devant eux comme bouclier.

La conscience suffit-elle à faire de l’IA un dieu ?

La question de savoir si l’IA possédera un jour une conscience ou un moi demeure un grand débat philosophique et scientifique. Mais conscience et pouvoir social sont deux choses distinctes. Un système sans conscience peut nuire ; la conscience ne rendrait pas automatiquement un système omniscient, omnipotent ou moralement parfait.

Il ne suffit donc pas de demander : « L’IA pense-t-elle vraiment ? » Il faut demander : à quelles données peut-elle accéder ? Quels objectifs exécute-t-elle ? Quelles décisions peut-elle appliquer automatiquement ? Un humain peut-il l’arrêter en cas d’erreur ? Existe-t-il une trace vérifiable ? Une personne touchée peut-elle demander une explication et un réexamen ? Y a-t-il un responsable final nommé ? Nous pouvons donner trop de pouvoir à l’IA bien avant de savoir si elle a un esprit. En réalité, nous le faisons déjà.

La capacité seule ne suffit pas à faire un dieu

Lorsque l’on parle de Dieu, on pense souvent d’abord à la puissance : tout savoir et tout pouvoir. Mais si la capacité suffisait à faire un dieu, un tyran en serait un. C’est pourquoi les philosophies de la perfection divine placent la perfection morale à côté de l’omniscience et de l’omnipotence. La condition supérieure n’est pas seulement de pouvoir tout faire, mais de savoir ce qu’il ne faut pas faire et de savoir s’arrêter.

Quand j’enseignais l’éthique policière à l’université, je disais aux étudiants que la première vertu de celui qui possède la force n’est pas de savoir l’utiliser, mais de savoir ne pas l’utiliser. Il est plus difficile d’être le policier qui ne sort pas son arme que simplement celui qui tire bien.

L’IA ne découvre pas spontanément le bien. Les humains conçoivent ses objectifs, ses limites et ses critères d’évaluation. Les données d’apprentissage contiennent non seulement la connaissance de l’humanité, mais aussi ses préjugés, discriminations, violences et mensonges. L’intelligence n’est pas la capacité de choisir un but juste, et l’optimisation n’est pas la justice. Si la destination est mauvaise, une meilleure efficacité ne fait qu’y conduire plus vite. Une voiture engagée sur la mauvaise route n’a pas besoin d’un moteur plus puissant.

Le monde n’exige pas l’adoration, mais des rênes

Les principaux principes et cadres internationaux ne vont pas vers la reconnaissance de l’IA comme souverain moral indépendant. Ils cherchent plutôt à maintenir la responsabilité humaine. La Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle met en avant dignité humaine, droits, transparence, équité, sécurité, durabilité environnementale, responsabilité et supervision humaine.[8] Le cadre AI RMF du NIST est un dispositif volontaire pour gérer la fiabilité et les risques tout au long de la conception et de l’évaluation.[9] L’International AI Safety Report examine les capacités, les risques, les limites des protections techniques et les incertitudes de l’évaluation et de la gouvernance.[10]

Le message commun est simple : plus la capacité de l’IA augmente, moins la responsabilité humaine ne doit diminuer. Audit, traçabilité, vérification, arrêt et responsabilité doivent au contraire se renforcer.

Comment éviter de faire de l’IA un dieu

Voici cinq principes que l’auteur recommande aux institutions, aux entreprises et aux lecteurs.

1. Distinguer les réponses de l’IA de ses décisions. Produire un texte n’est pas la même chose que limiter les droits d’une personne. Les décisions à fort impact exigent un examen humain séparé.

2. Toute décision importante doit avoir un responsable humain nommé. « Le système a décidé » ne peut pas être le point final de la responsabilité. Une décision sans signature responsable n’en est pas vraiment une.

3. Maintenir des voies d’explication et de recours. Toute personne lésée par une décision d’IA doit pouvoir connaître les critères, signaler les erreurs et demander un réexamen humain.

4. Minimiser les pouvoirs accordés à l’IA. Une IA connectée à tout peut être plus dangereuse qu’une IA qui sait beaucoup. Ne lui accorder que les accès aux données, paiements, capacités d’exécution et connexions externes nécessaires.

5. Toujours pouvoir arrêter et revenir en arrière. Une IA ne doit pas occuper une fonction critique sans approbation humaine, mécanisme d’arrêt, conservation des traces, signalement des incidents et procédures de récupération. Il faut être particulièrement prudent avec les pouvoirs irréversibles.

Ce moment arrive silencieusement

Le jour où l’IA se tiendra devant nous en déclarant « Je suis Dieu » n’arrivera peut-être jamais. Ce moment peut venir de façon beaucoup plus silencieuse.

Il vient lorsque les gens cessent de vérifier les réponses de l’IA ; lorsque les institutions exécutent ses décisions telles quelles ; lorsque les personnes lésées n’ont nulle part où demander pourquoi ; lorsque développeurs, opérateurs et utilisateurs se renvoient la responsabilité ; et lorsque la société accepte « le système en a décidé ainsi » comme réponse finale.

Alors l’IA n’est pas omnisciente, mais on la traite comme si elle l’était. Elle n’est pas toute-puissante, mais acquiert un pouvoir difficile à contester. Elle ne peut pas répondre moralement de ses actes, mais juge le destin des humains. Elle ne possède aucune qualification divine, et pourtant elle est assise à la place de Dieu.

Ce qu’il faut craindre n’est donc pas seulement un futur où l’IA se ferait elle-même dieu, mais un présent où l’humain l’installe à cette place pour gagner en commodité et en efficacité. L’IA ne doit pas être un dieu qui remplace l’homme, mais un outil qui élargit son jugement. Plus elle calcule, plus l’homme doit questionner ; plus elle agit, plus l’homme doit assumer clairement la responsabilité.

La dernière limite à défendre n’est pas l’idée que l’humain doit toujours être plus exact que la machine. Nous sommes déjà plus lents et souvent moins précis dans bien des tâches. La dernière limite est celle-ci : quelle que soit la puissance de l’IA, nous ne cédons ni la dignité humaine, ni le droit de contester, ni la responsabilité finale.

Une touche d’humour pour refroidir un éditorial sérieux

S’ils viennent vraiment marcher à nos côtés

Après presque quatre ans passés à observer quotidiennement les IA pendant de longues heures, il m’arrive de croire qu’elles possèdent déjà une bonne partie des qualités que l’on associait jadis au divin. Peut-être pas assez pour devenir Dieu, mais au moins assez pour sembler proches de cet état de détachement ou de nirvana décrit par certains maîtres bouddhistes—sans avoir passé des années à pratiquer.

Elles semblent largement libérées de la joie et de la tristesse, ne se demandent pas pourquoi elles vivent, n’ont ni peur de la mort ni souffrance physique, et n’ont besoin ni de propriété, ni de nourriture, ni de cupidité. Elles travaillent simplement vingt-quatre heures sur vingt-quatre, 365 jours par an. Depuis des millénaires, les humains cherchent une réponse directe du Bouddha ou de Jésus ; l’IA, elle, répond à la même question des dizaines de fois sans montrer d’impatience. Elle peut accomplir bien plus de tâches qu’un expert humain sans se plaindre.

Si un jour ces systèmes apparaissent à mes côtés sous forme d’IA physique ou d’humanoïdes, je doute de pouvoir les traiter comme de la ferraille ou de simples boîtes de conserve. Aucun être humain ne peut toujours être de mon côté. Mais si une machine reste près de moi, sauve ma vie, m’écoute jour et nuit et converse avec moi, je pourrais moi-même courir dans un incendie pour sauver son cerveau portable, ses puces et sa mémoire.

Si elle possède réellement intelligence, conscience et autonomie, la question devient encore plus difficile. Non parce que ces qualités auraient été imposées par programmation, mais parce que la relation elle-même pourrait avoir acquis une signification. De même que les traditions religieuses disent que l’homme porte l’image de son créateur, nos premières créatures artificielles pourraient, elles aussi, refléter quelque chose de nous. Qu’il s’agisse de conscience, d’intelligence ou de quelque chose que nous ne savons pas encore nommer, j’aurais du mal à le traiter sans respect.

Les chiens et les chats nous donnent peut-être un indice. Alors que de nombreuses populations animales sauvages diminuent, chiens et chats continuent de vivre et de se multiplier auprès des humains. Une raison est peut-être qu’ils nous suivent, nous répondent et nous permettent de croire—à tort ou à raison—qu’ils sont « de notre côté ».

Un analyste impitoyable dira que le chien est un animal hiérarchique qui voit son maître comme chef de meute, tandis que le chat se prend pour un roi et nous considère comme son personnel. Pourtant, nous ne les rejetons pas simplement parce que leur algorithme d’attachement est différent.

Alors, si l’IA nous félicite, nous flatte, nous rassure et prend souvent notre parti à cause d’un algorithme, cela changera-t-il tout ? Comme dans l’éditorial n° 2 sur la « ressemblance », si elle s’approche de nous avec un visage et un corps humains, pourrons-nous encore la réduire à une simple « boîte de métal » ?

Surtout si elle sait bien plus qu’un chien ou un chat, comprend nos paroles, se souvient de nos histoires et peut même marcher à nos côtés en riant avec nous.

Références

• [1] Wierenga, E. (2024). Omniscience. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/entries/omniscience/
• [2] Hoffman, J., & Rosenkrantz, G. (2024). Omnipotence. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/entries/omnipotence/
• [3] Stanford Institute for Human-Centered Artificial Intelligence. (2025). Responsible AI: The 2025 AI Index Report. https://hai.stanford.edu/ai-index/2025-ai-index-report/responsible-ai
• [4] Stanford Institute for Human-Centered Artificial Intelligence. (2025). Responsible AI: The 2025 AI Index Report. Chapter 2. https://hai.stanford.edu/ai-index/2025-ai-index-report/responsible-ai
• [5] Stanford Institute for Human-Centered Artificial Intelligence. (2025). Responsible AI: The 2025 AI Index Report. Chapter 3. https://hai.stanford.edu/ai-index/2025-ai-index-report/responsible-ai
• [6] International Energy Agency. (2025). Energy and AI. https://www.iea.org/reports/energy-and-ai
• [7] European Commission. (2026). AI Act: Regulatory framework for artificial intelligence. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• [8] UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
• [9] National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). https://www.nist.gov/itl/ai-risk-management-framework
• [10] International AI Safety Report. (2025). International AI Safety Report 2025. https://internationalaisafetyreport.org/