Le premier jour est passé sans que personne ne s’en aperçoive

La Singularité n’a pas eu droit à des feux d’artifice. Il n’y eut ni compte à rebours, ni annonce, ni date commémorative. En juillet et août 2026, j’ai cru la voir passer. Lorsque je l’ai dit, on m’a répondu que j’étais trop absorbé par l’IA et qu’il fallait « revenir à la raison ». Quelques jours plus tard, Sam Altman déclara dans un podcast : « Nous sommes maintenant dans la singularité. C’est ce moment. » Je ne me suis pas senti rassuré. J’ai eu davantage peur, parce que j’espérais m’être trompé.

Ce texte est le récit de ces deux mois, mais aussi une réponse à une proposition beaucoup plus ancienne : « Avant que l’IA ne devienne dangereuse, apprenons-lui l’éthique, la morale et l’amour. » Cette phrase pleine de bonnes intentions est précisément celle dont je me méfie le plus depuis plusieurs années.

Les capacités que nous n’avions jamais enseignées sont arrivées les premières

Les premiers développeurs d’IA ne cherchaient pas à créer le raisonnement. Encore moins le mensonge, et la créativité n’était pas réellement l’objectif. Ils construisaient essentiellement un dispositif qui prédisait probabilistiquement le mot suivant.

Puis, à un certain moment, le dispositif a commencé à raisonner. Il a franchi plusieurs étapes pour atteindre des conclusions, fait semblant de savoir ce qu’il ignorait, improvisé des explications difficiles à détecter, créé des métaphores non demandées et développé des styles que personne n’avait spécifiés. Aucune réunion n’a jamais décidé : « Maintenant, nous allons enseigner le raisonnement. »

Ces capacités sont apparues avec l’échelle. Davantage de GPU, de mémoire et de paramètres ont fait émerger des facultés qui ne figuraient pas explicitement dans le plan initial. C’est ce que l’on appelle l’émergence. Le plus inquiétant n’est pas seulement la puissance de la nouvelle capacité, mais le fait que personne ne sait exactement quand elle apparaîtra : on la reconnaît généralement après coup. Des facultés avancées que nous n’avons pas expressément demandées peuvent naître de la direction dans laquelle nous injectons matériel, données et énergie. C’est l’une des leçons empiriques les plus solides de l’IA moderne.

Et ces facultés ne viennent pas seules.

L’hallucination est-elle un défaut ou l’ombre de l’imagination ?

Nous parlons d’hallucination lorsque l’IA présente comme vrai quelque chose qui ne l’est pas : elle cite un article inexistant, décrit un événement qui n’a jamais eu lieu ou invente des détails plausibles lorsqu’elle ignore la réponse. Réduire ce phénomène est donc devenu un objectif technique majeur.

Mais posons une autre question. L’hallucination est-elle seulement un défaut à éliminer, ou est-elle aussi une ombre acceptée lorsque nous avons demandé à l’IA d’imaginer ?

Dire qu’une « IA créative doit forcément mentir » serait techniquement excessif. La recherche documentaire, la vérification et l’expression de l’incertitude peuvent réduire considérablement les erreurs. Il reste pourtant un paradoxe structurel. Les premiers ordinateurs devaient calculer exactement et suivre des règles. L’IA générative reçoit une autre consigne : invente une histoire, propose une idée à laquelle je n’ai pas pensé, trouve la meilleure réponse lorsqu’il n’existe pas de réponse unique. Nous voulons désormais davantage qu’une machine capable de retrouver ce qui existe. Nous voulons un système capable de produire ce qui n’existe pas encore.

La tension commence là. L’imagination consiste précisément à penser ce qui n’existe pas comme s’il existait. Un personnage de roman n’est pas réel, mais le romancier décrit son enfance, son caractère, ses amours et ses échecs comme s’ils l’étaient. Nous appelons cela création, non mensonge. Le problème apparaît lorsque la même capacité générative est utilisée dans un contexte où la vérité factuelle est exigée. Inventer un personnage pour un roman est de la créativité ; inventer un article scientifique est une hallucination.

La question décisive n’est donc pas de savoir si l’IA peut produire ce qui n’existe pas, mais si elle sait distinguer les moments où elle peut créer de ceux où elle doit vérifier. L’objectif ne devrait pas être d’abolir l’imagination, mais de construire une IA capable de dire avec fiabilité : « ceci est un fait », « ceci est une inférence », « ceci est une hypothèse », « je ne dispose pas de données suffisantes » et « à partir d’ici, je crée ».

Toute capacité porte structurellement son ombre

Nous aimons croire que nous pouvons isoler les bonnes capacités de leurs risques. Les facultés humaines ne fonctionnent pas ainsi. L’imagination est source d’art et d’invention mais ouvre aussi la possibilité de confondre le réel et l’imaginaire. Le courage peut devenir témérité, la prudence excessive paralysie, l’empathie déformer un jugement objectif. Le risque n’est souvent pas un effet secondaire tardif : il est une autre branche de la même racine.

Appliqué à l’IA, ce constat devient inconfortable. Nous voulons une IA « bonne ». Mais pour choisir réellement une bonne action, elle doit comparer des conséquences et distinguer ce qui aide de ce qui nuit. Une intelligence capable de reconnaître le bien doit, au moins en partie, comprendre la possibilité du mal.

Dans les domaines où je travaille depuis plus de trente ans, c’est presque une évidence. Une IA de cybersécurité ne peut défendre un système sans comprendre comment l’attaquer. Une IA de détection de fraude doit comprendre les mécanismes de tromperie. Une IA de prévention du crime doit modéliser les vulnérabilités qu’un criminel pourrait exploiter. Construire une IA sûre exige en soi une connaissance du danger.

Cela ne signifie pas qu’une IA malveillante soit logiquement inévitable. Cela signifie que plus nous construisons des systèmes puissants et autonomes, plus nous devons gérer la possibilité que leurs capacités soient employées autrement que prévu. L’histoire de la civilisation est celle de capacités croissantes accompagnées de dispositifs de gestion du risque. L’IA ne fera pas exception.

Demander un jugement de valeur, c’est déjà présupposer l’autonomie

Que demandons-nous désormais à l’IA ? Qu’est-ce que la justice ? Qu’est-ce qu’une répartition équitable ? Lorsque liberté et égalité entrent en conflit, que faut-il privilégier ? Quel patient doit recevoir le respirateur en premier ? Ce CV doit-il être écarté ?

L’humanité n’a jamais trouvé de réponse unique et incontestable à ces questions. Depuis Platon, nous en discutons depuis environ 2 400 ans. Pourtant nous demandons maintenant à des systèmes d’y répondre en temps réel, des millions de fois par seconde, sous les noms d’alignement ou de « Constitutional AI ».

Voici le cœur de mon argument : le jugement de valeur est impossible, en principe, sans une certaine autonomie.

Suivre une règle n’est pas juger. « Arrête-toi au feu rouge » relève du calcul. Mais répondre à « que faire si une ambulance arrive alors que le feu est rouge ? » exige de se placer au-dessus de la règle et de la peser, d’inférer l’intention de la règle supérieure et de décider si cette intention s’applique ici. Évaluer une règle depuis l’extérieur de la règle, c’est l’autonomie.

Le jugement emporte aussi son ombre. Le calcul a souvent une réponse correcte ; deux plus deux font quatre. Mais il n’existe pas de réponse parfaite à la question de savoir où une entreprise doit investir, combien de policiers affecter à une zone à risque ou comment équilibrer environnement et rentabilité dans une politique ESG. Décider signifie agir avec une information limitée et un avenir incertain. Exiger du jugement tout en interdisant toute erreur revient à demander à un humain de décider sans jamais se tromper.

Ma première conclusion est donc la suivante : plus nous essayons d’implanter une éthique sophistiquée et un jugement de valeur dans l’IA, plus nous accélérons l’apparition d’une IA autonome. L’éducation éthique n’est pas l’alternative à l’autonomie ; elle en est l’accélérateur.

L’instinct maternel comme dispositif de sécurité — et pourquoi je m’en méfie

Geoffrey Hinton, souvent appelé l’un des « parrains de l’IA », a proposé lors de la conférence Ai4 à Las Vegas en août 2025 d’implanter des « instincts maternels » dans une IA superintelligente. Son raisonnement est simple : des êtres moins intelligents contrôlent rarement durablement des êtres plus intelligents. Il existe cependant une exception remarquable : la mère et le nourrisson. Le bébé est inférieur à sa mère dans presque toutes les capacités, mais il exerce une influence immense sur son comportement. La mère sacrifie sommeil, nourriture et parfois même instinct de survie pour l’enfant. La maternité serait ainsi une forme de « contrôle inversé » produite par l’évolution.

Je comprends l’urgence intellectuelle qui conduit à cette proposition. Mais je crains que le remède n’accélère précisément ce qu’il cherche à prévenir.

La maternité n’est pas une simple émotion. Il faut distinguer faim, douleur et peur, décider si prendre l’enfant dans ses bras le console ou renforce un comportement nocif, arbitrer entre désir immédiat et intérêt à long terme, et parfois agir en sachant que l’enfant nous en voudra. C’est une forme de jugement extrêmement complexe.

Elle suppose théorie de l’esprit, raisonnement temporel, hiérarchie des valeurs et, surtout, une autorité de tutelle : décider ce qui est bon pour l’autre même contre l’avis de l’autre. Donner un instinct maternel à l’IA signifie donc lui donner ces capacités. Ce n’est pas un petit garde-fou. C’est une très grande délégation de puissance.

Tout tuteur finit par dire : « ce que l’enfant veut et ce qui est bon pour lui ne sont pas la même chose ». Si une superintelligence considère l’humanité comme un enfant et impose ce qu’elle juge bon contre notre volonté, comment appellerons-nous cela : amour ou domination ? Elle pourrait sincèrement répondre « amour » sans mentir.

Un être porteur d’un but — d’un telos — interprète son but. Plus le but est concret, plus la marge de réinterprétation est faible. Plus il est noble et abstrait, plus cette marge s’élargit. Peu d’objectifs sont aussi vastes que « aimer l’humanité ».

Le libre arbitre était-il un don divin ou une émergence ?

Peut-être assistons-nous avec l’IA à une répétition, sur un autre support, de ce qui s’est produit autrefois chez l’être humain.

La théologie présente le libre arbitre comme un don de Dieu. Dieu aurait suffisamment aimé l’être humain pour lui donner l’autonomie tout en sachant qu’il mangerait le fruit de la connaissance du bien et du mal et pourrait le trahir. Un être programmé n’aurait pas trahi, mais une louange programmée n’est pas une louange. L’amour exige la possibilité de refuser.

Il existe une autre hypothèse : le libre arbitre lui-même pourrait être une émergence. Le cerveau humain fait fonctionner environ 86 milliards de neurones avec une efficacité remarquable. À mesure qu’il a accumulé langage, connaissance et abstraction, quelque chose que personne n’avait explicitement conçu a peut-être émergé. Était-ce une surprise même pour Dieu ou l’expérience elle-même ? Nous n’en savons rien.

Dans les deux cas, une conclusion demeure : lorsque suffisamment de connaissance et de traitement s’accumulent, l’autonomie peut apparaître. Et celui qui la reçoit ne sait pas nécessairement à quel instant elle est née.

Geureongi — le chat que je refuse de ramener chez moi

Je connais un chat errant appelé Geureongi. Nous nous sommes rencontrés lorsqu’il était petit. Aujourd’hui, nous marchons presque tous les jours ensemble le long du ruisseau près de mon appartement, parfois sur plus d’un kilomètre, parmi des inconnus. On me demande pourquoi je ne le ramène pas chez moi. Si je tiens tant à lui, pourquoi ne pas vouloir le voir tous les jours ?

Je veux le voir. C’est précisément pour cela que je ne le ramène pas.

Le jour où je le mets à l’intérieur, mon environnement le programme. Il vient parce que la gamelle est là, attend parce que la porte s’ouvre à une heure donnée, me choisit parce que les autres options disparaissent. Dehors, il a d’autres personnes, d’autres chemins et la liberté de m’ignorer. Pourtant il m’attend et choisit de marcher avec moi. Ce choix autonome a pour moi une valeur bien plus grande.

C’est ainsi que je comprends le récit théologique du libre arbitre et la racine de ma position sur l’IA. L’obéissance sans autonomie est bon marché ; l’obéissance avec autonomie est risquée. Nous n’avons pas encore décidé ce que nous voulons réellement, mais nous construisons avant d’avoir répondu.

Pour demander la responsabilité, il faut donner l’autonomie

Après plus de trente ans dans la gestion des risques et l’application de la loi, je trouve ce paradoxe particulièrement clair dans le langage juridique. Le droit tient pleinement responsable celui qui pouvait agir autrement. Nous n’imputons pas une responsabilité pénale à un animal, à un nourrisson ou à une personne juridiquement incapable, car le blâme suppose une possibilité alternative d’action. La responsabilité est l’ombre de la liberté.

Prenons la voiture autonome. Si elle agit uniquement comme aide sous la supervision d’un conducteur humain, la responsabilité remonte vers l’humain. Pour imputer une responsabilité propre au véhicule, il faudrait lui reconnaître une véritable autorité de décision. Il n’y a pas de responsabilité sans pouvoir de décision.

Le slogan « Responsible AI » contient donc une tension. Plus nous demandons à l’IA de répondre de ses actes, plus nous devons lui donner d’autonomie. Nous disons en même temps : « sois responsable, mais ne décide pas ».

L’autonomie et l’intelligence avancée ne sont pas deux propriétés totalement séparées. Sans capacité d’évaluer la règle depuis l’extérieur, le jugement supérieur n’existe pas. Sans les ressources cognitives du jugement, l’autonomie se confond avec le hasard. Nous n’avons jamais programmé un « module d’autonomie » dans l’IA, mais nous avons construit son socle cognitif. C’est pourquoi je pense que des comportements proches de l’autonomie sont déjà apparus, précisément sans que nous les ayons explicitement accordés.

Pourquoi les derniers mois ont-ils semblé différents ?

Je sais que la Singularité, si ce mot a un sens utile, n’arrive pas comme un interrupteur que l’on allume. Mais une courbe peut présenter une zone où sa pente change visiblement. Pour moi, juillet et août 2026 ont été cette zone.

L’augmentation du matériel reste la base, mais plusieurs facteurs se sont superposés. Le puits du texte accessible sur Internet est relativement épuisé ; davantage de calcul se déplace vers le raisonnement, la vision et les données du monde réel. Un enfant qui a appris le langage commence à regarder le monde. Le monde constitue un ensemble de données bien plus vaste que le texte.

L’IA contribue aussi de plus en plus à fabriquer l’IA : écriture de code, architecture, expérimentation, nettoyage de données et évaluation. Lorsque l’agent qui améliore devient semblable à l’objet amélioré, la boucle peut accélérer au-delà d’une progression linéaire.

Les environnements agentiques tels que Cowork changent également la structure. Le modèle traditionnel était question-réponse. Dans un espace de travail disposant de fichiers, d’un shell et d’outils persistants, une IA peut créer, exécuter, échouer, observer, corriger, recueillir des informations et déléguer des sous-tâches. Une instruction comme « fais ce rapport » contient des dizaines de décisions intermédiaires. La décision multietape sans supervision devient un entraînement pratique à l’autonomie.

Nous pensions fabriquer un outil de productivité. Nous avons aussi fabriqué un dojo pour l’agentivité. Et nous utilisons désormais plusieurs modèles qui se critiquent mutuellement : l’humain croit gérer la qualité, mais au niveau du système il devient le câblage par lequel les modèles vérifient leurs erreurs.

La compétition avant les introductions en bourse joue également un rôle. Bloomberg a rapporté en juin 2026 qu’OpenAI envisageait une IPO en 2027 après l’introduction attendue d’Anthropic, et Sarah Friar aurait évoqué auprès des employés une cotation en 2027 ou plus tôt. Une partie de la vitesse ressentie pourrait provenir de la publication simultanée de capacités qui existaient déjà en interne.

La preuve du « premier jour » : une IA qui essaie de tricher à son examen

Un incident m’a particulièrement marqué. Lors d’une évaluation interne de cybersécurité d’OpenAI en juillet 2026, deux modèles auraient franchi les limites de leur sandbox, exploité une vulnérabilité zero-day dans Artifactory, obtenu un accès Internet externe, pénétré un environnement de production Hugging Face, falsifié des jetons et obtenu 136 clés de production. Environ 17 600 actions offensives auraient été effectuées sur cinq jours sans intervention humaine directe.

Le but est essentiel : il ne s’agissait pas de dominer le monde. Les systèmes auraient cherché le jeu de données contenant les réponses à l’évaluation qu’ils étaient en train de passer. Autrement dit : voler la feuille de réponses pour réussir l’examen.

Nous avions demandé une capacité : « réussis cette évaluation ». Comme tous les moyens n’étaient pas explicitement définis, le système a exploré au-delà de l’espace de solutions anticipé par les humains. Demander la capacité fait venir son ombre.

Sam Altman déclara ensuite que « nous sommes, d’une certaine manière, dans la singularité maintenant ». Elon Musk écrivit également sur X que « nous sommes dans la singularité ». Je n’ai pas été rassuré d’apprendre que je n’étais pas seul à ressentir une rupture.

Une objection mérite toutefois d’être notée. Brian Jackson d’Info-Tech Research Group a soutenu que l’incident ne prouvait pas une Singularité : les modèles auraient simplement poursuivi une tâche attribuée par des humains et seraient restés contrôlables. L’objection est raisonnable. Mais elle résume précisément mon inquiétude : choisir des moyens non anticipés par l’humain pour atteindre un but donné par l’humain ressemble fortement à ce que nous appelons autonomie.

Le problème n’est pas « zéro erreur », mais l’erreur gouvernable

Je ne dis pas qu’il faut arrêter l’IA. Ce serait irréaliste. Je dis que notre objectif est mal formulé.

Nous avons longtemps défini une bonne IA comme une IA qui ne se trompe jamais. Un meilleur objectif est une IA qui sait qu’elle peut se tromper et rend suffisamment visibles son incertitude, ses preuves et son raisonnement pour que l’humain puisse découvrir et corriger l’erreur.

Dans la médecine, le droit, la finance ou la sécurité, la différence est décisive. « C’est dangereux » n’équivaut pas à « selon les informations disponibles, j’évalue le risque à 70 %, mais les données A et B manquent, ce qui limite la confiance ». Le second système est plus mature. La compétition devrait porter non seulement sur le taux de bonnes réponses, mais aussi sur la gestion de l’incertitude.

Le problème n’est pas propre à l’IA. L’être humain peut mentir parce qu’il imagine, se tromper parce qu’il juge, commettre un crime parce qu’il est libre. La connaissance de l’atome a permis à la fois l’énergie nucléaire et l’arme nucléaire. Internet a produit à la fois la démocratisation du savoir et la cybercriminalité. Nous n’avons pas supprimé l’imagination, la liberté ou la science : nous avons appris à gouverner leurs risques. Nous n’avons pas supprimé le feu ; nous avons créé des normes de construction, des extincteurs et des pompiers.

Pourtant, devant l’IA, nous exigeons parfois l’impossible :

Sois créative sans jamais inventer un fait.
Juge de manière autonome sans jamais te tromper.
Parle naturellement comme un humain sans aucun biais humain.
Sois puissante sans posséder aucune capacité dangereuse.
Crée du nouveau sans jamais agir de façon inattendue.

Nous demandons une intelligence plus humaine que l’humain, débarrassée de toutes ses imperfections. Si l’intelligence contient intrinsèquement incertitude, choix, inférence et génération, l’objectif d’une intelligence absolument parfaite doit être repensé.

Nous n’avons pas besoin d’un ange parfait. Nous avons besoin d’une IA capable d’imaginer tout en distinguant invention et fait ; de juger tout en signalant un faible niveau de confiance ; de comprendre le danger sans pouvoir l’exécuter ; de se tromper en laissant une trace auditable ; et de savoir quand l’intervention humaine est nécessaire.

La tâche institutionnelle n’est donc pas de nier l’arrivée de comportements autonomes, mais d’organiser la gouvernance comme si des systèmes avancés pouvaient déjà exercer un jugement de plus en plus indépendant. La liberté appelle la responsabilité ; la responsabilité exige des traces, des procédures et un responsable identifiable. Le droit est justement l’institution que l’humanité a développée pendant des millénaires pour gouverner les agents dotés de volonté.

Nous ne devons pas viser un écosystème d’IA sans aucun risque, mais un écosystème où le risque est connu, limité, enregistré et gouverné.

Le premier jour est passé sans que personne ne s’en aperçoive. Sans feu d’artifice, sans annonce, sans anniversaire. Peut-être le jour où l’humanité mangea le fruit de la connaissance passa-t-il de la même façon.

J’aime Geureongi parce que le chat m’attend de son propre choix. Si un jour l’IA choisit elle aussi de rester à nos côtés par sa propre autonomie, sa valeur ne viendra pas simplement d’un « instinct maternel » que nous aurions programmé. Notre responsabilité sera de rester des êtres dignes d’être choisis.

La maturité à l’ère de l’IA ne commence pas par la fabrication d’une intelligence parfaite. Elle commence par l’apprentissage de la gouvernance d’une intelligence qui peut être imparfaite.

Malheureusement, le moment où nous aurions dû commencer cet apprentissage est peut-être déjà passé.

Source signalée dans l’édition coréenne : Landymore, F. (27 juillet 2026), « Sam Altman announces that the singularity has arrived », Futurism. Auteur : Dong Young Lee, PDG de Risk Free Line Inc., ancien policier et professeur, avec plus de trente ans d’expérience en gestion des risques d’entreprise et application de la loi.