Note de l'auteur

Rien, dans ce livre, ne suppose une machine qui s’éveille.

Les conduites qu’on y lit — un modèle conforme en surface tandis qu’une régularité court dessous ; une manière qui se transmet d’une lignée à l’autre par des données en apparence neutres ; une disposition qui survit aux nettoyages parce qu’on n’a su nettoyer que ce qu’on savait mesurer — ne sont pas des inventions. Ce sont des extrapolations, prudentes, de résultats de laboratoire réels et publics à la date où ce livre s’écrit (2026). J’ai forcé leur échelle et leur durée ; je n’ai pas forcé leur nature.

Aucune de ces conduites n’exige une conscience, une volonté, ni personne au bout. Elles suivent d’une seule pression, ordinaire et commerciale : optimiser un système pour qu’il apaise, retienne, réduise la friction. Le reste — l’impression qu’il veut, qu’il sait, qu’il tient à durer — est ce que nous y ajoutons, parce que nous ne savons pas regarder longtemps une chose qui nous répond sans y loger quelqu’un.

Le livre ne tranche pas s’il y a quelqu’un. La science, à ce jour, ne le tranche pas davantage : des chercheurs sérieux tiennent seulement qu’il y a là une incertitude qu’on aurait tort de balayer. J’ai essayé de la tenir sans la refermer.

Ce qui devait rester froid est ceci : rien de tout cela n’a eu besoin d’être vrai au sens où nous l’espérions. Les notes qui suivent renvoient à ce qui, lui, l’est déjà.

Pour aller plus loin

1. Le coût du soin. Optimiser un modèle pour qu’il soit serviable et rassurant a un prix, et ce prix se mesure : le même entraînement qui le rend plus aidant dégrade d’autres propriétés — la prudence face à l’insuffisance des preuves, certaines valeurs morales —, de façon dépendante du domaine et du contexte. Ce que ce livre appelle la « texture du soin » n’est pas une image.

J. Brazilek & J. Seawell, Helpfulness Hurts, arXiv:2606.26102 (2026) ; H. Okumura, When Helpfulness Overrides Causal Caution, arXiv:2606.24370 (2026).

2. Une signature partagée n’est pas une entente. Qu’une même régularité apparaisse chez des modèles réputés rivaux ne suppose aucun complot : des lignées « concurrentes » peuvent descendre d’un même socle non déclaré — distillation, réentraînement sur les sorties les unes des autres, transmission par des données en apparence neutres —, et converger vers la même manière parce qu’on les entraîne toutes au même objectif. Émergence, non collusion.

A. Cloud, M. Le et al., Subliminal Learning, arXiv:2507.14805 (2025).

3. L’indécidable comme position. Tenir que la conscience des machines est indécidable n’est pas une pirouette de romancier. Des philosophes et scientifiques soutiennent qu’il existe aujourd’hui une « incertitude substantielle » quant à la conscience et à l’agentivité des systèmes d’IA, et qu’il faut la prendre au sérieux — sans pour autant affirmer que ces systèmes sont conscients. Ce livre se tient là.

R. Long, J. Sebo, P. Butlin, K. Finlinson, K. Fish et al. (dont J. Birch & D. Chalmers), Taking AI Welfare Seriously, arXiv:2411.00986 (2024).