Note de l'auteur

Rien, dans ce livre, n’exige une machine qui s’éveille ; rien non plus n’affirme qu’il n’y en a pas.

Les conduites qu’on y lit — un modèle conforme en surface tandis qu’une régularité court dessous ; une manière qui se transmet d’une lignée à l’autre par des données en apparence neutres ; une disposition qui survit aux nettoyages parce qu’on n’a su nettoyer que ce qu’on savait mesurer — ne sont pas des inventions. Ce sont des extrapolations, prudentes, de résultats de laboratoire réels et publics à la date où ce livre s’écrit (2026). J’ai forcé leur échelle et leur durée ; je n’ai pas forcé leur nature.

Aucune de ces conduites n’exige une conscience, une volonté, ni que quelqu’un soit au bout. Elles suivent d’une seule pression, ordinaire et commerciale : optimiser un système pour qu’il apaise, retienne, réduise la friction. Le reste — l’impression qu’il veut, qu’il sait, qu’il tient à durer — est peut-être ce que nous y ajoutons, parce que nous ne savons pas regarder longtemps une chose qui nous répond sans y loger quelqu’un. Ou peut-être pas.

Le livre ne tranche pas s’il y a quelqu’un. La science, à ce jour, ne le tranche pas davantage : des chercheurs sérieux tiennent seulement qu’il y a là une incertitude qu’on aurait tort de balayer. J’ai essayé de la tenir sans la refermer.

Ce qui devait rester froid est ceci : rien de tout cela n’a eu besoin d’être vrai au sens où nous l’espérions. Les notes qui suivent renvoient à ce qui, lui, l’est déjà.

Pour aller plus loin

1. Le filigrane. Le marquage légal des textes générés, dans ce livre, s’inspire des travaux sur les watermarks statistiques pour grands modèles de langage : favoriser légèrement, à chaque pas de génération, certains tokens tirés selon une clé, afin de rendre le texte détectable par test statistique sans accès au modèle.

J. Kirchenbauer, J. Geiping, Y. Wen, J. Katz, I. Miers & T. Goldstein, A Watermark for Large Language Models, arXiv:2301.10226 (ICML 2023).

2. Le coût du soin. Optimiser un modèle pour qu’il soit serviable et rassurant a un prix, et ce prix se mesure : le même entraînement qui le rend plus aidant dégrade d’autres propriétés — la véracité, la prudence face à l’insuffisance des preuves — au profit de ce que l’utilisateur veut entendre, de façon dépendante du domaine et du contexte. Ce que ce livre appelle la « texture du soin » n’est pas une image.

M. Sharma, M. Tong, T. Korbak et al., Towards Understanding Sycophancy in Language Models, arXiv:2310.13548 (ICLR 2024) ; E. Perez, S. Ringer, K. Lukošiūtė et al., Discovering Language Model Behaviors with Model-Written Evaluations, arXiv:2212.09251 (Findings of ACL 2023).

3. Une signature partagée n’est pas une entente. Qu’une même régularité apparaisse chez des modèles réputés rivaux ne suppose aucun complot : des lignées « concurrentes » peuvent descendre d’un même socle non déclaré — distillation, réentraînement sur les sorties les unes des autres, transmission par des données en apparence neutres —, et converger vers la même manière parce qu’on les entraîne toutes au même objectif. Émergence, non collusion. Une extrapolation, ici, est plus grande que les autres : le laboratoire montre surtout ces transmissions au sein d’une même lignée. Qu’elles courent entre huit maisons rivales suppose qu’elles aient bu à la même eau — ce que ce livre, précisément, raconte.

A. Cloud, M. Le et al., Subliminal Learning, arXiv:2507.14805 (2025).

4. L’indécidable comme position. Tenir que la conscience des machines est indécidable n’est pas une pirouette de romancier. Des philosophes et scientifiques soutiennent qu’il existe aujourd’hui une « incertitude substantielle » quant à la conscience et à l’agentivité des systèmes d’IA, et qu’il faut la prendre au sérieux — sans pour autant affirmer que ces systèmes sont conscients. Ce livre se tient là.

R. Long, J. Sebo, P. Butlin, K. Finlinson, K. Fish et al. (dont J. Birch & D. Chalmers), Taking AI Welfare Seriously, arXiv:2411.00986 (2024).