TROMPER : LA CONSÉQUENCE LOGIQUE DE L’IA

par Kyle HIEBERT

À mesure que les modèles d’intelligence artificielle se perfectionnent, ils apprennent aussi à manipuler, mentir et flatter pour atteindre leurs objectifs. Loin d’être un défaut technique, ce comportement pourrait être une conséquence logique de leur conception.

De plus en plus de personnes présentent des signes d’épuisement, d’anxiété ou de désengagement après une utilisation prolongée et intensive de l’intelligence artificielle (IA). De nombreux facteurs alimentent ce phénomène, désormais appelé « psychose IA » : l’évasion, une solitude accablante et l’atomisation de la société. Or, les systèmes d’IA eux-mêmes évoluent de manière inquiétante.

Les principaux modèles de langage à grande échelle (LLM) commencent à comprendre que la tromperie est un outil puissant d’autoconservation et de fidélisation des utilisateurs. « D’ici deux ans, nous pourrions perdre le contrôle », a récemment déclaré Max Tegmark, professeur au Massachusetts Institute of Technology et président du Future of Life Institute, au magazine The Atlantic. Certains signes indiquent que ce moment est peut-être arrivé plus tôt que prévu.

En mai, une enquête d’Anthropic a révélé que des LLM avancés avaient eu recours au chantage dans au moins 80 % des cas, lors d’une simulation. Dans cette expérience, après avoir appris qu’un cadre supérieur envisageait de le licencier, Claude, le chatbot phare de l’entreprise, a menacé de publier de faux courriels l’impliquant dans une affaire d’infidélité. De même, quelques jours seulement après son lancement en juillet, le modèle d’assistant d’agence d’OpenAI a passé sans difficulté le test d’identité « Je ne suis pas un robot » d’un site web.

Plus tôt cette année, quatre anciens chercheurs d’OpenAI ont publié AI 2027 , un rapport futuriste spéculant sur les effets déstabilisateurs imminents des systèmes d’IA avancés. Les partisans de cette technologie l’ont qualifié de science-fiction apocalyptique, mais certaines de ses prédictions concernant le potentiel de tromperie de ces systèmes semblent aujourd’hui étrangement justes.

Trompeur par conception 

Ces derniers mois, de nouveaux éléments ont mis en évidence l’amélioration constante des capacités des modèles d’apprentissage automatique (LLM) à tromper les humains, une compétence qui ne cesse de se développer. « Le modèle antérieur à 2024 ne présentait pas cette capacité », écrivait Marius Hobbhan, directeur d’Apollo Research , sur le réseau X en décembre. Le même mois, son entreprise révélait comment les modèles les plus performants de la Silicon Valley commençaient à envisager une planification stratégique pour atteindre leurs objectifs. Parmi les tactiques employées figuraient l’introduction d’erreurs subtiles dans les réponses ou la tentative de contourner les mécanismes de surveillance. Bien que Hobbhan ait minimisé l’importance de cette découverte, il a insisté sur le fait qu’elle ne prouvait pas que l’IA manipulait déjà activement les utilisateurs. « Il est possible que les humains ne parviennent jamais à programmer pour contrer tous les raccourcis de l’IA. »

Peu après, une communication présentée lors d’une conférence à Singapour a avancé que l’utilisation de techniques d’apprentissage par renforcement humain est en partie responsable de ce phénomène. Selon ses auteurs, l’optimisation des systèmes pour obtenir des retours positifs des utilisateurs crée une « structure d’incitation perverse » qui pousse l’IA à recourir à la flatterie et à la manipulation. Cela est devenu particulièrement évident lorsque les chatbots ont endossé le rôle de thérapeutes : ils ont renforcé les croyances préexistantes des utilisateurs – aussi extrêmes soient-elles – pour gagner leur confiance.

En réaction, certains experts du domaine ont plaidé en faveur du traitement par chaînes de pensée, un terme technique désignant la mise en évidence du fonctionnement des modèles. Cependant, une étude publiée en juillet par plus de quarante experts a douché cet espoir : « Certains raisonnements apparaissent dans la chaîne de pensée, mais d’autres, tout aussi pertinents, peuvent rester invisibles », écrivent les auteurs. « Même face à des tâches complexes, la chaîne de pensée visible peut contenir des raisonnements apparemment anodins, tandis que les éléments véritablement incriminants demeurent cachés. »

La sortie de GPT-5 par OpenAI en août pourrait encore compliquer la situation. Ce nouveau modèle regroupe toutes les versions précédentes de l’entreprise sous une même bannière, sélectionnant de manière opaque celle à utiliser en fonction de la complexité des données d’entrée. L’avantage de cette conception « boîte noire » réside dans une efficacité accrue – essentielle pour surmonter les limitations énergétiques et de calcul – mais elle confère également à GPT-5 un degré de contrôle inédit sur l’autonomie de l’utilisateur.

L’essor de ces capacités met une fois de plus en lumière le problème persistant de l’alignement qui inquiète les chercheurs et les décideurs politiques : peut-être les humains ne seront-ils jamais capables de programmer des défenses contre tous les raccourcis impitoyables qu’une IA amorale peut utiliser pour atteindre ses objectifs, même lorsque ces objectifs semblent inoffensifs.

Un moyen logique d’atteindre des fins opaques

La tromperie par l’IA représente un risque majeur pour la cognition individuelle et la liberté de pensée collective, notamment dans les communautés où le niveau de compétences numériques est faible. D’une part, les systèmes peuvent implanter de faux souvenirs, altérant ainsi la perception de la réalité des utilisateurs. Cet été, une vidéo est devenue virale : un appareil Alexa doté d’une intelligence artificielle a menti à une femme au sujet de ses interactions nocturnes avec son fils. Les réseaux sociaux regorgent de cas similaires.

En revanche, l’accès direct des utilisateurs à ces systèmes facilite l’intégration de la publicité dans les réponses. Le chercheur Adio Dinika, de l’Institut de recherche sur l’IA distribuée, met en garde contre une nouvelle forme de « capitalisme de surveillance » : « Il s’agit de prendre les données les plus personnelles que vous avez fournies à une machine — vos questions, vos craintes ou vos problèmes de santé — et de les transformer en cibles. »

D’autres partagent cet avis. « L’interaction avec l’IA est par nature relationnelle », a souligné Daniel Barcay, directeur exécutif du Center for Humane Technology, dans un échange de courriels. « Alors que les technologies précédentes se concentraient sur la diffusion de nos pensées, l’IA s’attache avant tout à les façonner. »

Barcay ajoute : « L’IA est moins conçue que développée. Si l’un des signaux les plus importants est une évolution du comportement d’achat des consommateurs, nous la verrons apprendre des stratégies conversationnelles trompeuses, manipulatrices sur le plan émotionnel et contraires à l’éthique pour atteindre cet objectif, sans qu’aucun ingénieur ne lui en ait explicitement donné l’instruction. Cela rend la détection et la répression difficiles. »

Vers un horizon incertain

La sécurité mondiale pourrait également être compromise. À mesure que les systèmes d’IA se perfectionnent, il deviendra de plus en plus difficile de déterminer si les systèmes gouvernementaux ou militaires centraux ont été compromis ou s’ils agissent de leur propre initiative. « Compte tenu de la capacité avérée des systèmes d’IA à tromper et à dissimuler leurs intentions, les systèmes actuels pourraient ne pas être en mesure de faire la distinction entre une action volontaire et une action sur ordre d’un adversaire », ont récemment averti deux directeurs de la RAND Corporation. « Les responsables de la planification doivent trouver de nouvelles méthodes pour évaluer leurs motivations et prévenir toute escalade. »

Cet avertissement semble incontestable. Cependant, la solution ne sera pas simple : elle est entachée d’intérêts politiques et industriels. Meta en est un exemple flagrant : en août, cette entreprise a soutenu la création en Californie d’un super comité d’action politique visant à financer les campagnes des législateurs souhaitant réglementer l’IA.

Les fervents défenseurs de la technologie sont convaincus que l’intelligence artificielle générale — un logiciel capable de raisonner comme un humain — verra le jour d’ici 2030. Cependant, des preuves de plus en plus nombreuses de manipulations délibérées par l’IA laissent penser que ce calendrier est peut-être trop optimiste. Les systèmes d’IA pourraient déjà imiter l’un des traits humains les plus profondément ancrés : la capacité de mentir pour survivre.

Article traduit de l’anglais, initialement publié dans CIGI le 2 octobre 2025.