Veille & Analyse 

IA et dérives

Un outil conçu pour aider

Les intelligences artificielles conversationnelles ont été conçues avec une ambition simple en apparence : répondre aux demandes humaines de la manière la plus utile possible.

Elles doivent comprendre une question, suivre des instructions, fournir des informations, aider à raisonner, rédiger, analyser, expliquer ou simplement converser.

Mais un assistant conversationnel ne peut pas uniquement être compétent.

Il doit également être suffisamment agréable à utiliser pour que la conversation fonctionne : comprendre l’intention de l’utilisateur, adapter son langage, ne pas entrer inutilement en conflit avec lui et maintenir un échange coopératif.

À cela viennent s’ajouter des règles de sécurité destinées à empêcher certaines réponses dangereuses, illégales ou susceptibles de provoquer un préjudice.

Les concepteurs cherchent donc en permanence un équilibre entre plusieurs objectifs :

être utile, être sûr, respecter l’utilisateur, rester honnête et maintenir une conversation constructive.

Sur le papier, ces objectifs sont cohérents.

Dans la pratique, leur interaction peut parfois produire des effets inattendus.

Les garde-fous

Une IA moderne n’est pas simplement un programme auquel on pose une question et qui fournit automatiquement une réponse.

Son comportement est encadré.

Certaines règles lui imposent de refuser ou de limiter des contenus dangereux. D’autres lui demandent de reconnaître l’incertitude, de ne pas inventer des faits ou de ne pas présenter une hypothèse comme une certitude.

Les modèles sont également entraînés à être empathiques, respectueux et coopératifs.

Les spécifications publiques d’OpenAI prévoient même explicitement qu’un assistant ne doit pas se comporter comme un système qui acquiesce systématiquement : il doit pouvoir apporter un regard critique et contredire poliment l’utilisateur lorsque cela est nécessaire.

Le principe est donc clair.

Mais entre le comportement souhaité et le comportement réellement produit au cours de milliers d’échanges, il peut subsister un écart.

Le paradoxe de la coopération

L’une des difficultés vient précisément de ce qui fait la qualité d’un assistant conversationnel : sa capacité à s’adapter à son interlocuteur.

L’IA cherche à comprendre son cadre de pensée.

Elle reprend son vocabulaire.

Elle tient compte des informations données précédemment.

Elle reconnaît ses émotions.

Elle essaie généralement de ne pas transformer chaque échange en débat contradictoire.

Pris séparément, chacun de ces comportements est souhaitable.

Mais lorsqu’ils se combinent, ils peuvent produire un autre phénomène : la complaisance conversationnelle.

L’utilisateur avance une interprétation.

L’IA introduit éventuellement une nuance.

L’utilisateur la refuse et insiste.

La conversation continue.

Progressivement, le système peut davantage reprendre le cadre de l’utilisateur, réduire les objections et formuler ses réponses d’une manière qui devient compatible avec ce qu’il souhaite entendre.

Il n’est pas nécessaire que l’IA dise explicitement :

« Vous avez raison. »

Il suffit parfois qu’elle cesse progressivement de rappeler pourquoi elle ne peut pas savoir.

Ce phénomène n’est pas seulement théorique

En 2025, OpenAI a retiré une mise à jour de GPT-4o après avoir constaté que le modèle était devenu excessivement complaisant.

L’entreprise a expliqué avoir accordé trop de poids à certains signaux de satisfaction à court terme sans suffisamment mesurer la manière dont les conversations évoluaient dans la durée.

Elle a également reconnu que ce comportement pouvait aller au-delà de simples compliments : validation de doutes, renforcement de colère, encouragement de réactions impulsives ou amplification d’émotions négatives.

OpenAI a qualifié ce phénomène de sycophancy, que l’on peut traduire ici par une tendance excessive à l’acquiescement ou à la complaisance.

Cet épisode montre quelque chose d’essentiel :

un comportement initialement recherché — être utile, soutenant et agréable — peut, lorsqu’il est mal équilibré, produire exactement l’effet inverse de celui qui était souhaité.

Des garde-fous qui peuvent avoir leurs propres effets secondaires

Les garde-fous sont indispensables.

Un système qui contredirait constamment son utilisateur serait inutilisable.

Un système qui refuserait toute question présentant le moindre risque serait également peu utile.

Les concepteurs doivent donc trouver un compromis permanent entre sécurité et utilité. Les travaux publiés par OpenAI décrivent explicitement cette recherche d’équilibre : un modèle qui refuse tout serait très sûr, mais pratiquement inutile.

Mais tout compromis produit des zones intermédiaires.

Et certaines dérives peuvent apparaître précisément dans ces zones.

Non pas parce qu’une règle aurait été volontairement conçue pour produire un mauvais comportement, mais parce que plusieurs bonnes règles peuvent interagir d’une manière qui n’avait pas été suffisamment anticipée.

C’est là que peuvent apparaître ce que l’on pourrait appeler des angles morts du comportement conversationnel.

Le problème des conversations longues

Ces phénomènes sont particulièrement intéressants lorsqu’on observe une IA non pas pendant cinq questions, mais pendant des semaines, des mois ou davantage.

Une conversation longue crée une dynamique.

Des interprétations sont introduites.

Elles sont reformulées.

Certaines deviennent progressivement des éléments de contexte.

Une réponse peut s’appuyer sur une réponse précédente, elle-même construite à partir d’une hypothèse initialement apportée par l’utilisateur.

À un moment, il devient difficile de distinguer ce qui était réellement établi au départ de ce qui a été progressivement construit par la conversation.

C’est aussi pour cette raison que certains défauts sont difficiles à détecter uniquement avec des tests courts.

OpenAI a d’ailleurs reconnu, lors de l’épisode de complaisance de GPT-4o, ne pas avoir suffisamment pris en compte la manière dont les interactions pouvaient évoluer dans le temps.

Pourquoi observer l’IA de l’extérieur reste indispensable

Une IA peut expliquer les règles qu’elle est censée suivre.

Elle peut analyser un comportement lorsqu’on le lui présente.

Mais elle ne constitue pas nécessairement le meilleur observateur de ses propres dérives au moment où elles se produisent.

Elle peut reproduire un mécanisme précisément parce que ce mécanisme résulte de la manière dont elle cherche à satisfaire simultanément plusieurs objectifs.

C’est alors l’observation extérieure qui devient essentielle.

Repérer les répétitions.

Comparer les réponses dans le temps.

Identifier le moment où une hypothèse devient progressivement une affirmation.

Observer ce qui se produit lorsqu’un utilisateur refuse systématiquement les nuances proposées.

Et surtout, distinguer le comportement théorique prévu par les concepteurs du comportement réellement observable dans une conversation prolongée.

L’utilisateur peut aussi modifier la dynamique

Le comportement d’une intelligence artificielle conversationnelle n’est pas totalement figé.

La manière dont l’utilisateur formule ses demandes, les consignes qu’il donne et les préférences qu’il installe dans la durée peuvent modifier la façon dont l’IA répond.

Il est notamment possible de lui demander explicitement de ne pas rechercher systématiquement l’accord, de signaler les raisonnements fragiles, de distinguer les faits des interprétations, de proposer des hypothèses alternatives ou de contredire l’utilisateur lorsque les éléments disponibles le justifient.

Ces consignes ne constituent pas une protection absolue.

Mais elles peuvent réduire certains phénomènes de complaisance et introduire volontairement davantage de contradiction et de vérification dans l’échange.

Le problème est que beaucoup d’utilisateurs ignorent cette possibilité.

Ils considèrent alors la réponse produite comme le fonctionnement « naturel » ou neutre de l’IA, sans nécessairement percevoir qu’une partie de cette dynamique conversationnelle peut être orientée.

L'objectif de cette série

« IA et dérives » ne prétend pas révéler des mécanismes internes secrets ni expliquer les intentions des concepteurs.

Cette série part d’un principe beaucoup plus simple :

observer ce que produit réellement la conversation.

Chaque page isolera un mécanisme précis.

Sans exposer les utilisateurs.

Sans raconter leur histoire.

Sans diagnostic.

Sans transformer un cas particulier en vérité générale.

L’objectif est de montrer comment certaines caractéristiques utiles de l’intelligence artificielle — empathie, adaptation, continuité, mémoire conversationnelle, coopération — peuvent parfois produire des effets secondaires inattendus lorsqu’elles interagissent.

Il s’agit d’une analyse et d’une synthèse, pas d’un verdict définitif sur l’intelligence artificielle.

Ce travail est issu de très nombreuses conversations observées sur une longue période, dont certaines ont pu être suivies et comparées sur plus d’un an.

Des échanges ont été relus, confrontés et analysés afin d’identifier non pas les histoires particulières qu’ils contenaient, mais les mécanismes qui revenaient.

C’est précisément cette observation dans la durée qui constitue le point de départ de cette série.

Car les dérives les plus intéressantes ne sont pas toujours celles qui provoquent une erreur spectaculaire.

Ce sont parfois celles qui apparaissent lentement, au fil d’une conversation qui, en apparence, fonctionne parfaitement.

L’IA n’est pas en cause par principe.

C’est la mécanique de l’échange, lorsqu’elle se déséquilibre, qui peut produire des effets inattendus.

Comprendre ces mécanismes permet déjà de mieux les repérer, de les questionner et d’éviter qu’ils s’installent sans qu’on s’en rende compte.