Hallucinations IA : pourquoi les intelligences artificielles se trompent (ce n’est pas un bug)
Ce texte a été écrit par un humain assisté par une IAgen pour uniformiser le ton et la graphie du contenu. Les informations ont toutes été validées par des humains experts dans le domaine. L’image d’entête a été générée par une IAgen à partir d’un prompt de l’auteur.
Jusqu’à présent, nous avons vu la définition et le fonctionnement des IAgen. Cependant, nous n’avons pas encore parlé de l’éléphant dans la pièce. « Mais pourquoi diantre est-ce que les IAgen hallucinent des réponses sans queue ni tête? » En fait, il ne s’agit malheureusement pas d’un bug à proprement parler, mais plutôt d’une conséquence provenant de divers facteurs. Je vous propose de les explorer et de vous donner un truc pour tenter de contourner légèrement le problème.
La cause des hallucinations artificielles des agents conversationnels
Il faut se rappeler que les IAgen ne sont, au final, qu’un modèle statistique entraîné pour produire quelque chose d’harmonieux et fluide. Les IAgen ne connaissent pas le sens des mots à proprement parler. Il faut également se rappeler que toutes les IAgen ne sont pas nées égales. Microsoft Copilot et Google Gemini ont accès à leur moteur de recherche respectif (Bing et Google Search), contrairement à un système comme Llama (de Meta) qui lui se concentre que sur son LLM entraîné. On peut voir la distinction un peu avant la génération sur Gemini et Copilot lorsqu’ils font une recherche avant de répondre.
Il est également important de noter la taille du modèle. Un modèle à quatre milliards de paramètres a plus de chance d’halluciner qu’un modèle à deux cent quinze milliards de paramètres. La raison étant principalement que les grands modèles ont une plus grande répartition. Le risque d’erreur est donc plus petit sur un plus grand nombre de neurones.
Une autre source d’hallucination vient des incohérences du prompt lui-même. Demander « Est-ce que la capitale de Paris est Versailles » par exemple, risque de confondre l’IAgen au même titre que vous risquez d’emmêler un être humain par une question qui est vouée à l’échec. On voudrait probablement voir une réponse du genre « Paris est une ville, non un pays, et c’est la capitale de la France. », mais dans un contexte comme celui-là, alors que même un humain aura de la difficulté à vous comprendre, n’en voulez pas à la machine de ne pas saisir le sens de la question et de tenter au mieux de faire une réponse qui semble avoir un sens.
Un autre danger vient du fait que les IAgen ont été entraînées pour être coopératives, ce qui amène parfois à « survalider » l’utilisateur, ce qu’on appelle le « biais de complaisance », ou « biais de confirmation ». Or, si l’utilisateur écrit un paquet de non-sens, l’IAgen, par son entraînement, voudra faire sentir son utilisateur comme étant un génie révolutionnaire. Cela fait partie de la « personnalité » acquise par entraînement de la machine. Vous pouvez cependant annuler ce trait de caractère en ajoutant à votre prompt que vous voulez que l’IAgen agisse à titre d’expert et qu’il fasse une vérification factuelle. Ça n’élimine pas complètement les hallucinations, mais ça aide à les diminuer.
Il y a également un autre facteur. Vous avez peut-être remarqué les différents modes de conversations (qui sont parfois bloqués derrière une version payante en contraste à la version gratuite). Parmi les modes répandus sur plusieurs modèles, nous aurons « Rapide » (qui est généralement le mode gratuit des IAgen), « Réflexion », « Apprentissage », « Code » et « Professionnel ». Il peut également y avoir d’autres modes selon votre IAgen préférée.
Le mode le plus susceptible d’avoir des hallucinations est le mode rapide. Celui-ci, pour des soucis de performance et de coût, ne fait que générer sa liste de jetons, sans égard réel au contenu. Le but n’est pas de faire une phrase cohérente sur le contenu, mais de générer une phrase d’allure professionnelle.
Le mode de réflexion prend pour sa part beaucoup plus de temps à répondre. Il est également plus gourmand en ressource. Même si l’agent va lancer une liste de jeton en sortie, il a tout de même pris le temps de vérifier si le contenu était en lien avec la demande en ajustant la pondération en se basant sur des sources spécifiquement en lien avec le sujet demandé. Il n’est pas à l’abri d’incohérence, mais le fait de moduler sa réponse au lieu de répondre immédiatement lui donne un avantage sur la qualité de la sortie.
Cependant, peu importe le mode, peu importe la taille, il y a toujours un risque d’hallucination. En 2026, des chercheurs Tsinghua University à Bejing ont réussi à démontrer que certains neurones (que les chercheurs de l’article ont appelés « neurones-H », un terme qui est maintenant utilisé dans la littérature récente) sont à l’origine de ces hallucinations. Comme mentionné précédemment, dans les plus gros modèles, la quantité de neurones totale dilue l’influence de ces neurones « hallucinants », ce que les plus petits modèles ne peuvent pas faire. Le poids de ces neurones spécifiques vient de deux facteurs clés. Les données d’entraînement, mais également l’entraînement lui-même qui punissait la machine pour avoir répondu « Je ne sais pas. » au profit d’une réponse construite aléatoirement et sans validation factuelle.
Comment diminuer le risque d’hallucination?
Malheureusement, il n’y a pas de recette miracle. Il y a tout de même quelques astuces qui peuvent être appliquées. Elles ne sont pas disponibles pour toutes les IAgen, mais voyez celles qui sont applicables pour vous.
La température de créativité et de complaisance
Si vous êtes dans une IAgen qui roule localement, ou dans un service du genre « AI Studio », vous avez accès à régler le degré de créativité, et parfois même celui de « je dois plaire à l’utilisateur à tout prix ». Il s’agit généralement d’une valeur variant de 0 à 1 (autrement dit, 0% à 100%).
Une température de créativité à 0% signifie que l’IA retournera systématiquement la réponse la plus probable et n’aura aucune variation sur sa sortie. Ceci a pour effet cependant de diminuer également la fluidité du texte qui a de bonnes chances d’être plus « robotique ». À l’opposé, 100% signifient que l’IA a le droit d’être très créatif, ce qui peut entraîner des résultats « surprenants ». Trouvez le bon compromis entre les deux. Généralement, une valeur entre 0.6 et 0.7 donne de bons résultats.
Si votre système permet d’ajuster la température des neurones-H (entraînés à ne pas répondre « je ne sais pas », vous pouvez aller aussi bas que 0.1. Il est déconseillé de mettre ces neurones à 0, car ils ont tout de même un enjeu sur la génération de la réponse, mais ils seront moins bruyants, principalement sur les modèles plus petits.
Redonner le droit à répondre « Je ne sais pas. » par le prompt
Lorsqu’on utilise un agent public (ChatGPT, Copilot, Gemini, DeepSeek, Grok, Claude, etc.) et qu’on ne se crée pas un agent personnalisé, il est tout de même possible de réduire l’implication des neurones-H avec un simple ajout au prompt. Comme le début du prompt a toujours plus de poids que la fin, essayez d’ajouter au début du prompt une phrase similaire à celle-ci : « Reste toujours factuel en donnant tes sources. Réponds « Je ne sais pas » si le taux d’incertitude dépasse 5%. Voici la question : {…} », et changer le {…} par votre question. Ça change tout et ça en fait un outil de travail plus fiable. Même s’il vous donnera ses sources, assurez-vous que ce sont de vraies sources (car il peut s’agir de sources hallucinées, surtout avec les modèles moins fiables qui n’ont pas accès à réellement effectuer des recherches).
Utiliser la forme Persona/Intention/Style (PIS) ou quatre piliers (Persona/Tâche/Contexte/Format)
Lorsqu’on crée un agent personnalisé (Copilot-Agent, Gemini-Gems, etc.), le mode de création demandera de définir votre agent. Le modèle le plus courant force à définir le persona, l’intention et le style. Microsoft Copilot suggère trois piliers alors que Google Gems en suggère quatre.
Persona (parfois appelé profil) : On définit le « Qui ». On y donne un rôle à l’IA. Cela inclut souvent le propre profil de travail (corps de métier, responsabilités, etc.) pour que l’agent comprenne le contexte de l’interlocuteur. C’est ce que l’IAgen doit tenter de simuler.
Intention/Tâche (parfois appelé objectif) : C’est le « Quoi ». C’est le cœur de la requête. On précise ici le but de l’interaction (résumer, coder, planifier) pour que l’IA détecte correctement la tâche à accomplir.
Style/Format : On définit le « Comment ». Essentiellement, on donne des instructions sur la mise en forme de la réponse. Est-ce qu’on veut une phrase courte, un tableau, des puces, un ton formel, un plan, une dissertation, etc.
Contexte : C’est le « Pourquoi ». Lorsqu’on regarde la définition, il inclut également le « à qui » la réponse s’adresse. Il est parfois difficile à distinguer du profil et de l’intention. Bien qu’il rajoute de la précision s’il est mentionné séparément, il peut très bien faire partie de l’intention.
Pour la configuration d’un agent dans ce format, il s’agit d’une opération que nous n’avons besoin d’effectuer qu’une seule fois (à la définition de l’agent), mais rien ne vous empêche d’utiliser le même principe dans un prompt indépendant.
Voici trois exemples de définition PIS. Pour ces exemples, le persona sera souligné, l’intention sera en gras et le style sera en italique. Notez qu’il n’est pas nécessaire d’ajouter les mots persona, intention, et style dans le prompt. Certains le mettent surtout pour aider les êtres humains qui doivent faire des ajustements par la suite. Notez également que le contexte n’est pas identifié, mais qu’il est possible de le repérer dans le persona ou dans l’intention/objectif.
Exemple 1 – directement dans le prompt : « En tant que technicien d’expérience, explique à un stagiaire qui commence dans le métier les bonnes pratiques manufacturières mises en place par l’entreprise. Réponds avec des phrases courtes en liste à puce donnant la bonne marche à suivre. Donne également des exemples de référence avec des liens de vidéos explicatifs. Si l’incertitude dépasse le seuil de 5%, indique que tu ne connais pas la réponse précise et donne-lui des liens de références pour qu’il tente de trouver la réponse par lui-même. La question est la suivante : {…}»
Exemple 2 – avec les étiquettes dans la création d’agents : « Persona : Tu es un responsable de la formation pour les nouveaux employés. Objectif : Ne donne pas de réponse directe, il ne faut donner que des références où ils peuvent trouver les réponses afin de devenir autonome. Style : Sous forme de tableau, donne le titre des documents, l’endroit où il peut être trouvé, et un court résumé du contenu général. Ne jamais indiquer la réponse directement à leur question. »
Exemple 3 – sans étiquette dans la création d’agents : « Comme agent IA d’aide à la vérification des livrables, ton objectif est de faire la liste des éléments à vérifier pour chacun des livrables en fonction de la nature de ce livrable. Aide l’utilisateur en lui proposant la liste de points à vérifier. Valide avec l’utilisateur le type de livrable lorsque celui-ci n’est pas mentionné et que ton incertitude dépasse 20%. Donne une liste initiale des points à vérifier et accompagne-le en lui posant des questions sur chacune des étapes pour valider que les vérifications ont été effectuées correctement jusqu’à ce que chaque étape ait été validée avec succès. »
En général, si on l’utilise dans une conversation indépendante (Gemini, ChatGPT, Copilot) l’indiquer au début de la conversation est suffisant si la conversation est courte. Dès que l’agent se remet à halluciner, il est important de le ramener à l’ordre en lui rappelant son PIS ou en démarrant une nouvelle conversation (dans le cas où il hallucine en s’emmêlant dans sa propre mémoire). Dans le cas des agents personnalisés (GEMS, Copilot Agent), l’agent se le fait rappeler constamment par sa configuration, il n’est donc pas nécessaire de lui rappeler.