Un agent conversationnel peut produire une réponse qui sonne juste et qui est tout simplement fausse. On parle souvent d’hallucinations. Comprendre pourquoi cela arrive aide à décider quand faire confiance à une réponse.
Le modèle vise un texte plausible
Un modèle de langage est entraîné à prolonger un texte de manière probable. Il ne consulte pas une base de faits vérifiés, sauf s’il y est connecté. Quand la bonne réponse est rare, floue ou absente de son entraînement, il peut tout de même générer quelque chose qui ressemble à une réponse.
Situations à risque
- Questions sur des personnes peu connues, des événements récents ou des détails pointus.
- Demandes de citations exactes, de références ou de statistiques.
- Longs raisonnements où une erreur précoce se propage.
- Questions fondées sur une prémisse fausse, que le modèle peut accepter et prolonger.
Habitudes qui réduisent le problème
- Demandez au modèle d’indiquer quand il n’est pas sûr, et méfiez-vous d’une assurance vague.
- Fournissez le document source et demandez de répondre uniquement à partir de ce texte.
- Vérifiez noms, chiffres et citations auprès d’une source fiable.
- Utilisez des outils qui citent leurs sources, puis vérifiez ces sources vous-même.
Une règle pratique
Utilisez l’IA librement pour rédiger, réfléchir et expliquer. Quand la réponse servira à agir, par exemple pour une décision médicale, juridique ou financière, considérez-la comme un point de départ à vérifier, pas comme le dernier mot.
Pour aller plus loin
Retrouvez le traitement complet, les exemples et les exercices dans L’IA expliquée simplement.
Adapté de L’IA expliquée simplement, publié par Choral Software. Texte de l’article et exemples originaux © 2026 Choral Software. Tous droits réservés.