9 novembre 2026
Hallucination IA : qui est responsable quand votre chatbot se trompe ?
Air Canada a dû payer pour l'erreur de son chatbot. Ce qu'est une hallucination IA, qui en répond, et comment la réduire.
- hallucination IA
- chatbot IA
- responsabilité IA

En bref : quand un chatbot IA donne une fausse information à un client, c’est l’entreprise qui est responsable, pas la machine. Air Canada l’a appris en 2024. L’hallucination de l’IA ne disparaît jamais totalement, mais on la réduit drastiquement en obligeant l’IA à répondre depuis vos documents, à citer ses sources et à rester dans le périmètre que vous lui avez donné.
En novembre 2022, un passager canadien demande au chatbot d’Air Canada comment bénéficier du tarif réduit pour un deuil, après le décès de sa grand-mère. Le chatbot répond qu’il peut acheter son billet plein tarif et demander le remboursement partiel dans les 90 jours.
C’était faux. La compagnie refuse le remboursement. Devant le tribunal, elle avance un argument inédit : le chatbot serait responsable de ses propres actions « une entité juridique distincte, responsable de ses propres actes ».
Le tribunal n’a pas suivi.
Qu’est-ce qu’une hallucination IA ?
Une hallucination IA est une fausse réponse, formulée avec assurance, qu’un modèle de langage produit parce qu’il prédit le mot le plus probable.
Le modèle de langage, c’est le moteur derrière ChatGPT et la plupart des chatbots. Imaginez l’autocomplétion de votre téléphone, entraînée sur une bibliothèque immense : elle sait parfaitement à quoi ressemble une bonne réponse. Mais, elle ignore elle-même si cette réponse est exacte.
C’est pour cela qu’une hallucination ne ressemble pas à un bug. Elle a le ton, la structure et l’aplomb d’une réponse juste. Une politique de remboursement inventée sonne exactement comme une vraie.
Pourquoi un chatbot invente-t-il des réponses ?
Il invente parce qu’on lui demande de répondre sans lui donner la bonne information, et qu’il n’a pas été conçu pour se taire. Trois causes reviennent presque toujours.
- Pas de source fiable : Le chatbot n’a pas accès à la politique réelle, ou y a accès parmi des dizaines de pages contradictoires.
- Un périmètre trop large : On l’a branché sur tout le site, voire sur le web, et il mélange les contextes.
- Aucun droit à l’incertitude : Rien ne l’autorise à dire « je ne sais pas, je vous passe un conseiller ».
Les avocats de l’affaire Mata v. Avianca ont vécu la version extrême de ce mécanisme : ChatGPT leur a fourni des jugements entièrement inventés, qu’ils ont cités devant un juge fédéral. Sanction : 5 000 dollars. Nous revenons sur ce que ce cas enseigne pour choisir un prestataire dans Consultant IA : comment reconnaître un vrai expert.
Qui est responsable quand un chatbot IA se trompe ?
L’entreprise qui le met en ligne. C’est la conclusion du tribunal canadien dans l’affaire Air Canada, et c’est le principe qui se dégage partout ailleurs.
Le 14 février 2024, le Tribunal de résolution civile de Colombie-Britannique a jugé, dans sa décision Moffatt c. Air Canada, que la compagnie était responsable de toutes les informations publiées sur son site, qu’elles viennent d’une page statique ou d’un chatbot. Il a retenu une « déclaration inexacte faite par négligence ». Montant : environ 812 dollars canadiens, intérêts et frais compris.
La somme est modeste. Le précédent, lui, ne l’est pas : on ne peut pas se défausser sur l’outil.
Et en Europe, en 2026 ?
Le cadre se resserre. La nouvelle directive européenne sur la responsabilité du fait des produits intègre explicitement les logiciels, y compris les systèmes d’IA, dans la définition de « produit ». Elle doit être transposée par les États membres d’ici le 9 décembre 2026.
En parallèle, le règlement européen sur l’IA (AI Act) impose notamment d’informer les personnes qu’elles échangent avec une IA. Ce n’est pas un avis juridique, mais le message est clair : la responsabilité reste du côté de celui qui déploie.
Que nous apprennent les autres cas documentés ?
Ils montrent que l’erreur prend des formes très différentes, mais que la facture arrive toujours au même endroit.
| Cas | Ce qui s’est passé | Ce que ça a coûté |
|---|---|---|
| Air Canada (2024) | Politique de remboursement inventée | Condamnation et précédent juridique |
| MyCity, ville de New York (2024) | Conseils illégaux aux commerçants | Des mois en ligne malgré les alertes, puis abandon annoncé |
| DPD (2024) | Chatbot qui insulte les clients et dénigre l’entreprise | Crise d’image virale |
| Mata v. Avianca (2023) | Jurisprudences inventées | Sanction de 5 000 $ |
| McDonald’s / IBM (2024) | Erreurs de commande au drive | Fin du test après environ deux ans |
À New York, le chatbot MyCity a conseillé aux commerçants de garder une partie des pourboires de leurs employés ou de refuser des locataires bénéficiant d’aides au logement, deux pratiques illégales. Il est resté en ligne des mois avec un simple avertissement. Début 2026, la nouvelle administration a annoncé son retrait.
Chez DPD, une mise à jour a suffi pour que le chatbot jure et se moque de sa propre entreprise ; une seule publication a été vue 800 000 fois en 24 heures. Et McDonald’s a mis fin à son test de commande vocale avec IBM, mené dans plus de 100 restaurants, après des erreurs devenues virales.
Point commun : à chaque fois, l’IA répondait sans garde-fou vérifiable.
Comment réduire les hallucinations d’un chatbot ?
On les réduit en changeant la question posée à l’IA : au lieu de « que sais-tu ? », on lui demande « que disent ces documents-là ? ». Cette approche s’appelle l’ancrage, ou grounding.
Une réponse ancrée est une réponse construite à partir de documents précis que l’on fournit au modèle, plutôt qu’à partir de sa mémoire générale. La technique la plus courante pour y parvenir s’appelle le RAG ; nous l’expliquons pas à pas dans RAG : comment une IA répond depuis vos documents.
Le test des 5 garde-fous
Avant de mettre un chatbot devant vos clients, vos patients ou vos administrés, vérifiez ces cinq points :
- Source obligatoire. Chaque réponse cite le document d’où elle vient, avec un lien. Pas de source, pas de réponse.
- Périmètre fermé. L’IA ne consulte qu’un ensemble défini de documents à jour, pas le web ni tout l’intranet.
- Droit au « je ne sais pas ». Si l’information est absente, le système le dit et oriente vers un humain.
- Humain sur l’engageant. Tout ce qui crée un droit, un prix, un remboursement ou un conseil juridique passe par une validation.
- Journal consultable. Chaque échange est conservé pour comprendre et corriger une erreur au lieu de la découvrir au tribunal.
Ces garde-fous ne rendent pas une IA infaillible. Ils rendent ses erreurs visibles, vérifiables et rattrapables. C’est exactement ce qui a manqué dans chaque (cas) ci-dessus.
Comment Sceptra applique ces garde-fous ?
Ces cinq garde-fous sont au cœur de l’architecture sur laquelle nous avons construit Sceptra, l’espace de travail IA installé sur votre propre infrastructure.
Les réponses sont ancrées dans vos documents, vos fichiers et votre savoir métier, pas dans le web ouvert et chaque réponse cite ses sources : vous cliquez, vous vérifiez. Le travail est organisé en espaces, par client, équipe ou projet. L’IA qui travaille sur le dossier du client A voit le client A, et rien d’autre : le périmètre fermé est structurel.
Vous définissez vos standards, vos formats et vos listes de contrôle, et Sceptra les applique à chaque fois, pour toute l’équipe. Les données ne sortent que par les connexions créées par votre administrateur, tout ce qui sort est journalisé, et tout est réversible.
L’IA peut toujours se tromper, mais avec une source sous chaque réponse, l’erreur se voit avant d’arriver chez le client.
Questions fréquentes
Une entreprise est-elle responsable des erreurs de son chatbot ? Oui, en règle générale. Dans l’affaire Moffatt c. Air Canada (2024), le tribunal a jugé que la compagnie répondait des informations données par son chatbot comme de n’importe quelle page de son site. L’argument selon lequel le chatbot serait une entité distincte a été rejeté.
Peut-on éliminer complètement les hallucinations IA ? Non. Un modèle de langage prédit du texte probable, il peut donc toujours produire une erreur. On peut en revanche réduire fortement leur fréquence et leur impact : réponses ancrées dans vos documents, sources citées, périmètre fermé, validation humaine sur les sujets engageants et journal des échanges.
Un avertissement « l’IA peut se tromper » protège-t-il l’entreprise ? Pas de manière fiable. Le chatbot MyCity de New York affichait un avertissement et a pourtant été vivement critiqué pour ses conseils illégaux. Dans l’affaire Air Canada, le tribunal a estimé qu’on ne pouvait pas attendre du client qu’il revérifie ailleurs ce que le site lui affirmait.
Quelle différence entre une hallucination et un bug ? Un bug est un défaut de programmation, souvent reproductible et visible. Une hallucination est une fausse réponse, mais plausible, produite par le fonctionnement normal du modèle. Elle a l’apparence d’une bonne réponse, ce qui la rend plus difficile à repérer sans source à vérifier.
Que change le droit européen en 2026 pour les chatbots ? La nouvelle directive sur la responsabilité par produits inclut les logiciels et l’IA, avec une transposition attendue d’ici au 9 décembre 2026. L’AI Act impose aussi des obligations de transparence. Faites valider votre situation précise par un juriste.
À retenir
- Le chatbot n’est pas une entité juridique : l’entreprise qui le déploie en répond.
- Une hallucination est une fausse réponse plausible, issue du fonctionnement normal du modèle.
- Les avertissements ne remplacent pas les garde-fous.
- Source, périmètre, droit au « je ne sais pas », validation humaine, journal : ce sont les cinq garde-fous.
- Une IA ancrée dans vos documents rend ses erreurs vérifiables avant qu’elles coûtent cher.
Vous prévoyez de mettre un assistant IA devant vos clients ou vos équipes ? Réservez un échange de 30 minutes : nous passerons votre projet au test des 5 garde-fous. Vous pouvez aussi essayer le simulateur par métier sur sceptra.ai.