Hallucinations de l’IA : pourquoi votre assistant invente des chiffres

Mardi matin, comité de direction. Vous interrogez votre assistant IA : « Quel est notre chiffre d’affaires récurrent sur le trimestre ? » La réponse tombe en deux secondes, formulée avec un aplomb parfait : 412 000 €, en hausse de 8 %. Tout le monde note. Personne ne vérifie. Trois semaines plus tard, votre DAF refait le calcul à la main : le chiffre réel était de 361 000 €, et la tendance était plate. L’IA n’a pas menti. Elle n’avait tout simplement aucun moyen de savoir — alors elle a produit ce qui ressemblait le plus à une réponse.

C’est ce qu’on appelle une hallucination : une réponse fausse, énoncée avec exactement la même fluidité qu’une réponse juste. Dans nos échanges avec les dirigeants et les cabinets comptables, c’est l’un des tout premiers freins à l’adoption de l’IA — cité avant le coût, avant la complexité technique. Et c’est une inquiétude parfaitement rationnelle.

Une hallucination n’est pas un bug, c’est le fonctionnement normal du modèle

Un modèle de langage ne consulte pas une base de données quand vous l’interrogez. Il prédit, mot après mot, la suite la plus probable d’un texte. Quand la donnée nécessaire figure dans ce qu’on lui a fourni, cette mécanique produit une réponse juste. Quand elle n’y figure pas, la mécanique ne s’arrête pas pour autant : le modèle ne dit pas « je ne sais pas », il comble. Un chiffre plausible, un nom de client crédible, une évolution cohérente avec ce qu’il a vu ailleurs.

Le point à retenir est contre-intuitif : l’assurance d’une réponse ne dit rien de sa véracité. C’est précisément ce qui rend l’erreur coûteuse — une réponse manifestement absurde serait écartée en réunion, une réponse fausse mais bien calibrée entre directement dans une décision.

Les précédents sont documentés, et ils sont judiciaires. En 2023, dans l’affaire Mata v. Avianca, deux avocats new-yorkais ont été sanctionnés par un tribunal fédéral pour avoir déposé un mémoire s’appuyant sur des décisions de justice inventées de toutes pièces par ChatGPT. En 2024, le tribunal civil de Colombie-Britannique a condamné Air Canada à honorer un tarif que son propre agent conversationnel avait inventé ; la compagnie avait plaidé que le chatbot constituait une entité distincte, responsable de ses propres déclarations. L’argument a été rejeté. La leçon vaut pour toute entreprise qui outille ses équipes : c’est vous qui répondez des réponses de votre IA, pas l’éditeur du modèle.

Le vrai problème n’est pas le modèle, c’est ce qu’on lui donne à lire

La tentation est de chercher la solution du côté du modèle : en prendre un plus récent, mieux rédiger ses prompts, ajouter « ne réponds que si tu es sûr » à la fin de la question. Ça réduit la fréquence des erreurs à la marge. Ça ne traite pas la cause.

Car dans une PME, la donnée sur laquelle on voudrait brancher l’IA ressemble rarement à une base propre. Elle est éclatée entre le CRM, l’outil de facturation, l’ERP, la paie, et une douzaine de fichiers Excel dont trois versions circulent par mail. Le même client y porte deux orthographes. « Chiffre d’affaires » désigne le facturé dans un fichier et le signé dans un autre. Des colonnes n’ont jamais été documentées, et plus personne ne sait ce que contient Montant_2.

Branchez un modèle sur ce terrain : il ne peut faire qu’une chose, deviner. Le coût de cette approximation est mesurable — Gartner estime la facture moyenne d’une donnée de mauvaise qualité à 12,9 millions de dollars par an pour une organisation. L’IA n’a rien créé de neuf ici : elle a rendu visible, et instantané, un désordre qui existait déjà.

Trois symptômes qui doivent vous alerter

• La réponse change d’une fois sur l’autre. Vous posez deux fois la même question à dix minutes d’intervalle et vous obtenez deux chiffres différents. Ce n’est pas une bizarrerie du modèle : c’est le signe qu’aucune source unique ne fait autorité.
• Le chiffre est plausible mais impossible à retracer. Personne ne sait dire de quelle table, de quel fichier ni de quelle date il provient. Un chiffre qu’on ne peut pas remonter jusqu’à sa source n’est pas un chiffre de pilotage.
• L’IA répond même quand la donnée n’existe pas. Testez-la : demandez-lui une métrique que vous ne suivez pas. Si elle produit un résultat au lieu de signaler l’absence, elle produira aussi des résultats sur vos vraies questions.

Ancrer l’IA au lieu de la laisser deviner

La parade robuste ne consiste pas à mieux formuler ses questions, mais à retirer au modèle la possibilité d’improviser : lui donner accès à une donnée unique, structurée, datée et traçable, et cadrer son périmètre de réponse. C’est un chantier de data management, pas de prompt engineering. Il tient en trois briques.

1. Centraliser. Rapatrier les sources — CRM, comptabilité, facturation, Excel, outils métier — vers un socle unique, via des connecteurs qui rejouent la collecte automatiquement plutôt que par exports manuels. Tant que la donnée vit en douze endroits, il y a douze réponses possibles à chaque question.

2. Transformer et définir. C’est l’étape que l’on saute le plus souvent, et c’est celle qui décide de tout. Dédoublonner, normaliser, et surtout figer les définitions : un chiffre d’affaires, une marge, un client actif doivent avoir une règle de calcul et une seule, explicite et partagée. Avec Data Forge, ces règles se posent sans écrire de code, et s’appliquent ensuite à chaque rafraîchissement.

3. Tracer. Chaque indicateur doit pouvoir être remonté jusqu’à sa source : quel système, quel champ, quelle date d’extraction. C’est le rôle du data lineage. Une réponse vérifiable en deux clics n’est plus une hallucination possible — c’est un chiffre auditable. Et sur des données financières ou clients, le socle de stockage compte autant que le calcul : Data Haven conserve vos données chiffrées et hébergées dans l’Union européenne, sans jamais alimenter l’entraînement d’un modèle tiers.

Ce que ça change concrètement

Avant : la question « pourquoi la marge a-t-elle baissé sur le trimestre ? » déclenche deux jours de compilation, trois exports et un fichier de travail de plus. Ou bien une réponse d’IA immédiate que personne n’ose utiliser en comité.

Après : la même question reçoit une réponse en quelques secondes, accompagnée de sa source et de sa date. Elle est identique pour le dirigeant, le DAF et le responsable commercial, parce qu’elle repose sur la même définition. Le débat en réunion ne porte plus sur la fiabilité du chiffre, mais sur la décision à prendre — ce qui était l’objectif depuis le départ.

Par où commencer

• Choisissez cinq questions auxquelles votre direction doit pouvoir répondre chaque semaine. Pas quinze. Cinq.
• Écrivez la définition de chaque indicateur et faites-la valider par les personnes concernées. Les désaccords qui surgissent à cette étape sont exactement ceux qui produisaient les écarts de chiffres.
• Identifiez la source de référence de chacun, et coupez les autres. Un indicateur, une source.
• Puis seulement, branchez l’IA sur ce périmètre restreint et fiable. Un assistant qui répond juste à cinq questions vaut infiniment mieux qu’un assistant qui répond à tout, approximativement.

L’IA ne réparera pas des données en désordre : elle en amplifie le désordre, à grande vitesse et sur un ton assuré. À l’inverse, posée sur une donnée structurée et traçable, elle cesse de deviner. C’est tout l’écart entre un gadget qu’on n’ose pas citer en réunion et un outil de pilotage sur lequel on engage des décisions.