Shadow AI : les risques d'une IA utilisée sans cadre

Une collaboratrice de votre service commercial prépare une proposition importante. Pour gagner du temps, elle colle dans un assistant IA grand public le fichier client complet — noms, volumes, marges, conditions négociées — et demande une synthèse. La synthèse est excellente. La proposition est envoyée. Personne n'en saura jamais rien.

Aucune règle n'a été enfreinte, parce qu'aucune règle n'existait. Et c'est exactement le problème.

Le shadow AI, en chiffres

Le rapport Cost of a Data Breach d'IBM, qui fait référence sur le sujet, a mesuré pour la première fois l'impact spécifique de l'IA non encadrée. Les résultats sont sans ambiguïté.

20 % des violations de données observées impliquent du shadow AI — des outils d'IA utilisés hors de tout cadre validé par l'entreprise.
Une violation impliquant du shadow AI coûte en moyenne 670 000 $ de plus qu'une violation classique.
97 % des incidents liés à l'IA concernaient des systèmes sans contrôle d'accès approprié.
63 % des organisations touchées n'avaient aucune politique de gouvernance de l'IA.
Dans les incidents de shadow AI, 65 % ont exposé des données personnelles de clients.

Côté comportements, les mesures disponibles convergent : une large majorité de salariés colle du contenu dans un outil d'IA générative, et une part significative de ces collages provient de comptes personnels, hors de toute visibilité de l'entreprise. La proportion de données sensibles dans ce qui est transmis est en hausse d'une année sur l'autre.

Le point commun de tous ces chiffres : ce ne sont pas des attaques. Ce sont des salariés compétents qui essaient de bien faire leur travail, avec les outils les plus efficaces à leur disposition.

Les cinq risques, du plus fréquent au plus grave

1. La fuite par le prompt

Le risque le plus banal et le plus répandu. Une donnée collée dans un service grand public sort du périmètre de l'entreprise. Selon les conditions d'utilisation du service et le type de compte, elle peut être conservée, examinée par des opérateurs humains dans le cadre de contrôles qualité, ou utilisée pour améliorer le modèle. Les offres professionnelles encadrent généralement ces points ; les comptes personnels gratuits sont beaucoup moins protecteurs. Or ce sont eux que vos équipes utilisent, précisément parce qu'ils ne demandent aucune validation.

2. L'hallucination transformée en décision

Une IA sans accès à vos données ne dit pas qu'elle ne sait pas : elle produit une réponse plausible. Un chiffre de chiffre d'affaires, une référence réglementaire, un nom de client. La réponse est formulée avec exactement la même assurance qu'une réponse juste — et c'est ce qui la rend dangereuse. Les précédents documentés sont désormais judiciaires : en 2023, dans l'affaire Mata v. Avianca, deux avocats new-yorkais ont été sanctionnés pour avoir déposé un mémoire s'appuyant sur des décisions inventées par ChatGPT ; en 2024, un tribunal canadien a condamné Air Canada à honorer un tarif inventé par son propre agent conversationnel, rejetant l'argument selon lequel le chatbot serait une entité distincte. La responsabilité reste celle de l'entreprise.

3. Le non-respect du RGPD

Point souvent mal compris : l'IA ne bénéficie d'aucune exemption au RGPD. Dès qu'un système traite des données personnelles — à l'entraînement, en production ou en sortie — le règlement s'applique intégralement : base légale à déterminer avant le déploiement, information des personnes concernées, droit d'opposition, minimisation, sécurité, et restrictions spécifiques sur les décisions entièrement automatisées. Une analyse d'impact devient obligatoire dès lors que le traitement présente un risque élevé — ce qui est fréquemment le cas pour les données RH ou de santé. La CNIL a publié des recommandations dédiées, et l'AI Act ajoute par-dessus des obligations propres au produit : transparence, gestion des risques, documentation technique pour les systèmes à haut risque.

4. Les droits d'accès mal calibrés

C'est le risque le plus sous-estimé, et il apparaît au moment même où l'on fait les choses correctement. Vous branchez enfin une IA sur vos données internes — bonne pratique. Mais si l'assistant hérite d'un accès large, un stagiaire peut désormais demander la masse salariale par personne, ou la marge par client. L'information a toujours été là ; ce qui a changé, c'est qu'elle est devenue trivialement interrogeable. Une IA sans cloisonnement transforme une mauvaise gestion des droits en incident.

5. L'absence de traçabilité

Quand une décision s'appuie sur une réponse d'IA et que la décision se révèle fausse, il faut pouvoir reconstituer le raisonnement : quelle donnée, quelle date d'extraction, quel périmètre. Sans piste d'audit, l'enquête est impossible — vis-à-vis de vos clients, de votre assureur comme d'un régulateur. Les données d'IBM montrent d'ailleurs que les incidents impliquant du shadow AI mettent nettement plus longtemps à être détectés, précisément parce qu'ils ne laissent aucune trace côté entreprise.

Ce qui ne marche pas : l'interdiction

La réaction réflexe consiste à bloquer les outils d'IA sur le réseau de l'entreprise. Cette mesure produit un résultat mesurable : elle déplace l'usage vers les téléphones personnels, où vous n'avez plus aucune visibilité ni aucun recours.

Le raisonnement est le même que pour le cloud il y a quinze ans, avec les mêmes conséquences. Vos équipes utilisent l'IA parce qu'elle leur fait gagner un temps réel. Une interdiction ne supprime pas le besoin, elle supprime la visibilité — et la visibilité est votre seul actif de sécurité.

Ce qui marche : le cadre plus l'alternative

La combinaison efficace tient en deux volets. D'abord un cadre écrit, court, compréhensible. Ensuite un outil interne suffisamment bon pour que personne n'ait envie de le contourner. Le second volet compte davantage que le premier.

Le cadre d'usage : une page suffit

Les outils autorisés, nommément, avec les comptes professionnels correspondants — pas les comptes personnels.
Les catégories de données interdites : données personnelles de clients ou de salariés, données financières non publiées, secrets contractuels, code source propriétaire. Une liste explicite, pas un principe général.
La règle de vérification : toute donnée chiffrée produite par une IA est vérifiée à la source avant d'entrer dans un document ou une décision.
Le point de contact : à qui demander quand on ne sait pas. Sans cette ligne, le document ne sert à rien.

L'alternative interne

C'est le vrai levier. Si vos équipes disposent d'un assistant branché sur les données de l'entreprise, avec des droits calqués sur ceux de chaque utilisateur et une traçabilité complète, le recours aux outils grand public s'effondre de lui-même — non par discipline, mais parce que l'outil interne répond mieux. Il connaît vos définitions, vos clients, vos chiffres réels.

Trois exigences non négociables sur cet outil : les droits d'accès reproduisent ceux de la personne (un commercial voit son portefeuille, pas la paie) ; chaque réponse est traçable jusqu'aux lignes qui l'ont produite ; les données ne servent pas à entraîner un modèle tiers, et le contrat le stipule explicitement.

Par où commencer

Mesurez avant de légiférer. Demandez simplement à vos équipes quels outils d'IA elles utilisent et pour quoi faire, sans sanction annoncée. La réponse est toujours plus large que prévu, et c'est votre point de départ.
Écrivez la page de cadre et diffusez-la. Une page lue vaut mieux qu'une charte de douze pages archivée.
Traitez les droits d'accès avant de brancher quoi que ce soit. Une IA appliquée à des permissions mal calibrées ne crée pas le problème, elle le rend exploitable en une phrase.
Exigez la traçabilité comme critère de sélection. Si un outil ne peut pas montrer d'où vient un chiffre, il ne peut pas être utilisé pour une décision — et donc il ne remplacera jamais les outils grand public.

Le shadow AI n'est pas un problème de discipline des équipes. C'est le symptôme d'un besoin réel auquel l'entreprise n'a pas encore répondu. Les organisations qui s'en sortent ne sont pas celles qui interdisent le mieux : ce sont celles qui proposent une alternative assez bonne pour rendre le contournement inutile.