Les sept risques de l’IA en entreprise, avec un incident réel pour chacun

Les pages qui traitent ce sujet raisonnent par catégorie, sans jamais nommer un cas. On y lit « risque de fuite de données », « risque réputationnel », et le lecteur ressort en sachant que ces risques existent, sans savoir à quoi ils ressemblent ni ce qui les a provoqués.

Cet article fait l’inverse : un incident nommé, daté et sourcé par famille de risque, dimensionné pour une entreprise de vingt à trois cents personnes, avec ce qui l’aurait évité. Les incidents cités sont publics et vérifiables.

Risque 1 : la fuite de données

L’incident : mars 2023, chez l’éditeur lui-même

Un défaut dans une bibliothèque logicielle tierce utilisée par ChatGPT a rendu visibles, pendant quelques heures, les titres de conversation d’autres utilisateurs, et pour une petite partie des abonnés certaines informations de facturation. Le service a été coupé le temps du correctif et l’éditeur a publié une explication technique. L’autorité italienne de protection des données a ensuite reproché à OpenAI de ne pas lui avoir notifié cette violation, l’un des motifs de la sanction de 15 millions d’euros prononcée en décembre 2024.

Ce que ça vous dit

La fuite n’est pas venue du modèle. Elle est venue d’un composant logiciel ordinaire, comme dans n’importe quel service en ligne. Le risque de fuite d’un outil d’IA est le risque de fuite d’un service en ligne quelconque, ni plus ni moins, et il se traite avec les mêmes réflexes.

Ce qui le réduit

• Une charte qui classe les données par catégorie, plutôt qu’une interdiction générale que personne ne respecte.
• Des comptes professionnels, pour que le sujet reste dans votre périmètre. Voir le shadow IA.
• Une clause de notification de violation dans le contrat de votre éditeur, avec un délai écrit.

Risque 2 : l’erreur reprise telle quelle

L’incident : Air Canada, décision du 14 février 2024

Un passager avait interrogé le robot conversationnel de la compagnie sur les tarifs applicables en cas de deuil. Le robot lui a indiqué qu’il pouvait réserver au tarif normal puis demander un remboursement partiel dans les quatre-vingt-dix jours. C’était faux. La compagnie a refusé le remboursement en expliquant que le chatbot s’était trompé.

Le tribunal de résolution des litiges civils de Colombie-Britannique a donné raison au passager. Le raisonnement mérite d’être retenu mot pour mot : un chatbot fait partie du site de l’entreprise, et il devrait être évident que l’entreprise est responsable de l’information qui y figure, qu’elle vienne d’une page fixe ou d’un robot. La compagnie a été condamnée à 650,88 dollars canadiens, plus 125 dollars de frais.

Ce que ça vous dit

Le montant est dérisoire, et c’est précisément ce qui rend la décision intéressante : elle ne porte pas sur un préjudice, elle porte sur un principe. Vous êtes responsable de ce que votre machine raconte à vos clients. « C’est le chatbot qui l’a dit » n’est pas un moyen de défense.

Ce qui le réduit

• Contraindre l’outil à ne répondre que sur vos contenus, et à transférer quand il ne trouve pas. C’est un réglage, pas une fatalité.
• Une relecture humaine sur tout ce qui sort de l’entreprise, sans exception pour les cas urgents.
• Un journal complet des échanges : sans trace, vous ne pourrez ni corriger ni vous défendre.

Risque 3 : la fraude au président par deepfake

L’incident : Arup, janvier 2024, 25,6 millions de dollars

Un salarié du bureau de Hong Kong d’Arup, société d’ingénierie britannique, a été invité à une visioconférence à laquelle participaient plusieurs dirigeants de l’entreprise, dont le directeur financier. Tous les participants de cette réunion étaient des vidéos générées, fabriquées à partir d’enregistrements publics de réunions et de conférences. Le salarié a exécuté quinze virements dans la même journée, pour un total de 200 millions de dollars de Hong Kong, soit environ 25,6 millions de dollars américains.

La fraude a été découverte par une vérification de routine après transaction, quand l’employé a contacté le siège pour évoquer l’opération. La police de Hong Kong a signalé l’affaire en février 2024 ; Arup ne s’est identifié publiquement comme victime qu’en mai. Aucun fonds n’a été récupéré.

Ce que ça vous dit

C’est le risque qui a le plus changé de nature en deux ans, et le seul de cette liste qui peut coûter très cher à une PME du jour au lendemain. Le matériel nécessaire pour fabriquer ces vidéos était public : des enregistrements de conférences. Un dirigeant qui intervient dans des salons ou publie des vidéos est exposé, quelle que soit la taille de son entreprise.

Ce qui le réduit

• Une procédure de double validation pour tout virement au-delà d’un seuil, indépendante du canal utilisé pour la demande. C’est la seule mesure qui aurait arrêté cette fraude, et elle ne coûte rien.
• Un canal de vérification convenu à l’avance : un rappel sur un numéro connu, jamais celui indiqué dans la demande.
• En parler à vos équipes comptables. La plupart des gens ne savent pas encore qu’une visioconférence peut être entièrement fabriquée.

Risque 4 : la décision biaisée sur une personne

Le contexte : les priorités de la CNIL

Il n’existe pas encore, en France, d’affaire publique de sanction visant un outil d’IA de recrutement dans une PME. En revanche, deux faits publics dessinent clairement la trajectoire : la surveillance des salariés figure parmi les trois principaux sujets de sanction de la CNIL en 2025, avec les cookies et la sécurité des données ; et le recrutement est l’un des trois thèmes de contrôle prioritaires de la CNIL pour 2026.

À cela s’ajoute le règlement européen sur l’IA, qui classe le tri de candidatures et l’évaluation de personnes parmi les usages à haut risque de l’annexe III. Ces exigences ont été reportées au 2 décembre 2027 par le règlement omnibus du 24 juillet 2026 : c’est un délai, pas une dispense, et le RGPD, lui, s’applique déjà.

Ce que ça vous dit

C’est le risque le plus asymétrique de la liste. Le gain d’un outil de tri de candidatures est modeste : quelques heures par recrutement. Le coût d’un contrôle est élevé, et le sujet est explicitement à l’agenda du régulateur. Notre recommandation est directe : n’automatisez pas le tri, automatisez ce qui l’entoure. Voir la page RH.

Ce qui le réduit

• Garder la sélection humaine, et n’utiliser l’IA que pour rédiger les offres, structurer les entretiens ou répondre aux candidats.
• Si vous utilisez un outil sur des critères, les rendre objectifs, vérifiables et écrits : pas un classement, une extraction de faits.
• Informer les candidats, et être capable d’expliquer la logique du traitement.

Risque 5 : la dépendance au fournisseur

Le fait : Make change son modèle de facturation, août 2026

Ce n’est pas un incident au sens dramatique, et c’est justement ce qui en fait un bon exemple. En août 2026, la plateforme d’automatisation Make est passée à une facturation en crédits, un crédit par action de module. Les entreprises dont les scénarios y tournaient n’ont rien fait de mal : leur structure de coût a changé sous leurs pieds, et leur capacité à anticiper leur facture avec.

C’est la forme la plus courante que prend ce risque : pas la disparition du fournisseur, mais un changement de conditions, de tarif, de modèle de facturation ou de fonctionnalité, décidé ailleurs et appliqué à une date choisie par lui.

Ce que ça vous dit

Le secteur bouge vite, et vos fournisseurs aussi. Un processus critique bâti sur un outil dont vous ne maîtrisez ni le prix ni le format de sortie est une exposition, indépendamment de la qualité de l’outil.

Ce qui le réduit

• Le modèle en paramètre, pas en dépendance : dans un développement, une heure de conception permet de changer de fournisseur sans refaire le projet.
• Vérifier la réversibilité avant de signer : export, suppression, format des données récupérées.
• Ne pas mettre un processus critique sur une plateforme qu’on ne peut pas quitter en un mois.
• Exiger que le code et les scénarios soient à votre nom. Voir ce que nous remettons à la livraison.

Risque 6 : la non-conformité

Les chiffres : 83 sanctions en 2025

La CNIL a prononcé 83 sanctions en 2025, pour un total de 486 839 500 €, dont soixante-sept en procédure simplifiée. Les trois sujets principaux : les cookies, la surveillance des salariés et la sécurité des données. En 2026, la moitié de ses contrôles et de ses actions répressives est consacrée à la sécurité des données. Côté IA spécifiquement, l’autorité italienne a sanctionné OpenAI de 15 millions d’euros en décembre 2024.

Ce que ça vous dit

Le risque pour une PME n’est pas l’amende à sept chiffres qui fait les titres. C’est la procédure simplifiée, la mise en demeure, le contrôle qui mobilise votre direction pendant des semaines, et le client qui vous demande vos preuves de conformité au moment de renouveler un marché. Ce dernier point est celui qui arrive le plus souvent et dont personne ne parle.

Ce qui le réduit

• Le registre des traitements à jour, et l’accord de sous-traitance signé avec chaque éditeur. Deux jours de travail. Le détail.
• L’information des personnes là où une machine leur parle, obligatoire depuis le 2 août 2026.
• La charte signée, qui établit que la règle était connue.

Risque 7 : l’abandon par les équipes

Notre propre chiffre : deux outils sur onze

Nous n’avons pas d’incident public à citer pour cette famille, alors nous citons le nôtre. Sur les onze projets d’intelligence artificielle que nous avons livrés depuis 2024, deux ne sont plus utilisés. Dans les deux cas, la technique tenait. L’outil a été abandonné parce que la personne qui le portait a changé de poste, ou parce qu’un incident est arrivé sans que personne sache quoi en faire.

Le détail est publié sur notre page d’études de cas, avec ce que ces deux échecs ont changé dans notre façon de travailler.

Ce que ça vous dit

C’est le risque le plus probable de toute cette liste, et le seul qui se réalise à coup sûr quelque part dans votre entreprise. Il ne fait pas de titre, il ne déclenche aucun contrôle, et il vous coûte l’intégralité de ce que vous avez investi.

Ce qui le réduit

• Un référent nommé, avec des heures écrites dans ses objectifs. Pas la personne la plus enthousiaste : celle dont c’est le rôle.
• Une procédure d’erreur écrite avant la première erreur. Une demi-page : qui coupe, comment on revient en arrière, qui prévient qui.
• La question des postes tranchée par la direction et dite à voix haute. Une équipe qui craint pour son emploi laisse l’outil mourir, et elle a ses raisons.
• Un compteur relevé avant, à trente jours et à quatre-vingt-dix. Voir la conduite du changement.

Comment noter ces risques chez vous

Un article sur les risques qui ne se termine pas par une méthode n’est qu’un article de peur. Voici la grille que nous appliquons en audit, et vous pouvez la remplir seul.

Notez la dernière ligne : c’est le risque le moins probable et le plus coûteux, et sa parade est la moins chère de toute la liste. Si vous ne deviez retenir qu’une action de cet article, prenez celle-là.

Pour information, l’ANSSI et la direction générale de la sécurité intérieure publient des recommandations sur la sécurité des systèmes d’IA. Nous ne cherchons pas à les concurrencer : elles sont plus complètes que nous sur le volet technique, et elles ne traitent pas le volet organisationnel, qui est celui où les PME perdent le plus.

Questions fréquentes sur les risques de l’IA en entreprise