Projets IA en entreprise : pourquoi ils échouent et comment préparer vos connaissances

Les projets d’IA échouent le plus souvent pour une raison organisationnelle avant d’être technique : l’assistant répond à partir de connaissances incomplètes, périmées, sans responsable ou inaccessibles, et il reprend leurs erreurs. En France, l’adoption progresse vite, mais les gains restent rares : début 2026, seules 31 % des entreprises utilisatrices d’IA générative avaient constaté des gains de productivité, selon la Banque de France. Avant de changer de modèle, il faut donc regarder ce qu’il lit.

Ce que mesurent vraiment les chiffres sur l’échec de l’IA

Aucune source fiable ne mesure aujourd’hui un taux d’échec des projets d’IA. Le pourcentage d’échec le plus souvent repris vient d’un rapport publié en juillet 2025 par une initiative du MIT, que ses auteurs qualifient eux-mêmes de préliminaire : il repose sur 52 entretiens, 153 réponses à un questionnaire et la revue de plus de 300 projets publics, sans évaluation par des pairs. Un autre chiffre, cité par l’institut américain RAND en 2024, renvoie à un article de presse paru en 2022, et non à une mesure.

Les statistiques publiques mesurent autre chose : combien d’entreprises utilisent l’IA, et combien en tirent un résultat.

La Banque de France décrit un usage encore largement expérimental, surtout dans les fonctions support. Elle avance aussi une hypothèse : les gains dépendraient moins de l’adoption elle-même que du degré d’intégration de l’IA dans les processus métier. Le constat qui tient est donc plus modeste qu’un taux d’échec : l’IA s’est diffusée vite, et les gains mesurés restent rares.

Pourquoi les projets d’IA s’enlisent en entreprise

Interrogées sur les freins à l’IA, les entreprises françaises citent d’abord des causes humaines et organisationnelles. Parmi celles qui utilisent l’IA, la Banque de France relève le manque de compétences techniques (33 %), le manque de cas d’usage (29 %), les obstacles réglementaires (27 %) et l’incertitude sur la fiabilité des résultats (24 %). Parmi celles qui ne l’utilisent pas, l’INSEE note que 29 % évoquent des difficultés liées aux données nécessaires. Chez les entreprises de 250 salariés ou plus, cette part monte à 49 %.

Ces réponses rejoignent une étude plus ancienne. En 2024, RAND a interrogé 65 data scientists et ingénieurs expérimentés sur les causes d’échec des projets d’IA. Ils en ont nommé cinq : un problème mal compris au départ, le manque des données nécessaires pour entraîner un modèle efficace, une attention portée à la technologie plutôt qu’au problème des utilisateurs, une infrastructure insuffisante pour gérer les données et déployer les modèles, et des problèmes trop difficiles pour l’IA. Une seule de ces causes tient aux limites de l’IA elle-même.

Pour un assistant qui répond à partir des documents de l’entreprise, les "données" prennent une forme précise : des procédures, des fiches produit, des notes techniques, des politiques internes. Les enquêtes ne posent pas la question sous cet angle, et aucune source publique ne compte les assistants qui répondent mal parce que leurs documents sont faux, absents ou périmés. Le mécanisme, en revanche, est bien documenté.

Le mécanisme : un assistant reprend ce qu’il lit

La plupart des assistants d’entreprise fonctionnent par génération augmentée par récupération (RAG, pour retrieval-augmented generation) : avant de répondre, l’outil cherche les passages utiles dans les documents de l’organisation, puis rédige sa réponse à partir d’eux. Dans ses questions-réponses sur l’IA générative, la CNIL note que cette méthode "permet davantage de traçabilité des informations contenues dans les réponses". En contrepartie, la réponse ne vaut que ce que valent les documents trouvés.

La recherche va dans ce sens. Dans ClashEval, un banc d’essai présenté en 2024 à la conférence NeurIPS, les modèles testés, dont GPT-4o, ont suivi un document erroné plutôt que leur propre connaissance, pourtant correcte, dans plus de 60 % des cas. La même année, une étude de trois systèmes RAG, dont deux en service, nommait en premier de sept points de défaillance le "contenu manquant" : l’outil peut répondre quand même, alors que la réponse ne figure pas dans les documents.

Quatre états des connaissances font caler un pilote, et le modèle n’en règle aucun :

C’est en ce sens que le problème est organisationnel avant d’être technique. Un meilleur modèle ne donne pas de responsable à une procédure, et une recherche plus fine ne dit pas quelle version fait foi.

Ce que demandent l’AI Act, la CNIL et l’ANSSI

Le cadre européen a changé en 2026. Le règlement omnibus numérique sur l’IA (règlement (UE) 2026/1744), entré en vigueur le 27 juillet 2026, a modifié l’AI Act. Selon l’article 113 consolidé, les règles sur les systèmes à haut risque s’appliquent à partir du 2 décembre 2027 pour ceux de l’annexe III, et du 2 août 2028 pour l’IA intégrée à des produits réglementés (annexe I).

Trois articles concernent un assistant qui lit vos documents :

• L’article 4, sur la maîtrise de l’IA, vaut pour tout fournisseur et tout déployeur de système d’IA. Depuis l’omnibus, c’est une obligation de moyens : prendre des mesures pour que les personnes qui utilisent l’IA en connaissent le fonctionnement et les limites, sans garantir un niveau précis pour chacune.
• L’article 10 porte sur les données d’entraînement, de validation et de test des systèmes à haut risque. Il ne dit rien des documents qu’un assistant consulte au moment de répondre.
• L’article 26 demandera aux déployeurs de systèmes à haut risque de veiller à la pertinence des données d’entrée qu’ils contrôlent et de conserver les journaux du système au moins six mois.

En France, deux guides complètent le texte. La CNIL rappelle que l’organisation qui relie un système d’IA à sa propre base de connaissances est responsable de ce traitement lorsque la base contient des données personnelles. Elle recommande aussi de ne jamais reprendre telles quelles les réponses produites et de privilégier les systèmes qui citent leurs sources. Dans ses recommandations de sécurité pour un système d’IA générative (avril 2024), l’ANSSI demande de traiter le besoin d’en connaître dès la conception, puis de revoir les droits d’accès des outils d’IA générative à leur activation et ensuite régulièrement, par exemple tous les mois.

Aucun de ces textes ne dit qui doit tenir à jour les documents internes qu’un assistant lit, à quel rythme les relire, ni quelle version fait foi quand deux documents se contredisent. Cette part revient à l’organisation.

Que faire avant de déployer un assistant IA

1. Faire l’inventaire de ce que l’assistant va lire

Listez les sources que l’outil interrogera : espaces documentaires, dossiers partagés, wikis, bases de tickets. Pour chacune, notez la date de dernière mise à jour, le responsable et le public autorisé. Commencez par un seul domaine, celui où les questions sont les plus fréquentes. Une checklist d’audit des connaissances aide à structurer ce premier passage.

2. Donner un responsable et une date de revue à chaque contenu

Un contenu sans responsable vieillit sans que personne ne le remarque. Aucun texte officiel ne fixe de rythme de revue : choisissez-le selon la vitesse à laquelle le sujet change, et désignez un successeur quand un responsable change de poste ou quitte l’entreprise. Un calendrier de révision de contenu rend ces échéances visibles.

3. Faire suivre les droits d’accès

L’assistant ne doit montrer à chacun que ce que cette personne peut déjà lire : c’est le principe du besoin d’en connaître, que recommande l’ANSSI. Vérifiez aussi ce qui se passe quand un droit est retiré après qu’un document a été indexé.

4. Désigner une source qui fait foi pour chaque sujet

Quand deux documents se contredisent, l’assistant peut suivre le mauvais. Supprimez les doublons, archivez les anciennes versions en indiquant celle qui les remplace, et gardez une seule source gouvernée pour chaque domaine.

5. Tester avant de généraliser

Avant d’ouvrir l’assistant à tous, posez-lui les vraies questions de vos équipes et faites vérifier chaque réponse, avec sa source, par une personne qui connaît le sujet. L’étude des sept points de défaillance conclut qu’un tel système ne se valide vraiment qu’en fonctionnement. Gardez donc un moyen simple de signaler une mauvaise réponse, et transmettez chaque signalement au responsable du contenu concerné.

Ce qu’apporte une plateforme de gestion des connaissances

Les textes s’arrêtent là où commence le travail quotidien : nommer des responsables, suivre les dates de revue, faire respecter les droits. C’est le rôle d’une plateforme de gestion des connaissances. Chez Elium, plateforme européenne de gestion des connaissances, chaque article a un responsable dont le nom figure en haut de la page, et une date de vérification : à l’approche de cette date, l’article apparaît dans les tâches de son responsable. Le Département de l’Orne garde 100 % de ses procédures à jour grâce à une revue annuelle automatique. Les assistants comme ChatGPT, Claude ou Le Chat de Mistral se connectent à Elium par le protocole MCP (Model Context Protocol) et agissent avec les droits Elium de la personne connectée.

Pour aller plus loin

• La gestion des connaissances pour l’IA : comment obtenir des réponses fiables de Copilot et des agents IA.
• Comment l’IA et la gestion des connaissances fonctionnent ensemble : les fondations à poser avant l’IA.
• Garder une base de connaissances IA fiable : repérer la dérive d’une base avant qu’elle ne gagne les réponses.
• Comparer les outils : les logiciels de base de connaissances IA.
• Mesurer où vous en êtes : le score de maturité IA, un diagnostic gratuit en trois minutes.

FAQ

Questions fréquentes

Pourquoi les projets d’IA échouent-ils en entreprise ?

Le plus souvent pour des raisons organisationnelles : manque de compétences, de cas d’usage clairs et de connaissances vérifiées à donner à l’outil. Un assistant répond à partir des documents qu’il trouve. S’ils sont incomplets, périmés, sans responsable ou mal protégés, la réponse en hérite. En 2024 déjà, une seule des cinq causes d’échec relevées par RAND tenait aux limites de l’IA elle-même.

Quelle part des projets d’IA échoue ?

Aucune source fiable ne mesure un taux d’échec des projets d’IA. Les pourcentages qui circulent viennent d’un rapport préliminaire fondé sur des entretiens, ou d’articles de presse. Les statistiques publiques mesurent l’adoption et les gains : début 2026, 31 % des entreprises françaises qui utilisent l’IA générative avaient constaté des gains de productivité, soit 22 % de l’ensemble des entreprises interrogées par la Banque de France.

Combien d’entreprises françaises utilisent l’IA ?

En 2025, 18 % des entreprises de 10 salariés ou plus implantées en France utilisaient au moins une technologie d’IA, contre 10 % en 2024, selon l’INSEE. La moyenne de l’Union européenne était de 20,0 % selon Eurostat. Début 2026, 67 % des entreprises de 20 salariés ou plus utilisaient l’IA générative, le plus souvent à titre expérimental, selon la Banque de France.

L’AI Act s’applique-t-il à un assistant qui répond à partir de nos documents ?

Oui, au moins par l’article 4 : toute organisation qui déploie un système d’IA doit prendre des mesures pour que son personnel en maîtrise l’usage. Les règles sur les systèmes à haut risque, reportées par l’omnibus numérique au 2 décembre 2027 ou au 2 août 2028, ne s’appliquent que si l’usage est classé à haut risque. L’article 10 porte sur les données d’entraînement et ne dit rien des documents consultés au moment de répondre.

Comment préparer ses connaissances avant de déployer un assistant IA ?

En cinq étapes : faire l’inventaire des sources que l’assistant lira, donner un responsable et une date de revue à chaque contenu, faire suivre les droits d’accès, désigner une source qui fait foi pour chaque sujet, puis tester l’assistant sur les vraies questions des équipes avant de l’ouvrir à tous.

Sources

• Banque de France, Véronique Genre et Léo Parpais, L’IA s’installe dans les entreprises françaises : une diffusion rapide, mais des gains de productivité encore limités, Bulletin de la Banque de France n° 266, 3 septembre 2026. Enquête du 25 février au 3 avril 2026.
• INSEE, Clément Lefebvre, Les technologies de l’information et de la communication dans les entreprises en 2025, Insee Première n° 2120, 21 juillet 2026.
• Eurostat, communiqué sur l’usage de l’IA dans les entreprises de l’Union européenne (en anglais), 11 décembre 2025.
• James Ryseff, Brandon F. De Bruhl et Sydne Newberry, RAND, The Root Causes of Failure for Artificial Intelligence Projects and How They Can Succeed (en anglais), 2024.
• MIT NANDA, The GenAI Divide : State of AI in Business 2025 (en anglais), juillet 2025, rapport présenté comme préliminaire.
• Kevin Wu, Eric Wu et James Zou, ClashEval : Quantifying the tug-of-war between an LLM’s internal prior and external evidence (en anglais), NeurIPS 2024.
• Scott Barnett et al., Seven Failure Points When Engineering a Retrieval Augmented Generation System (en anglais), CAIN 2024.
• CNIL, Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative, 18 juillet 2024.
• ANSSI, Recommandations de sécurité pour un système d’IA générative, version 1.0, 29 avril 2024.
• Règlement (UE) 2026/1744 (omnibus numérique sur l’IA), Journal officiel de l’Union européenne, publié le 24 juillet 2026, en vigueur le 27 juillet 2026.
• AI Act Service Desk de la Commission européenne, texte consolidé au 27 juillet 2026 : article 4, article 10, article 26, article 113.

Sources consultées le 19 octobre 2026.