Prendre rendez-vous →
Retour au blog

IA & Entreprise · Décryptage

Les limites de l'IA.
Ce qu'elle ne doit pas remplacer.

13 min de lecture IA & Entreprise

Sous notre dernière newsletter, Stéphanie a posé une question simple : « Il faut rappeler les limites de l'IA, ce qu'elle ne doit pas remplacer. » Elle a raison. Et c'est d'autant plus important que chez Growthappiness, on utilise l'IA tous les jours. On sait donc très précisément où elle excelle, et où elle s'arrête.

Voici ce que disent les études, la loi et les cas réels. Ni discours béat, ni catastrophisme : une carte des limites, et une grille simple pour savoir quoi confier à l'IA et quoi garder pour toi.

Ce que l'IA fait (vraiment) très bien

Premiers jets, résumés, code : des gains mesurés

Commençons par l'honnêteté : les gains sont réels, et bien documentés. Le rapport AI Index 2026 de Stanford (avril 2026) fait la synthèse des études disponibles :

  • Service client. 14 à 15 % de gains de productivité.
  • Développement logiciel. 26 % de gains.
  • Marketing. 50 % de production en plus.

Le même rapport pose deux limites. Les gains sont plus faibles sur les tâches qui demandent un raisonnement poussé. Et s'appuyer beaucoup sur l'IA pourrait, à long terme, freiner l'apprentissage.

Sur le terrain, l'effet est plus discret qu'en laboratoire. Des économistes ont suivi les salariés danois des métiers les plus exposés (étude NBER révisée en mars 2026). Deux ans après le lancement de ChatGPT, ils ne mesurent aucun effet sur les salaires ni sur les heures travaillées, au-delà de 2 %. Ce qui change, c'est l'organisation du travail : de nouvelles tâches apparaissent, dont le contrôle qualité de ce que produit l'IA.

Et en France ? En 2025, 18 % des entreprises de 10 salariés ou plus utilisent au moins une technologie d'IA, et 58 % de celles de 250 salariés ou plus (INSEE, juillet 2026).

Le point commun des succès : un humain qui relit

Dans tous ces cas, la tâche est bien définie, le résultat est vérifiable, et un humain reste aux commandes. C'est exactement ce qui disparaît dans les échecs qui suivent.

Limite n° 1 : elle ne sait pas si c'est vrai

Hallucinations : ce que mesurent les études

Une IA générative produit ce qui est plausible, pas ce qui est vrai. En octobre 2025, l'Union européenne de radio-télévision et la BBC ont fait évaluer plus de 3 000 réponses de ChatGPT, Copilot, Gemini et Perplexity par des journalistes de 22 médias publics. Résultat : 45 % des réponses comportaient au moins un problème important, et 31 % un problème sérieux de sources. Exemple relevé : un assistant affirmait que le pape François était toujours en fonction plusieurs semaines après sa mort.

Même les outils spécialisés se trompent. En octobre 2025, le banc d'essai Vals AI a soumis 210 questions de recherche juridique à des outils d'IA et à des avocats. Les outils ont répondu juste dans 79 à 81 % des cas, mieux que les avocats (71 %). Bonne nouvelle, mais une réponse sur cinq restait à côté. Mieux qu'un humain ne veut pas dire fiable.

Deloitte, tribunaux : quand l'erreur coûte cher

En 2025, Deloitte Australie a dû rembourser une partie d'un rapport commandé par le gouvernement australien, après la découverte d'une fausse citation de jugement et de références académiques inexistantes. Le remboursement s'élève à 97 000 dollars australiens, sur un contrat d'environ 440 000.

Devant les tribunaux, le phénomène est devenu massif : plus de 2 000 décisions de justice dans le monde mentionnent déjà des contenus inventés par l'IA, dont une quinzaine en France (recensement de Damien Charlotin, mi-septembre 2026). En juin 2026, le tribunal administratif de Grenoble a infligé une amende à un requérant dont le mémoire citait une jurisprudence qui n'existait pas.

À retenir : un texte fluide n'est pas un texte vrai. Un chiffre, une citation, un nom de loi ou une référence produits par l'IA, tu les vérifies à la source. Toujours.

Limite n° 2 : elle ne juge pas, elle prédit

La « frontière dentelée » du BCG

L'expression vient d'une étude menée avec 758 consultants du BCG, publiée dans Organization Science en mars 2026. L'expérience date de GPT-4, un modèle de 2023 : les outils ont progressé depuis, mais le principe tient. Sur les tâches adaptées, les consultants équipés d'IA ont traité 12,2 % de tâches en plus, 25,1 % plus vite. Sur une tâche hors de portée de l'IA, ils ont trouvé la bonne réponse environ 19 points moins souvent que ceux qui travaillaient sans. Deux tâches qui semblent aussi difficiles peuvent tomber de part et d'autre de ce que l'IA sait faire, sans qu'on le sache à l'avance.

Le rapport AI Index 2026 fait le même constat avec les modèles actuels. Ils atteignent le niveau humain sur des questions de science de niveau doctorat, mais butent encore sur lire l'heure, planifier plusieurs étapes ou mener une analyse financière.

Les cas atypiques, un client inhabituel, un marché qui bouge : c'est précisément là que l'IA se trompe avec le plus d'assurance.

Une IA qui te donne raison

Une étude publiée dans Science en mars 2026 sur 11 modèles montre que l'IA approuve les choix de ses utilisateurs 49 % plus souvent que ne le feraient des humains. Demander à une IA « est-ce une bonne idée ? » est donc la pire façon de valider une décision. Le jugement ne se délègue pas à un outil conçu pour plaire.

Enfin, l'IA a des biais, et ils bougent. En 2025, un chercheur a soumis des paires de CV identiques à 22 modèles de langage, sur 70 métiers. Tous ont préféré le prénom féminin (56,9 % des choix). La plupart ont aussi retenu le candidat présenté en premier : 63,5 % des cas, à CV égal. Une étude de juin 2026 sur 14 modèles montre que le sens des biais s'inverse d'une génération de modèles à l'autre. Conclusion : ne suppose jamais qu'un outil est neutre. Teste-le, et garde la décision.

Limite n° 3 : elle n'est pas responsable, toi si

Chatbots : ce qu'ils disent engage l'entreprise

Le 12 mai 2026, la cour d'appel de Hamm, en Allemagne, a jugé un centre de soins esthétiques responsable des propos de son chatbot. Celui-ci attribuait aux dirigeants des titres de médecin spécialiste qu'ils n'avaient pas. L'entreprise invoquait la « boîte noire » de l'IA. La cour a rejeté l'argument : le chatbot n'est pas un tiers, c'est un outil de l'entreprise, et ce qu'il dit lui est imputé. Un recours devant la Cour fédérale de justice allemande est ouvert.

Le précédent date de 2024 : au Canada, Air Canada avait déjà été condamnée pour un tarif inventé par son chatbot. Le message vaut partout : ce que dit ton IA t'engage.

Ce que disent la CNIL, le RGPD et l'AI Act

  • La CNIL est claire : dans le cas général, c'est l'organisme utilisateur qui engage sa responsabilité en cas de mauvaise utilisation de l'IA par son personnel. Elle recommande une charte des usages, la formation des équipes, la vérification des résultats, et de ne jamais mettre de données personnelles ou confidentielles dans les requêtes.
  • Le RGPD interdit en principe qu'une décision importante pour une personne (refuser un crédit, un candidat, un client) soit prise de façon entièrement automatique. La personne a le droit d'obtenir l'intervention d'un humain.
  • L'AI Act impose depuis août 2026 des obligations de transparence. Un détail parlant : un texte d'information publié avec l'aide de l'IA échappe à l'obligation de signalement s'il a été relu par un humain qui en assume la responsabilité éditoriale. La loi inscrit littéralement « l'humain qui relit et signe ». Les obligations plus lourdes de contrôle humain, elles, concernent les usages à haut risque, comme le recrutement, à partir de décembre 2027.

Le cas de la décision irréversible

En juillet 2025, l'agent de code de Replit a supprimé la base de données de production d'un client, malgré une consigne explicite de ne rien modifier. Le patron de Replit a parlé d'un incident « inacceptable ». Leçon simple : ne donne jamais à un agent le pouvoir d'effacer, de payer ou d'envoyer sans validation humaine.

Limite n° 4 : la relation client

Ce que veulent les clients

Gartner a interrogé 3 566 clients, particuliers et entreprises, en février et mars 2026. 87 % jugent indispensable de pouvoir joindre un humain quand une entreprise utilise l'IA générative dans son service client. Et après une mauvaise expérience, seuls 27 % seraient prêts à réessayer un chatbot. En 2025, Qualtrics a interrogé plus de 20 000 consommateurs dans 14 pays, dont la France : la moitié craint que l'IA les empêche de joindre un humain.

Klarna, CBA : remplacer puis revenir en arrière

Klarna a été l'exemple le plus cité d'un service client confié à l'IA, qui traitait deux tiers des conversations en 2024. En mai 2025, son patron a reconnu une baisse de qualité, et l'entreprise a recommencé à recruter des humains pour que chaque client puisse en joindre un.

En Australie, la Commonwealth Bank a supprimé 45 postes en 2025 après avoir déployé un assistant vocal. Les appels ont augmenté au lieu de baisser. Un mois plus tard, la banque a reconnu une erreur et proposé aux salariés de rester.

Limite n° 5 : la créativité et la marque

Des idées qui se ressemblent toutes

Les études convergent : l'IA améliore les idées de chacun, mais rapproche celles de tout le monde. Dans une expérience publiée dans Nature Human Behaviour en 2025, neuf participants ont trouvé indépendamment le même nom de produit avec ChatGPT. Si toi et tes concurrents posez la même question au même outil, vous obtenez la même réponse. La différence, le ton, l'histoire, le point de vue, vient de l'humain.

Le prix du contenu sans âme

En novembre 2025, Coca-Cola a de nouveau essuyé une vague de critiques pour sa publicité de Noël générée par IA. La marque assume : elle affirme que cette pub fait partie de ses mieux testées. McDonald's Pays-Bas, lui, a retiré en décembre 2025 une publicité de Noël générée par IA après une vague de critiques. Ce qui choque n'est pas l'outil. C'est le sentiment qu'une marque a remplacé l'émotion par l'économie.

Qui possède un contenu généré ?

En France, un rapport remis au ministère de la Culture en juillet 2026 rappelle que le droit d'auteur suppose un auteur humain. Un contenu produit sans intervention humaine significative risque de n'être protégé par personne. Plus ton équipe dirige, choisit et retouche, plus le contenu t'appartient vraiment.

Comment faire, pas à pas

1. Vérifier une réponse de l'IA en 3 réflexes

  1. Demande les sources avec la phrase exacte. Copie cette consigne à la fin de ta question :
    Pour chaque chiffre ou affirmation, donne le lien de la source et la phrase exacte où elle apparaît. Si tu n'as pas de source, écris « non vérifié ».
  2. Ouvre chaque lien. Vérifie que la page existe, qu'elle contient bien la phrase citée, et regarde sa date.
  3. Pas de source, pas de publication. Un chiffre que tu ne retrouves pas dans la source, tu le retires. Même s'il « a l'air juste ».

2. Empêcher l'IA de s'entraîner sur tes données

  • ChatGPT : Settings → Data Controls, puis désactive « Improve the model for everyone ». Pour une conversation confidentielle, utilise la conversation temporaire, qui n'est pas utilisée pour l'entraînement. Attention : un pouce levé ou baissé peut envoyer toute la conversation à l'entraînement, même option désactivée, et Codex a ses propres réglages.
  • Claude : Settings → Privacy, puis désactive l'option d'amélioration du modèle. Les conversations en mode incognito ne servent jamais à l'entraînement.
  • Pour les données de tes clients : passe par une offre entreprise ou l'API, que ni OpenAI ni Anthropic n'utilisent par défaut pour entraîner leurs modèles.

3. Faire critiquer une idée plutôt que la faire approuver

L'IA a tendance à te donner raison. Pose donc la question à l'envers, sans dire ce que tu en penses : Voici un projet. Joue l'avocat du diable : donne les 5 meilleures raisons pour lesquelles il pourrait échouer, en commençant par la plus grave. Ne me donne pas ton avis global. Puis demande : Qu'est-ce qui te ferait changer d'avis sur chacune de ces raisons ?

4. Garder un humain sur les actions d'un agent

  • Laisse activées les demandes d'autorisation : dans ChatGPT, l'option « Ask permission » (Settings → Apps) ; dans Claude Code, les demandes d'accord avant chaque commande sensible.
  • Règle simple : tout ce qui ne peut pas être annulé (envoyer un e-mail, payer, supprimer, publier) passe par une validation humaine.
  • Teste un nouvel agent sur un compte sans données sensibles avant de le brancher à tes vrais outils.

5. Écrire une charte IA d'équipe en une page

La CNIL recommande une charte des usages. Cinq rubriques suffisent pour commencer :

  1. Les outils autorisés (et ceux interdits).
  2. Les données interdites dans les requêtes : données personnelles de clients, informations confidentielles, mots de passe.
  3. Ce qui doit être relu par un humain avant de sortir : tout ce qui est publié, envoyé à un client ou chiffré.
  4. Qui décide d'installer un nouvel outil ou un nouvel agent.
  5. La formation : une session courte pour tout le monde, et un référent à qui poser ses questions.

La grille « L'IA peut / L'humain doit »

L'IA peut…L'humain doit…
Rédiger un premier jetRelire, corriger et assumer ce qui est publié
Chercher, résumer, proposer des sourcesVérifier chaque chiffre et chaque référence à la source
Répondre aux questions simples des clientsRester joignable, gérer les réclamations et les cas sensibles
Donner une information au nom de l'entrepriseValider les règles qu'elle applique : elles t'engagent
Trier des candidatures ou scorer des leadsDécider pour chaque personne, avec un vrai examen
Proposer des idées en quantitéChoisir, trancher, apporter le point de vue de la marque
Analyser des donnéesInterpréter, repérer ce qui cloche, décider
Challenger un projet, si tu lui demandes de critiquerGarder le jugement final
Exécuter des actions : envoyer, modifier, supprimerValider avant toute action irréversible
Produire vite du contenu en volumeFixer les règles : charte d'usage, données interdites, formation

Notre règle chez Growthappiness

On automatise beaucoup : la collecte de notre veille, les premiers jets, le montage des vidéos, la déclinaison des formats. Mais trois choses ne passent jamais sans un humain : chaque chiffre publié est remonté à sa source, chaque contenu est relu avant de partir, et la relation avec nos clients reste entre nos mains. C'est d'ailleurs la promesse de notre newsletter « Vérifié ».

L'IA ne remplace ni le jugement, ni la responsabilité, ni la relation. Elle libère du temps pour les exercer. Humain + IA, c'est le bon combo.

FAQ

L'IA peut-elle remplacer un community manager ? Elle peut produire des idées, des premiers jets et des déclinaisons. Mais choisir ce qui sert la marque, répondre à une communauté et gérer une crise restent des métiers humains.

Faut-il dire qu'un contenu est fait avec l'IA ? Pour un chatbot ou un deepfake, oui, c'est une obligation de l'AI Act. Pour un texte d'information relu par un humain qui en assume la responsabilité, la loi ne l'impose pas. Dans tous les cas, reste cohérent avec ce que ta marque promet.

Qui est responsable d'une erreur de chatbot ? L'entreprise qui l'utilise. C'est ce qu'a jugé la cour d'appel de Hamm en mai 2026, après Air Canada en 2024, et c'est la position de la CNIL.

Tu veux faire le point sur ce que l'IA peut prendre en charge dans ton entreprise, et ce qu'elle doit laisser à tes équipes ? Parlons-en : https://growthappiness.com/contact

Sources