L’IA face à ses limites : mieux la comprendre pour mieux l’apprivoiser

Derrière les prouesses, des limites bien réelles : comment naviguer avec l’IA sans se laisser tromper par les promesses exagérées ?

Un avocat entre dans la salle d’audience, sûr de lui. Son argumentaire repose sur des précédents juridiques solides, du moins en apparence. Mais catastrophe : ces affaires et la jurisprudence qu’il mentionne ne résistent pas à la vérification : elles n’ont jamais existé. Verdict : sanctions professionnelles et réputation en vrac. L’IA a tout inventé.

Censée augmenter nos capacités, l’IA peut aussi nous entraîner dans l'erreur avec une assurance désarmante. Déployée massivement dans tous les secteurs de nos vies, elle révèle ses failles et nous amène à nous interroger sur ses limites. Car derrière ses prouesses apparentes et ses échecs spectaculaires, l’IA est limitée par des contraintes mathématiques et techniques.

Ces limites dessinent les contours de notre futur numérique. Bien les comprendre est un enjeu de société.

Les limites fondamentales de l’IA : des murs mathématiques infranchissables

Deux théorèmes mathématiques fondamentaux “encadrent” l’IA moderne :

• Le théorème d’indécidabilité de Turing, qui démontre qu’il existe des problèmes qu’aucun algorithme ne pourra jamais résoudre de manière générale. Un antivirus ne pourra jamais garantir à 100 % qu’un programme suspect deviendra malveillant ou restera inoffensif. Un système de vérification logicielle ne pourra pas toujours assurer qu’un programme se comportera correctement dans tous les cas.
• Le théorème du No Free Lunch, qui prouve qu’aucun algorithme ne peut exceller dans tous les domaines. L'assistant vocal qui comprend parfaitement vos commandes reste confus face à une conversation nuancée. Les traducteurs automatiques qui excellent sur les phrases standards s'effondrent face à l'humour.

Ces théorèmes établissent des limites mathématiques infranchissables, qui cadrent les capacités des systèmes d’IA. À côté, d’autres contraintes, bien que fortes, peuvent être atténuées par des avancées méthodologiques et technologiques.

L’IA, championne du bluff, mais pas du bon sens

Vous l’avez peut-être vécu : ChatGPT cite un article inexistant ou invente un fait historique avec une confiance désarmante. Ces “hallucinations” sont aujourd’hui plutôt qualifiées de baratin (“bullshit”) : là où l’hallucination est une erreur perceptive, l’IA ne cherche pas la vérité, elle optimise la fluidité de son discours. Selon le philosophe Harry Frankfurt (“On Bullshit”, 2005) le baratin est un discours indifférent à la vérité, cherchant à convaincre plutôt qu'être exact. Il ne s’agit là pas d’un bug des LLMs, mais d’une conséquence directe de leur fonctionnement probabiliste, car ils sont conçus pour prédire la suite la plus probable d’un texte, pas pour en comprendre le contenu.

Et ce n’est pas qu’un problème d’entraînement ou de calibrage : des chercheurs de l’Université de Singapour (2024) ont démontré qu’il est mathématiquement impossible d’éliminer totalement ce problème. L’IA générative produira toujours du baratin convaincant.

Or le baratin crée des risques tangibles : des patients suivent des conseils médicaux inventés. Des étudiants intègrent des références académiques fictives dans leurs travaux. Des décideurs fondent leurs stratégies sur des tendances jamais observées. Ce baratin contamine notre écosystème informationnel, rendant le vrai et le faux indiscernables sans vérification externe systématique.

Trois stratégies ont été développées pour contourner cette propension au baratin :

• Le RAG (“Retrieval Augmented Generation”), qui ancre les réponses dans des sources vérifiables, transformant l'IA en navigateur intelligent plutôt qu'en créateur de contenu.
• Les systèmes d'auto-évaluation, qui attribuent des niveaux de confiance aux affirmations, signalent de fait quand l'IA navigue en terrain incertain.
• La citation systématique des sources, qui facilite la vérification immédiate par l'utilisateur. Cette traçabilité intellectuelle, déjà standard dans la recherche académique, aide grandement à l’utilisation quotidienne de l'IA générative.

Mais même avec ces garde-fous, dans les domaines sensibles (droit, médecine, sécurité), la supervision humaine reste indispensable face au baratin insidieux.

Les défis de l’explicabilité : quand les algorithmes deviennent indéchiffrables

Un demandeur de crédit se voit refuser son prêt par un algorithme. Il est solvable, mais personne, pas même les concepteurs du modèle, ne peut expliquer la décision.

Cette opacité des IA modernes n’est pas un bug, c’est une caractéristique fondamentale. Avec leurs milliards de paramètres interconnectés, les modèles de deep learning créent un brouillard algorithmique inextricable.

Trois approches tentent d’atténuer ce problème :

• Les cartes de saillance : en vision artificielle et en imagerie médicale, elles permettent la visualisation des zones spécifiques d’une image sur lesquelles l’algorithme se concentre le plus. Cela aide à comprendre pourquoi un modèle d’IA identifie un cancer sur un scanner ou pourquoi une voiture autonome réagit (ou pas) au surgissement d’un piéton.
• Les modèles d’approximation locale, techniques qui simplifient temporairement le modèle d’IA en créant une version plus compréhensible sur un échantillon réduit de données, permettant ainsi une interprétation plus claire.
• Les systèmes hybrides neuro-symboliques : en combinant des réseaux neuronaux avec de la logique explicite et des bases de règles, ces systèmes permettent un raisonnement plus transparent. Ils sont l'une des pistes les plus prometteuses face à l'opacité algorithmique. Dans la finance, ces systèmes détectent déjà les fraudes en expliquant précisément les indices ayant déclenché l'alerte.

De plus en plus, la confiance se substitue au besoin d’explicabilité. Issue de l’utilisation répétée et de la compréhension croissante des limites et des capacités de ces systèmes, la confiance permet une utilisation productive de l’IA, comme c’est le cas pour d’autres technologies complexes (on fait confiance à un pilote automatique dans un avion ou dans une rame de métro sans comprendre ses algorithmes).

Malgré cela, l’explicabilité reste un défi majeur en particulier dans des contextes critiques comme le diagnostic médical (où un médecin doit justifier un traitement), ou la justice (où un algorithme d’évaluation des risques influence une décision de libération conditionnelle). Il faut pouvoir expliquer et comprendre pourquoi une décision a été prise pour qu’elle soit acceptable et contestable. La confiance, ici, ne suffit pas.

L’IA ne comprend pas vraiment le monde

En janvier 2024, un robotaxi Apollo Go bloque la circulation à Shanghai après s’être arrêté devant… un sac plastique, mettant en évidence les effets concrets de l’incapacité de l’IA à développer une véritable compréhension des lois qui régissent nos existences. Là où les humains comprennent le monde en reliant causes et conséquences, l’IA se contente de repérer des motifs statistiques, sans véritable compréhension de la causalité. Dans le cas du robotaxi, l’IA n’avait aucun moyen de comprendre que le sac plastique n’était pas dangereux.

Avancée notable bien qu’encore limitée, des chercheurs de Meta ont récemment observé l’émergence de représentations causales dans des systèmes entraînés sur des vidéos du monde réel. Ces modèles infèrent progressivement certaines lois physiques élémentaires par l’observation des dynamiques dans des scènes vidéo. Ce développement pourrait, à terme, aider les systèmes à mieux anticiper les conséquences de leurs actions : les véhicules autonomes évalueront plus finement les obstacles réels, évitant ainsi des erreurs absurdes comme notre robotaxi immobilisé devant un sac plastique. Pour les assistants vocaux, cela améliorera la cohérence des réponses, réduisant les incohérences actuelles liées à une simple juxtaposition de faits. En robotique, une meilleure compréhension des lois physiques permettra une manipulation plus précise des objets, rendant les interactions avec le monde réel plus naturelles.

Toutefois, cette évolution restera limitée : il ne s’agit toujours pas d’une vraie compréhension humaine du monde, mais d’une meilleure modélisation des relations observées dans les données. L’IA ne "raisonnera" pas comme un humain, mais elle pourrait réagir avec plus de pertinence dans certaines situations.

Naviguer avec les limites, plutôt que poursuivre les chimères d’une IA universellement compétente

Comprendre les limites de l’IA, c’est sortir de la pensée magique et adopter un regard lucide sur son rôle. Cela réaffirme le rôle des experts, en rappelant que l’IA ne valide pas l’information, mais la génère sans compréhension. Pour les éducateurs, c’est l’occasion d’enseigner la distinction entre corrélation et causalité, information et connaissance, automatisation et pensée critique. Pour la société, c’est un garde-fou contre une adoption aveugle, car exigeant transparence, supervision et responsabilité.

Bornée par des limites incontournables, l’utilité de l’IA dépend autant des promesses de la technologie que de notre capacité à en comprendre les contours et à l’exploiter intelligemment.

Son adoption ne sera demain ni magique, ni omnisciente, mais lucide et pertinente.