Que doit-on confier aux IA ? Peuvent-elles tout faire à notre place ? Que doit-on vérifier quand elles prennent la main ?
Seriez-vous d’accord pour que le fonctionnement de nos centrales nucléaires soit assuré par une intelligence artificielle ? Il s’agit là évidemment d’une question rhétorique dont le mérite est d’éclairer nos craintes sur l’IA de façon particulièrement vivide…
Dans les entreprises, ces inquiétudes se manifestent de plusieurs façons notamment par un report sine die des cas d’usage à forts enjeux dans les roadmaps. Ces craintes sont l’un des nombreux freins à l’adoption de l’IA, comme l’accès aux données du SI et leur qualité, ou encore, l’évolution perpétuelle des technologies Data & IA qui limite leur appropriation par les équipes informatiques et la possibilité de les ancrer dans une architecture d’entreprise.
Les freins à l’adoption de l’IA par les entreprises sont, naturellement, le dernier thème discuté dans ces articles, et pour l’adresser, je vais partir de l’hypothèse dite de l’éléphant dans la pièce, soit la possibilité que les freins les plus importants sont les moins discutés. Ces freins couvrent trois mailles :
- L’humain : Le défi que représente l’IA pour nous, simples humains : comment se l’approprier ? Comment l’apprivoiser ? Comment surmonter nos peurs ?
- L’organisation : Le défi que représente l’IA, et sa nouvelle réalité face à des organisations bien établies : comment intégrer l’IA dans nos processus ? Comment adapter nos organisations ? Comment les repenser ?
- L’écosystème : Le défi que représente l’IA au-delà de l’entreprise : comment déployer l’IA en respectant la réglementation ?
Dans un univers où l’IA et son approche probabiliste occupent une place croissante, il devient indispensable de repenser l’organisation du travail en prenant en compte la nécessaire coopération entre humains et IA. Cependant, cela ne pourra pas se faire de façon crédible sans que les entreprises et leurs collaborateurs ne s’approprient l’IA rapidement et, pour cela, il me semble nécessaire de revenir à Saint Jean, pour qui « au commencement était le verbe. »
Do You Speak AI ?
La première barrière de l’IA, et peut-être, la plus importante est celle du langage ! L’IA, comme le marketing ou la finance est – amenée à devenir – un langage d’entreprise. L’IA est en train de s’imposer comme une compétence clé de l’entreprise et chacun devra être autonome sur son langage afin de pouvoir l’utiliser. Quelles actions doit-on lancer pour améliorer la marge ? Quelles incidences du plan marketing sur les budgets et le recrutement ? Quelles actions faut-il prendre lorsque la performance de mon modèle d’IA se dégrade ?
Nous n’avons évidemment pas tous vocation à être des experts du marketing, de la finance ou encore des IA, cependant nous devons tous (1) comprendre les grands enjeux qu’elles portent (2) savoir comment contribuer à améliorer leur performance et (3) être en mesure d’échanger avec l’ensemble des acteurs internes ou externes à l’entreprise.
Demain, de nombreux managers devront participer à la conception de processus pris en charge par des IA, bâtir des stratégies d’acquisition de données afin d’assurer l’alimentation de leurs IA, ou encore se pencher sur le niveau de performance du Chatbot afin d’améliorer son impact sur l’efficacité du service client. Pour faire cela, ils devront être à même de penser, agir et échanger autour de l’IA.
Alors que la finance a toujours été au cœur de l’entreprise et que le marketing s’est institutionnalisé dans les années 1960, l’IA émerge à peine, et reste aujourd’hui encore maîtrisée par une poignée d’experts.
L’appropriation de l’IA nécessite de prendre en compte ses différentes dimensions :
- Sa richesse : c’est un langage qui couvre de nombreux concepts complexes issus de différentes sciences et techniques (mathématiques, neurosciences et sciences cognitives, informatique, data management, …)
- Sa mutation permanente : l’IA évolue de façon continue avec l’apparition de nouveaux algorithmes, techniques et produits qui ne cesse d’accélérer
- Sa logique interne : elle repose sur la supériorité de l’approche probabiliste en termes de performances, renonçant ainsi à la confortable certitude des raisonnements déterministes
- Ses grammaires : au-delà des cadres scientifiques et technologiques, l’IA vient avec ses nombreuses règles, dont certaines, encore émergentes, notamment en termes d’éthique, de réglementation, d’économie et de risques, …
- Sa mythologie : l’IA porte plusieurs mythologies depuis sa naissance : disparition et aliénation du travail, robots et humanoïdes, scénarios dystopiques et apocalyptiques,…
Ces spécificités permettent de comprendre pourquoi l’IA se diffuse plus facilement dans des environnements dotés d’une culture scientifique ou d’ingénierie, que ce soient des industries de la tech, des télécoms ou encore des laboratoires pharmaceutiques. Elles expliquent aussi la lente appropriation de l’IA dans d’autres domaines pour lesquels il est tout autant nécessaire d’accélérer son adoption.
L’approche la plus sûre afin d’accélérer l’appropriation de l’IA en entreprise est de combiner son apprentissage avec sa pratique :
- En amont du projet, il est nécessaire de former les managers aux fondamentaux de l’IA, c’est-à-dire comprendre ce qu’est l’IA, ce qu’elle signifie sur la capacité de l’entreprise à prédire et automatiser les décisions.
- Au cours du projet, il est nécessaire d’appuyer le manager par des outils comme un lexique d’entreprise de l’IA, qui permettent d’assurer une compréhension partagée et des guides méthodologiques suivant une approche pratique ciblée sur les activités auxquelles les équipes sont confrontées face à l’IA et la Data, comme par exemple, formaliser un cas d’usage et sa solution IA, mettre en place une stratégie d’alimentation des données, ou encore évaluer les atouts et les limites des différents modèles d’IA. Ces activités exigent des connaissances spécifiques qui doivent être mises à disposition des équipes au travers d’outils
Le déploiement d’une telle approche dans une Business Unit sera privilégié s’il est concomitant avec une transformation par l’IA permettant ainsi de sécuriser son appropriation par les équipes.
Aujourd’hui, de nombreuses entreprises ont engagé des travaux autour de la Data Culture. Ces programmes offrent des formations permettant de sensibiliser et former les acteurs de l’entreprise sur l’IA. Elles apportent aux managers engagés dans les projets d’IA les incontournables fondamentaux. Il est cependant indispensable de compléter ces formations par des outils & méthodes pratiques, leur permettant de les rendre autonomes sur les activités sur lesquelles ils sont engagés dans le cadre des initiatives et projets IA, sans quoi, l’entreprise ne bénéficiera pas de cette acquisition de compétences.
Revenons brièvement à notre question initiale et imaginons que vous êtes nommés pour produire cette IA qui doit opérer nos centrales nucléaires. Se pose la question de comment permettre à votre management de placer sa confiance dans l’IA ? Peter Atwater, un économiste spécialisé dans la mesure de la confiance, a formalisé dans son dernier ouvrage un outil de cartographie de la confiance. Selon sa méthode, les deux leviers clés permettant de renforcer la confiance sont le sentiment de contrôle et la certitude des résultats.
L’apprentissage de l’IA par le langage est la brique initiale permettent d’assurer un sentiment de contrôle. Lors du déploiement de l’IA, il doit être accompagné de leviers additionnels comme le recours à des interventions humaines prenant le relais des opérations à la place de l'IA, notamment lorsque les enjeux (économiques, humains et d’image) sont élevés. C’est l’approche suivie par Tesla sur son site d’achat qui contacte directement les visiteurs lorsque l’échange avec le Chatbot risque de s’engager dans une impasse. Des éditeurs de solutions IA comme Hyperscience proposent également cette approche.
Concernant la certitude des résultats, les grandes entreprises ont lancé de nombreuses initiatives autour de l’IA de confiance, l’IA explicable et l’IA éthique… Ces initiatives sont nécessaires ; leur vocation est de rendre l’IA aussi transparente que possible, d’avoir un comportement exemplaire, non intrusif et sans biais pour des data scientists, cependant elles n’adressent pas le problème humain de la peur du risque, avant tout personnel, mais aussi pour l’entreprise qui est associée à la décision de lancer et opérer une IA … Dans la plupart des cas, elles fournissent une « autopsie du dysfonctionnement » et vont jusqu’à poser quelques contrôles en amont des analyses. Il faut cependant être clair : l’IA nous fait basculer dans un univers où les probabilités offrent des performances supérieures à ses alternatives, mais la réplicabilité des résultats n’est plus garantie : les recommandations d’Amazon peuvent varier selon les données prises en entrée et la répétition d’un même prompt sur ChatGPT peut produire des réponses légèrement différentes.
D’autres approches doivent être utilisées afin de réduire les incertitudes, notamment :
- La mise en place de procédures de « stress test » pour l’IA afin de simuler les scénarios catastrophes pour mieux maîtriser les incertitudes.
- Une instance de gouvernance de l’IA couvrant la définition et la mesure des risques et des incertitudes associés à l’IA ainsi que la définition de cibles en matière de performance
W. Brian Arthur, l’un des penseurs clés sur les technologies de l’information a bien raison : nous faisons plus confiance à nos semblables qu’aux technologies comme l’IA. L’histoire nous indique qu’avec le temps, nous apprendrons à faire confiance à l’IA sur des nombreuses activités de l’entreprise comme nous l’avons fait avec d’autres technologies par le passé.
Cet article fait partie d'une série d'articles proposés par Patrick Darmon. Pourquoi et comment l'IA doit devenir une technologie socle de nos entreprises ?
Premier volet : L’intelligence artificielle est-elle soluble en entreprise ?
Deuxième volet : Révolution de l’Intelligence Artificielle… ou simple rêve ?
Troisième volet : L'IA, combien ça coûte et est-ce que cela vaut le coup ?
Quatrième volet : Quelle stratégie adopter pour intégrer de l’IA générative dans son business ?
Cinquième volet : Ne passez pas l’IA à l’échelle ! Passez votre business à l’échelle avec l’IA
Sixième volet : Si vous vous demandez où mettre de l'IA dans votre business, on a un début de réponse
Septième volet : L’intelligence artificielle est un impératif économique et national
Patrick Darmon est associé chez Fizz venture, cabinet de conseil en data & IA.
Participer à la conversation