La montée en puissance de l’intelligence artificielle dans les entreprises s’accompagne d’un paradoxe inquiétant : 95 % des directeurs data reconnaissent ne pas comprendre comment leurs IA prennent leurs décisions, selon le rapport “Global AI Confessions” de Dataiku.
Entre enthousiasme technologique et déficit de transparence, la confiance envers l’IA semble fragile, même chez ceux qui la pilotent au quotidien…
IA : une adoption massive mais une confiance limitée
Si les systèmes d’IA sont désormais intégrés aux opérations pour 86 % des directeurs data, la méfiance persiste : 52 % ont déjà retardé ou bloqué un projet par manque d’explicabilité.
Mais, paradoxalement, 69 % considèrent les recommandations des IA plus crédibles que celles des humains, révélant un équilibre fragile entre confiance et scepticisme…
« Les entreprises du monde entier misent sur une IA en laquelle elles n’ont pas totalement confiance.
souligne Florian Douetteau, cofondateur et CEO de Dataiku
La plupart des échecs proviennent d’obstacles récurrents : manque de traçabilité, de gouvernance et de compréhension ».
L’IA, un enjeu de carrière pour les décideurs
Pour les CIO et Chief Data Officers, l’IA représente aussi un risque personnel.
60 % craignent pour leur poste si les systèmes ne produisent pas de résultats tangibles dans les deux prochaines années.
Si 46 % espèrent être valorisés pour les gains générés, 56 % redoutent d’être tenus responsables en cas d’échec.
Et les inquiétudes ne sont pas théoriques : 59 % rapportent que des hallucinations de l’IA ont déjà provoqué des incidents dans leur entreprise.
Malgré cela, 82 % jugent que les modèles surpassent les dirigeants dans l’analyse business.
Mais la confiance a ses limites : 74 % reviendraient aux processus humains si le taux d’erreur dépassait 6 %…
Un décalage entre la direction et le terrain
Le fossé entre les dirigeants et les experts opérationnels se creuse. Seuls 39 % des directeurs data estiment que la direction générale comprend réellement l’IA.
68 % pensent que leurs dirigeants surestiment la précision des modèles IA, tandis que 73 % jugent qu’ils sous-estiment la difficulté de fiabiliser les systèmes avant leur mise en production.
Cette incompréhension peut avoir des conséquences sérieuses : plus d’un directeur data sur deux s’attend à voir un CEO perdre son poste d’ici 2026 à cause d’une stratégie IA mal maîtrisée.
Explicabilité : la clé de la maîtrise
Les experts data réclament un retour à la rigueur scientifique.
80 % considèrent qu’une décision « juste mais inexplicable » est plus risquée qu’une erreur compréhensible.
Pourtant, seulement 19 % demandent à leurs systèmes de montrer leur processus avant validation.
« L’explicabilité est la clé du passage de la fascination à la maîtrise. C’est le seul moyen de transformer une tendance en impact business réel ».
insiste Florian Douetteau.
Entre hype, risques juridiques et déficit de transparence, l’IA devient à la fois un levier de performance et un test de responsabilité. Pour les directeurs data le défi n’est donc plus de croire en l’IA mais de pouvoir lui demander des comptes…
