5000 consommateurs ont été interrogés sur l’impact de l’intelligence artificielle (IA) sur la morale, l’éthique et l’empathie à l’échelle internationale.
Principale conclusion : même s’ils sont conscients des avantages offerts par cette technologie, la très grande majorité des sondés restent sceptiques voire réfractaires face à l’IA…
Selon une étude* menée par Pegasystems, les consommateurs ne sont toujours pas convaincus par les avantages apportés par l’IA, et ce, en dépit du fait qu’elle réponde partiellement à leurs attentes en termes de personnalisation.
C’est pourquoi, il est essentiel pour les entreprises, qui sont toujours plus nombreuses à se tourner vers l’IA, de bien comprendre la perception, les préoccupations et les préférences de leurs clients envers cette technologie afin d’obtenir leur adhésion.
« L’évolution de l’intelligence artificielle passera par l’adoption de directives intégrant les considérations éthiques au sein de machine learning.
Ainsi, les décisions prises par les systèmes d’IA dans le cadre de l’engagement client intègreraient contextuellement l’éthique et seraient considérées comme tout aussi empathiques que celles prises par un individu.
Ce n’est certes pas la panacée, mais en créant une culture de l’empathie dans l’entreprise, l’IA peut être utilisée comme un puissant outil de différenciation dans un environnement très concurrentiel. »
Rob Walker, Vice President, Decisioning and Analytics chez Pega.
Consommateurs vs entreprises : Le déficit de confiance..
68 % des personnes interrogées estiment que les entreprises ont une obligation morale vis-à-vis de leurs clients qui va bien au-delà de ce que prescrit la loi.
Pourtant, ils sont 65 % à penser que les entreprises ne privilégient pas leurs intérêts !
Pourquoi ? N’ont-ils pas confiance en la technologie utilisée au cours de leurs interactions ?
Ces questions sont légitimes car malgré un environnement qui se prétend « orienté client », les consommateurs sont persuadés que leurs intérêts ne sont pas une priorité pour les entreprises et qu’elles manquent totalement d’empathie vis-à-vis de leurs besoins individuels.
Des inquiétudes face à l’IA
Moins de la moitié (40 %) des clients interrogés reconnaissent que l’IA permet d’améliorer le service client, et moins d’un tiers (30 %) n’est pas réfractaire à l’idée d’interagir avec une machine.
Mais seuls 9 % y sont totalement réceptifs.
Parallèlement, un tiers des clients sondés se disent préoccupés par la perspective de voir leurs emplois disparaître au profit des machines et plus d’un quart (27 %) déclare que « la prolifération des robots et l’asservissement de l’homme » est source d’inquiétude.
La peur du biais
Plus de la moitié (53 %) des clients sondés estiment que les décisions prises par l’IA sont potentiellement biaisées.
53 % pensent également que les décisions automatisées resteront influencées par les idées et les préjugés de la personne qui a écrit le programme d’où son manque d’impartialité.
Question de confiance
70 % des personnes interrogées préfèrent s’adresser à un conseiller et 69 % déclarent se confier avec plus de sincérité à une personne plutôt qu’à un système d’IA, chatbot…
Ce pourcentage passe à 86 % dès lors que l’on aborde des questions d’ordre vital. L’homme reste le contact d’interaction privilégié.
Empathie et Sens Moral
Seuls 12 % des clients sondés pensent que l’IA est capable de distinguer entre le bien et le mal et plus de la moitié (56 %) estime qu’il est impossible de développer des machines dotées de « sens moral ».
Ils sont 12 % à peine à déclarer avoir perçu de l’empathie chez une machine lors d’une interaction.
« Notre étude révèle que seuls 25 % des clients sont prêts à faire confiance à un système d’IA, dans l’accompagnement de souscription à un emprunt. Ils se sentent plus à l’aise à entamer une discussion avec un conseiller et lui feront plus facilement confiance.
Mais ce ne sont pas les seuls critères, ils pensent également être en mesure d’influencer sa décision, alors que ce n’est bien évidemment pas le cas.
Aujourd’hui, les systèmes d’IA ne sont pas capables d’aider les entreprises à prendre des décisions basées sur le sens moral ou l’éthique. C’est là tout le problème.
Pour reprendre l’exemple du prêt, outre le fait qu’une banque se doit de respecter les processus réglementaires avant de faire une offre, elle devrait aussi avoir la capacité de déterminer si sa décision est éthique et déterminer qu’elle est la meilleure option pour le client, indépendamment des intérêts financiers de la banque. »
– conclut Rob Walker.
Cette étude révèle ainsi que les clients accepteront de placer leur confiance en un système, des applications ou autre gérés par l’IA quand ces derniers auront la capacité de reproduire les interactions humaines y compris l’empathie.
C’est pourquoi, il est primordial pour les entreprises de réfléchir à la façon dont elles vont intégrer le sens moral, l’éthique et l’empathie à leurs futurs systèmes d’IA…
*A propos de l’étude
Pega a recueilli le point de vue de 5 000 personnes sur l’intelligence artificielle, le sens moral, le comportement éthique et l’empathie, parmi un panel de clients américains, britanniques, français, allemands et japonais.
