Les enjeux éthiques pas si virtuels des chatbots

Paris, le samedi 12 décembre 2021 – « Que puis-je faire pour vous ? ». Aujourd’hui, lorsqu’on consulte un site internet, il n’est pas rare qu’une discussion s’ouvre et que « l’on » se propose de répondre à vos interrogations et de vous guider dans vos démarches. On, ce sont des « agents conversationnels », plus connus sous le nom de chatbots. Il s’agit de logiciels qui « à travers des échanges écrits ou oraux, interagissent avec leur utilisateur en langage naturel. Aussi appelés chatbots, ces agents conversationnels ont des fonctions d’assistance médicale, d’éducation, de coaching, etc., et sont même présentés comme des compagnons virtuels. Ces dernières années, l’utilisation des chatbots a connu une forte croissance dans différents secteurs. Les nouvelles générations de chatbots sont de plus en plus performantes grâce à l’évolution des techniques d’apprentissage machine » décrivaient il y a quelques semaines les auteurs d’un avis du Comité consultatif national d’éthique (CCNE) sur le sujet, Laurence Devillers, professeur en intelligence artificielle à la Sorbonne Université et Alexei Grinbaum philosophe et physicien (CEA Saclay).

Confondre les chatbots avec de vrais médecins

Or, cette fluidité accrue soulève des questions éthiques, alors que grâce à elle de plus en plus la confusion semble possible entre les machines et de véritables humains. Aussi, Laurence Devillers et Alexei Grinbaum ont émis différentes recommandations qui concernent entre autres le domaine de la santé. Il s’agit notamment de prévenir les risques d’erreurs de diagnostics et de prescriptions qui pourraient être le fait de ces chatbots, ainsi que les retards de prises en charge provoqués par une trop grande confiance des utilisateurs dans la parole de ces robots, en raison de leur grande « personnification ».

Les chatbots plus forts que la mort ?

Par ailleurs, en s’inspirant de l’exemple marquant d’un habitant de San Francisco ayant conversé pendant de longues semaines avec un « robot » qu’il avait conçu pour être l’émanation de sa fiancée morte, Laurence Devillers et Alexei Grinbaum évoquent ces « jumeaux numériques » de personnes vivantes ou décédées. « Simuler une interaction avec une personne décédée, cela remet en question le statut de la mort, fondamentale pour la condition humaine. La responsabilité pour les propos ressemblants mais inventés par les chatbots, est un problème éthique et juridique inédit » écrivent dans une tribune publiée par Sciences et Avenir les deux chercheurs, dont la position pourrait être contestée par ceux qui se féliciteraient de ces remèdes contre le chagrin du deuil. Cependant, ces derniers concluent : « Parmi ces différents enjeux, les trois principales tensions concernent le statut des agents conversationnels, l’imitation du langage et des émotions par les chatbots et la prise de conscience par le public des capacités et limitations des agents conversationnels, y compris leur capacité à manipuler. Par exemple, il est nécessaire d’étudier les effets de l’utilisation des chatbots à long terme. Leur utilisation est susceptible de modifier notre rapport au monde, nos connaissances, nos émotions et nos relations interpersonnelles ».

Léa Crébat