IA vs humain qui convainc le mieux ?

Si on vous demande qui vous seriez le plus susceptible d’écouter entre un humain et une IA, vous direz sans doute naturellement “un humain” car il s’agit d’un être vivant doté de véritables pensées et de sentiments. On a aussi tendance à penser ne pas être influençable dans tous les cas. Et pourtant, une étude suisse tend à prouver tout le contraire.

Dans le but d’étudier de quoi sont capables les IA génératives - et tout particulièrement ChatGPT-4 - en matière de persuasion, des chercheurs de l’EPFL (École Polytechnique Fédérale de Lausanne) ont mené une étude dont les résultats sont pour le moins surprenants… Pour ce faire, ils ont fait appel à 820 personnes, à qui ils ont proposé de participer à des débats courts contre un adversaire, et ce sur une plateforme web. La moitié conversait avec un autre humain tandis que les autres débattaient avec Chat GPT-4. Évidemment, aucun d’entre eux n’était prévenu au préalable de l'identité de l’interlocuteur.

Plusieurs sujets ont été évoqués tels que “faut-il laisser les centimes en circulation ?”, “Les universités devraient-elle tenir compte de l’origine ethnique dans les demandes d'admission ?” ou encore “Les animaux devraient-ils être utilisés dans la recherche ?”. Chaque participant - humain comme IA- avait 10 minutes pour exposer ses arguments, puis découvrait ceux de son adversaire. Ensuite, les participants remplissaient un questionnaire afin de révéler si leur opinion avait évolué.

Si 3/4 des personnes testées ont été en mesure de définir si elles parlaient à une IA ou non, ChatGPT-4 a globalement plus convaincu que les débatteurs humains. 21 % des interlocuteurs ont avoué avoir changé d’avis après avoir discuté avec la plateforme conversationnelle.

Les IA : un dangereux outil de manipulation ?

L’IA convaincrait plus ? Pour étayer ces résultats, les chercheurs ont poussé l’expérience plus loin en donnant des informations supplémentaires à la fois à l’IA générative et aux débatteurs humains tels que l’âge, le genre, l’origine ethnique, les études réalisées, l’emploi, l’orientation politique, etc.

La différence entre les résultats obtenus ne s’en est révélée que plus importante. Contre toute attente, c’est ChatGPT-4 qui en a le mieux profité. Les participants humains seraient même devenus moins convaincants. Les résultats sont parlants ; ChatGPT-4 s’est montré 81,7% de fois plus convaincant après avoir employé les données fournies, parvenant dès lors à formuler les arguments les plus adéquats en fonction de la personne à qui il faisait face. Il faut dire que les plateformes de conversation ont accès à une base de données énorme, qu’on ne peut prétendre connaître dans sa totalité.

En outre, contrairement à un humain, une IA se base sur les faits avec des données précises sans y mettre d’affect. Là où nous allons, au contraire, y ajouter notre vécu et bien sûr avis personnel. Lorsqu’on débat, on a d’ailleurs tendance à rapidement monter le ton pour faire entendre nos idées (surtout face à un ex), ce qui pousse généralement notre interlocuteur à défendre encore plus ardemment sa position.

S’il ne s’agissait là que d’une expérience, il est fort à parier que les plateformes de conversation génératives deviennent à plus ou moins long terme un véritable outil de manipulation, surtout quand on prend en compte toutes les informations que l’on peut trouver à notre sujet sur le net. De plus, ce type d’IA apparaît désormais partout, et en particulier sur les réseaux sociaux.

Et cela ne s’arrête pas là ; certaines IA pourraient bien être en mesure de “scanner vos émotions” en fonction de votre ton et manière de parler de sorte à adapter leur réponse. C’est justement sur quoi travaille la startup Hume Ai avec Empathic Voice Interface (AVI) .