De grandes entreprises parmi lesquelles on trouve des géants comme Apple, Discord, X ou encore Google sont pointées du doigt en raison d’un lien étonnant entretenu avec différents sites de deepfakes et autres générateurs de « nudes » à base d’intelligence artificielle. Un constat qui a rapidement jeté un froid.
À force de visiter des sites Internet qui nécessitent une inscription, vous êtes forcément déjà tombé sur des options de connexion rapide qui permettent d’utiliser votre compte Google, Apple, X ou encore Discord pour vous inscrire en quelques secondes sur une plateforme. Cela facilite les choses, mais cela a aussi tendance à crédibiliser le site sur lequel vous vous inscrivez, car il apparaît comme associé à des entreprises de confiance.
Le problème, c’est que ce système d’identification est utilisé sur des sites problématiques, comme le révèle une récente enquête réalisée par le média américain Wired.
Connectez-vous à un site de deepfake avec votre compte Google
Wired a en effet constaté que les services de connexion rapide de Google, Apple, X, Line, Discord ou encore Patreon étaient mis en avant sur de nombreux sites très douteux permettant de générer des deepfakes. Ces technologies permettent de mettre la tête d’une personne sur le corps d’une autre, pour générer des photos et des vidéos crédibles, mais souvent associées à des situations compromettantes. De nombreux utilisateurs de ces services s’en servent pour générer des nudes de personnes connues ou pas, ce qui est considéré comme une forme d’exploitation sexuelle.
Cette tendance, longtemps réservée à une minorité obscure, a explosé ces dernières années en raison du développement rapide des intelligences artificielles génératives, qui peuvent réaliser des deepfakes crédibles en quelques secondes. Pas étonnant que les plateformes qui permettent de créer des « nudes » en trois clics se soient développées à grande vitesse.
Et le fait que les grands acteurs du Web y soient associés via leur système de connexion rapide représente un grave problème, puisque cela renforce le côté « mainstream » de ces plateformes aux activités fort discutables. Wired parle ainsi d’un « vernis de crédibilité », et l’expression est assez bien trouvée.
Apple et Discord ont rapidement réagi à la polémique
Parmi les systèmes de connexion les plus utilisés, il y a celui de Google, recensé 16 fois, celui de Discord, présent 13 fois, celui d’Apple détecté 6 fois ou encore celui de X, présent 3 fois. Line et Patreon apparaissent quant à eux deux fois sur les mêmes sites.
Wired a pris soin de contacter chaque entreprise dans le cadre de son enquête. Discord et Apple ont répondu avoir immédiatement pris des mesures, en supprimant sans délai les comptes de développement associés aux plateformes de deepfake concernées. Google a déclaré être en train d’enquêter, et que des mesures seront prises si les sites en question violent ses conditions d’utilisation. Patreon a indiqué interdire les comptes qui génèrent des images explicites et Line a lancé une enquête sans en dire plus. La seule plateforme qui n’a pas répondu aux sollicitations de Wired n’est autre que X, ce qui ne surprendra sans doute pas grand monde.
Cependant, ces actions pourraient bien être uniquement symboliques. Les plateformes de deepfake ont tendance à se développer très rapidement, et on imagine qu’elles trouveront des alternatives pour assurer leur connexion. Le combat continue.