Un durcissement des règles pour les deepfakes sur Twitch

Dans un post publié hier sur son blog officiel, la plateforme de diffusion en direct Twitch a mis à jour sa politique concernant les deepfakes : des montages audios et vidéos réalisés de façon très réalistes qui posent un sacré défi en termes de désinformation mais aussi d'exploitation de l'image. Twitch y fait référence sous le nom images synthétiques à l'exploitation non consensuelle (NCEI). Bien qu'elles y soient déjà interdites, la plateforme d'Amazon indique vouloir "renforcer sa politique" via la modification de deux de ces règles au cours du prochain mois :

• Nous mettons à jour notre politique en matière de violence et d'exploitation sexuelles des adultes afin de préciser que la promotion, la création ou le partage intentionnel de NCEI synthétiques peut entraîner une suspension pour une durée indéterminée dès la première infraction.
• Nous mettons à jour notre politique relative à la nudité chez les adultes afin d'y inclure les NCEI synthétiques. Même si cette NCEI n'est montrée que brièvement ou, par exemple, pour exprimer votre indignation ou votre désapprobation à l'égard du contenu, elle sera supprimée et fera l'objet d'une sanction.

• Montages obscènes, harcèlement sur Twitch... Maghla, épuisée, révèle les coulisses de la vie d'une streameuse
• Twitch : Streamers, burn-out et dépression, une santé mentale sous pression

Un "problème terrible auquel les streameurs sont confrontés"

Un durcissement des règles qui survient après une affaire autour de deepfakes sexuellement explicites de streameuses connues comme Pokimane ou encore QTCinderlla. Lors d'un live sur la chaîne personnelle de Brandon Ewing (alias Atrioc), ses spectateurs ont repéré un onglet sur son navigateur Internet qui mènerait à un site connu pour la vente d'images truquées de streameuses dénudées. C'est en référence à cette affaire que Twitch commence son billet de blog et estime nécessaire le fait de renforcer sa sécurité à ce sujet.

En janvier, un bref incident de "deepfake porn" a été diffusé en direct sur Twitch. Ce moment a provoqué une immense détresse chez les personnes dont les images ont été utilisées sans leur consentement (...) L'existence de ce contenu, ainsi que sa présence et sa diffusion sur divers sites, constituent une violation personnelle et sont plus que bouleversants. Le deepfake porn n'est pas un problème sur Twitch, mais c'est un problème terrible auquel certains streamers (presque exclusivement des femmes) peuvent être confrontés sur l'internet en général. Bien que nous ayons le plus grand contrôle sur ce qui se passe sur notre propre service, nous voulons aider les streamers à se protéger ou à réagir rapidement à ce genre de situation où qu'elle se produise.

Il faut reconnaître que les intelligences artificielles sont désormais partout. Même leur utilisation est parfois plébiscitée par les professionnels, que ce soit en tant que simple outil pour des artiste mais aussi derrière la création intégrale d'un dessin animé. Ce qui est sûr, c'est que les IA sont loin d'avoir fini de faire parler d'elles.