YouTube veut mieux contrôler l’IA

YouTube, la célèbre plateforme de partage de vidéos, a récemment annoncé une nouvelle politique visant à étiqueter les vidéos générées par intelligence artificielle (IA) qui pourraient être confondues avec du contenu réel. Cette politique, d'abord annoncée par l'entreprise en novembre dernier, est désormais en cours de déploiement, comme nous l’avons appris dans une note de blog publiée ce lundi par YouTube. Selon la plateforme, cette nouvelle politique exige que les créateurs marquent certains contenus vidéo générés par IA afin que la plateforme puisse y apposer une étiquette de contenu « altéré ou synthétique ».

Nous introduisons un nouvel outil dans Creator Studio qui oblige les créateurs à informer les téléspectateurs lorsqu'un contenu réaliste - un contenu qu'un téléspectateur pourrait facilement confondre avec une personne, un lieu ou un événement réel - est réalisé à l'aide de médias modifiés ou synthétiques, y compris l'IA générative.

Néanmoins, tous les contenus vidéo générés par IA ne devront pas être étiquetés. En effet, la politique de YouTube ne couvre que les altérations numériques ou les rendus par IA d'une personne réaliste, de séquences d'événements ou de lieux réels, ou encore la génération complète d'une scène semblant réaliste. Il est à noter que certains contenus générés par IA bénéficient d'une exemption à cette politique, notamment les altérations mineures comme les filtres de beauté, les effets spéciaux tels que le flou ou un effet vintage, ou encore la correction de couleur. En outre, le contenu animé, considéré comme « clairement irréaliste » par YouTube, ne nécessitera pas d'étiquetage selon cette politique.

Un étiquetage encore limité pour les plus jeunes

Les vidéos destinées aux enfants sur YouTube pourraient être affectées par cette politique si elles diffusent des informations erronées, car cela relèverait de la partie « réaliste » de ces nouvelles règles. Cependant, et comme nous vous l’expliquions plus haut, le contenu animé généré en masse par IA, et généralement destiné aux plus jeunes, ne le sera pas. Cela soulève des préoccupations quant à la nature du contenu disponible pour les enfants sur la plateforme.

Crédit photo : YouTube

Au fil des ans, YouTube a été confronté à des vidéos pour enfants perturbantes, souvent produites sans aucun contrôle de la qualité ou de l'âge approprié. Bien que la politique de YouTube vise à prévenir la désinformation et les problèmes juridiques associés à la représentation réaliste de personnes, elle semble négliger une partie importante du contenu pour enfants, à savoir les vidéos animées générées par IA qui peuvent autant désinformer qu’une vidéo dite « réaliste ».

Globalement, la nouvelle politique d'IA de YouTube est perçue comme un pas dans la bonne direction. Cependant, elle ne semble pas encore traiter pleinement le potentiel de contenu généré par IA de faible qualité à remplir le site et à changer fondamentalement la plateforme. Il est donc fort probable que YouTube doive se confronter à cette réalité dans les prochains mois.