TikTok : Des centaines d'emplois à la poubelle au profit de l'IA

Le réseau social qui a fait danser le monde entier vient de prendre une décision radicale. TikTok a annoncé la suppression de centaines d'emplois, principalement en Malaisie, pour miser sur l'intelligence artificielle et automatiser la modération de ses contenus. Avec un budget de 2 milliards de dollars alloué à la sécurité en 2024, la plateforme entend renforcer son dispositif de modération... avec des suppressions de postes. À noter qu'aujourd'hui, 80% des contenus problématiques sont supprimés automatiquement. Un chiffre qui a l'air très bon vu comme ça, mais qui n'est pas si impressionnant comparativement aux standards de l'industrie.

C'est donc acté, TikTok choisit de confier une part croissante de la modération à l'IA. Si les modérateurs humains restent indispensables, l'algorithme devient le premier rempart contre les contenus inappropriés. Après tout, c'est assez logique : il est humainement impossible de vérifier des millions d'heures de contenus postées chaque jour sur la plateforme.

Selon Reuters, ce sont près de 500 emplois qui pourraient disparaître, principalement en Malaisie. Un choix qui s'explique par le contexte réglementaire de plus en plus strict dans ce pays. Les autorités malaisiennes demandent aux géants du numérique d'obtenir une licence pour opérer sur leur territoire, afin de mieux lutter contre la cybercriminalité. Ces suppressions de postes s'inscrivent dans une série de réductions d'effectifs entamées plus tôt dans l'année. En avril, TikTok avait déjà licencié plus de 250 employés en Irlande.

Les avantages et les inconvénients des IA dans le monde de la modération

Entre gros forum et réseaux sociaux, JV est un média qui s'y connait en matière de modèration. Nous sommes régulièrement invités à de grandes réunions sur le sujet, entourés d'acteurs majeurs comme les GAFAM. Grâce à cette expertise, nous pouvons vous transmettre quelques informations précises sur le sujet qui nous intéresse aujourd'hui.

L'IA est une vraie révolution. Cette phrase est vraie dans de nombreux secteurs d'activités, mais elle encore plus en matière de modération. Nous en avons personnelement testé et audité plusieur et nos expériences peuvent être résumées en deux grandes phrases :

• L'IA excelle dans la reconnaissance de contenus pour adultes.
• L'IA est très limitée dès qu'il s'agit de contextualiser un propos.

Nous savons de source sûre qu'un des problèmes majeurs que TikTok doit affronter, c'est la prolifération de contenus X. Pour shooter très rapidement le moindre bout de partie génitale, l'IA est un outil de rêve. En utiliser davantage fera de TikTok un espace plus sain pour les mineurs de ce point de vue là, pour sûr.

En revanche, virer des modérateurs humains peut s'avérer problématique dès qu'il s'agit de propos haineux ou de n'importe quel contenu qui a besoin de contexte pour être compris comme hors charte. Une IA ne peut pas comprendre un dog whistle raciste ou homophobe par exemple. De même, elle ne peut pas non plus faire la différence entre la réalité et la fiction. Si vous dites "Chovy doit vite tuer Faker" en commentant une game de League of Legends, l'intelligence artificielle de modération peut vous banir en pensant que vous faites un appel au meurtre.

Avec moins d'humains, on peut donc s'attendre à une meilleure gestion des contenus graphiquement problématiques et interdits aux mineurs d'une part et à une baisse de performances sur tout ce qui touche aux propos haineux d'autre part.