YouTube va bientôt exiger des divulgations sur les vidéos contenant du contenu généré par intelligence artificielle susceptibles de tromper les spectateurs.
La plateforme détenue par Google interdit depuis longtemps tout contenu techniquement manipulé pouvant induire les spectateurs en erreur et “présenter un risque sérieux de préjudice grave”. Cependant, avec une nouvelle mise à jour de la politique annoncée mardi, YouTube exigera désormais des créateurs qu’ils ajoutent des étiquettes lorsqu’ils téléchargent du contenu incluant “du contenu manipulé ou synthétique réaliste, y compris l’utilisation d’outils d’IA”.
Cette politique vise à éviter que les utilisateurs ne soient confus par du contenu synthétique, compte tenu de la prolifération de nouveaux outils d’IA générative orientés vers le consommateur, qui facilitent et accélèrent la création de textes, d’images, de vidéos et de sons captivants souvent difficiles à distinguer du réel.
Les nouvelles étiquettes seront obligatoires uniquement pour le contenu généré par IA ou autrement synthétique qui est “réaliste”. Cela inclut, par exemple, les vidéos qui “décrivent de manière réaliste un événement qui ne s’est jamais produit, ou du contenu montrant quelqu’un disant ou faisant quelque chose qu’il n’a pas réellement fait”, ont déclaré Jennifer Flannery O’Connor et Emily Moxley, vice-présidentes de la gestion des produits chez YouTube, dans un article de blog.
“Cela est particulièrement important dans les cas où le contenu aborde des sujets sensibles, tels que les élections, les conflits en cours et les crises de santé publique, ou les fonctionnaires”, ont souligné Flannery O’Connor et Moxley.
Les spécialistes de l’intégrité de l’information numérique expriment leurs inquiétudes quant à la croissance des outils d’IA générative, craignant qu’elle ne conduise à une prolifération de contenus convaincants mais trompeurs partagés sur les médias sociaux et sur Internet. Cette technologie pourrait représenter une menace particulière à l’approche des élections aux États-Unis et ailleurs en 2024.
YouTube rejoint ainsi d’autres plateformes en introduisant des règles visant à rendre plus transparent le contenu généré par l’IA. TikTok a ajouté un nouveau label pour les contenus générés par l’IA en début d’année, exigeant que les utilisateurs divulguent les contenus représentant des “scènes réalistes” créées ou éditées avec l’IA. De plus, Meta, la société mère de Facebook et Instagram, a récemment annoncé que les annonceurs politiques devront divulguer toute utilisation de l’IA dans leurs publicités.
La nouvelle politique de divulgation de YouTube intervient également après que la plateforme a lancé en septembre une série de nouveaux outils alimentés par l’IA pour aider les créateurs à produire des vidéos et à toucher un public plus large sur la plateforme. YouTube a introduit, par exemple, une fonctionnalité permettant aux créateurs d’ajouter des arrière-plans vidéo ou d’image générés par l’IA à des vidéos verticales, ainsi que des outils pour aider les créateurs à rédiger des plans pour leurs vidéos.
L’option d’ajouter une étiquette de divulgation générée par l’IA sera intégrée au processus de téléchargement de vidéos de YouTube et sera déployée progressivement au début de l’année prochaine, selon un porte-parole de la plateforme. Les étiquettes apparaîtront généralement dans les panneaux de description des vidéos ; cependant, pour “certains types de contenus sensibles”, les étiquettes seront placées de manière plus visible dans le lecteur vidéo. Le contenu créé avec les propres outils d’IA générative de YouTube sera également clairement identifié.
YouTube avertit que les utilisateurs qui ne respectent pas les nouvelles exigences seront tenus responsables. Les créateurs qui ne parviennent pas régulièrement à utiliser la nouvelle étiquette sur le contenu synthétique qui devrait être divulgué en vertu de la nouvelle politique peuvent faire face à des sanctions telles que le retrait du contenu ou la suspension du Programme Partenaires de YouTube, qui permet aux créateurs de monétiser leur contenu. La plateforme précise également que le contenu synthétique ou généré par l’IA en violation de ses directives communautaires sera soumis aux mêmes restrictions ou retraits que les autres vidéos.
Dans le cadre de l’annonce de mardi, YouTube a également déclaré qu’elle permettra désormais aux utilisateurs de demander le retrait de contenu généré par l’IA ou autrement manipulé qui simule une personne identifiable, y compris leur visage ou leur voix, dans le cadre de son processus de demande de confidentialité. Ce changement intervient dans un contexte de préoccupations concernant la multiplication d’images sexuelles générées par l’IA sans consentement et d’autres contenus manipulant les visages et les voix des personnes.
YouTube indique qu’elle examinera “divers facteurs”, tels que le caractère satirique du contenu ou la présence d’une personnalité publique, pour décider de donner suite à une demande de retrait d’un utilisateur.
Les partenaires musicaux de la plateforme pourront également demander le retrait de musique générée par l’IA imitant les voix spécifiques d’artistes.
