Grâce à l’intelligence artificielle, il est désormais possible de faire dire ou faire faire presque n’importe quoi à une personnalité publique. Face à la multiplication de ces deepfakes, Youtube étend son outil de « détection de ressemblance » aux journalistes, responsables publics et candidats politiques.

Quel est le point commun entre la journaliste Anne-Claire Coudray, le youtubeur Cyprien et le président Emmanuel Macron? Leur visage a été détourné et utilisé dans des « deepfakes », ces vidéos hyperréalistes générées par IA qui usurpent l’identité des utilisateurs.

Fausses publicités pour des NFT, vidéos de désinformation en plein coeur des municipales, arnaques… Depuis plusieurs mois, ces vidéos inondent les réseaux sociaux, et Youtube ne fait pas exception. Récemment, Claire Marais-Beuil, candidate à l’élection municipale de Beauvais et députée RN, a par exemple eu la très mauvaise surprise de découvrir une vidéo d’elle… en train de réaliser un strip-tease. Bien conscient du problème, le réseau social a décidé de prendre les devants.

Mieux contrôler leur image

En octobre dernier, la plateforme de Google a déployé un nouvel outil de « détection de ressemblance ». L’objectif? Permettre aux créateurs de contenus de mieux contrôler leur image et d’éviter que des vidéos générées par IA utilisent leur visage ou leur voix sans leur consentement.

Depuis ce mardi 10 mars, Youtube étend ce service aux politiques et aux journalistes. « Aujourd’hui, nous étendons ce service à un groupe pilote composé de responsables gouvernementaux, de journalistes et de candidats politiques », déclare l’entreprise dans un billet de blog. Une fonction plus qu’utile pour lutter contre la désinformation en ligne, et ce, à un an des élections présidentielles de 2027.

Dans le détail, cette nouvelle fonction suit le même processus que Content ID, qui fait la chasse aux contenus dupliqués sans autorisation alors qu’ils sont protégés par le droit d’auteur. Cette fois-ci, ce sont les voix et les visages qui sont concernés. L’outil analyse les ressemblances entre les journalistes ou candidats politiques membres du programme dans le flot de contenu généré par IA mis en ligne sur la plateforme.

Ainsi, si une correspondance est trouvée, la personne concernée est directement alertée par Youtube. Libre ensuite à elle de demander à l’entreprise de retirer ce contenu. Il sera également possible de l’archiver tout simplement, pour ne pas donner suite, par exempe s’il s’agit d’une erreur du système.

Mais attention, détection ne rime pas forcément avec suppression. Le compte qui a mis en ligne la vidéo est notifié et peut la modifier, la retirer ou ne rien faire. Dans ce cas, les équipes de Youtube sont sollicitées pour juger de la pertinence du retrait. A chaque étape, le demandeur sera informé de l’évolution de sa requête.

« La détection ne garantit pas la suppression »

« Bien que cet outil offre un moyen puissant de gérer l’usurpation d’identité non autorisée par l’IA, la détection ne garantit pas la suppression. Youtube protège depuis longtemps la liberté d’expression et les contenus d’intérêt public, y compris les parodies et les satires, même lorsqu’ils sont utilisés pour critiquer des dirigeants mondiaux ou des personnalités influentes », insiste la plateforme dans son billet de blog.

Pour participer au programme, et évidemment éviter les abus, journalistes, membres du gouvernement et candidats devront d’abord s’identifier avec une pièce d’identité. « Les données fournies lors de la configuration sont strictement utilisées à des fins de vérification d’identité et pour alimenter cette fonctionnalité de sécurité, et ne sont pas utilisées pour entraîner les modèles d’IA générative de Google », assure Youtube.

Contrairement aux créateurs de contenus, les politiques et les journalistes n’ont pas besoin d’avoir un compte créateur pour bénéficier de l’outil. C’est Youtube qui se charge directement de contacter de manière proactive les potentiels membres du programme.

Pour le moment, Youtube déploie cette nouvelle fonction par étapes. « Nous commençons par ce groupe afin de nous assurer que l’outil répond à leurs besoins spécifiques, et nous prévoyons d’élargir considérablement son accès au cours des prochains mois », assure l’entreprise.

D’autant que les journalistes, les politiques et les youtubeurs sont loin d’être les seuls concernés par les deepfakes. Les acteurs et autres personnalités publiques le sont aussi. Dix jours après son décès, en août 2024, des escrocs ont par exemple exploité l’image d’Alain Delon pour tenter d’arnaquer les internautes, en les incitant à jouer à un prétendu casino en ligne. Elon Musk, Tom Cruise et Leonardo DiCaprio ont également fait leur apparition dans des publicités sans qu’ils aient donné leur accord. Et à l’ère de l’IA générative, la prochaine victime des deepfakes pourrait tout simplement être… vous.