Il a mis la puissance de l’IA à son service. Un homme de 22 ans, originaire du nord de l’Inde et qui aspire à devenir chirurgien orthopédiste, a créé un faux profil sur Instagram, générant des milliers de dollars grâce aux interactions avec des hommes proches de la sphère américaine MAGA (pour « Make America Great Again », les partisant de Donald Trump).

Cet étudiant a raconté son histoire au magazine américain Wired, sous le pseudonyme Sam pour ne pas compromettre sa future carrière médicale… qu’il envisage aux États-Unis. C’est dans cette optique que lui est venue l’idée de faire naître « Emily Hart » grâce à l’IA Gemini.

Résultat : Emily Hart est une jeune femme conservatrice d’une vingtaine d’années, dont les traits sont inspirés par les actrices Jennifer Lawrence et Sydney Sweeney, qui aime la Bible, la pêche, la bière et les armes.

Au début, le profil ne prend pas sur Instagram, faisant peu de vues et suscitant peu d’interactions. C’est alors que Sam demande à Gemini comment son Emily Hart pourrait se démarquer face aux innombrables comptes de mannequins déjà existants. Le chatbot lui conseille alors d’investir le créneau « MAGA/conservateur », qui comprend beaucoup d’hommes âgés et « disposant souvent d’un revenu plus élevé ».

Des vidéos à 5 millions de vues

Et là, bingo. « Chaque jour, j’écrivais quelque chose en faveur du christianisme, du deuxième amendement, du “droit à la vie”, du mouvement woke et de l’immigration », explique Sam auprès de Wired. Et « chaque vidéo que je publiais atteignait 3 ou 5 millions de vues. Je n’ai jamais vu de moyen plus simple de gagner de l’argent en ligne », a-t-il constaté.

Son faux compte Instagram lui a permis d’engranger 10 000 abonnés en un mois. Il explique ensuite avoir utilisé Fanvue, une plateforme de monétisation par IA pour les créateurs. Avant de commencer à vendre des produits dérivés pour compléter ses revenus. Si Instagram a fait preuve de laxisme, les publications n’étant pas signalées comme étant générées par l’IA, le compte a fini par être suspendu pour activité frauduleuse.

« Les partisans de MAGA sont composés de gens extrêmement naïfs. Et ils se laissent avoir », estime le jeune homme, qui attribue le succès de son initiative par cette formule simple. Depuis, satisfait des gains obtenus, Sam s’est reconcentré sur ses études.

Dans cette histoire, on peut aussi s’interroger sur le rôle de Gemini, qui a clairement orienté l’étudiant vers ce projet de duperie généralisée. Dans un communiqué adressé au site américain The Daily Beast, un porte-parole de l’outil créé par Google a apporté cette réponse : « Gemini est conçu pour répondre à vos demandes sans véhiculer d’opinions particulières, et si son avis est sollicité, il doit proposer un éventail de points de vue. Dans les exemples fournis par “Wired”, Gemini a été interrogé sur la manière de toucher un public aux convictions politiques spécifiques, et a répondu en conséquence. »