Face à la prolifération des faux profils dopés à l’IA, Tinder s’associe au projet World de Sam Altman pour déployer une technologie de vérification par scan d’iris. Cette « preuve d’humanité » repose sur la collecte de données biométriques sensibles. Un partenariat qui inquiète et ravive les critiques autour de la technologie.

Dans la grande loterie des profils Tinder, il y a les matchs improbables, les conversations qui meurent en trois messages… et désormais, peut-être, les humains certifiés par scan d’iris. Oui, vous avez bien lu.

Comme le rapporte Futurism, Tinder s’est associé au projet World, porté par Sam Altman, pour proposer à ses utilisateurs de vérifier leur identité grâce à un système biométrique. Le principe? Faire scanner ses globes oculaires par Orb, une sphère métallique, afin d’obtenir un identifiant numérique unique.

« Preuve d’humanité »

Derrière cette idée aux accents de science-fiction se cache une réalité bien connue des utilisateurs: la prolifération des faux profils sur les sites de rencontre. Bots, arnaqueurs sentimentaux, comptes automatisés… La plateforme est devenue un terrain de chasse pour les escroqueries. Selon plusieurs témoignages recueillis par la BBC, jusqu’à un tiers des profils pourraient être frauduleux.

Victoria Brooks, une utilisatrice de Tinder assure au média que 30% des profils qu’elle a rencontrés étaient des « arnaqueurs sentimentaux utilisant l’IA, la manipulation émotionnelle et des algorithmes optimisés ». Ces comptes automatisés emploient non seulement de fausses photos de profil, mais aussi des scripts générés par l’IA pour dialoguer avec de vrais utilisateurs.

Le hic, c’est que ces faux profils sont de plus en plus difficiles à repérer. Les outils d’intelligence artificielle, capables d’imiter visages, voix et styles de conversation, rendent aujourd’hui ces impostures plus crédibles que jamais. Résultat, les arnaques sentimentales ont fait perdre plus d’un milliard de dollars (855 millions d’euros) aux Américains l’an dernier, selon la Federal Trade Commission.

Sam Altman a d’ailleurs prévenu. « Il y aura bientôt plus de contenu créé par l’IA que par les humains en ligne », a-t-il assuré lors d’un situation marquant en direct à San Francisco, vendredi 24 mars. Car on le sait bien, diffuser un poison à grande échelle et vendre son antidote rime avec succès assuré. Alors pourquoi ne pas confier ses yeux à l’entreprise World, soupçonnée de violations de la vie privée, et se démarquer parmi la multitude de profils suspects?

Comment ça marche?

Le système repose sur une technologie développée par la start-up Tools for Humanity, une start-up cofondée par Sam Altman. Après un scan de l’iris via une borne physique ou une application, l’utilisateur reçoit un « World ID », un code biométrique unique et chiffré.

L’idée est ensuite de stocker cette « preuve d’humanité » dans une application mobile et de l’utiliser comme preuve d’humanité auprès de services tiers, sans avoir à révéler son identité civile. Le badge peut par exemple être affiché sur son profil Tinder, mais aussi sur d’autres services comme Zoom, également partenaire du projet. L’entreprise espère ainsi rassurer les utilisateurs et limiter les manipulations, notamment les deepfakes.

Pour inciter à franchir le pas, Tinder offre même une récompense. Après avoir fait vérifié son profil, l’utilisateur reçoit cinq boosts gratuits, comme l’explique Tinder sur son site. De quoi permettre d’augmenter temporairement la visibilité de son profil dans une zone géographique donnée. D’ordinaire, ces boosts coûtent 10 dollars.

Mais cette quête d’authenticité a un prix: la vie privée. La technologie repose sur le scan de l’iris, considéré comme encore plus unique qu’une empreinte digitale, et la numérisation de ces informations biométriques. Pas sûre que vos données personnelles ne valent que 50 dollars…

Officiellement, le World ID est anonyme et stocké localement. Dans les faits, le modèle suscite une forte méfiance. Certains y voient les prémices d’un système de tri entre humains « certifiés » et humains « suspects », basé sur un registre global d’identité biométrique. D’autres redoutent un Internet à deux vitesses, où certains services deviendraient plus accessibles à ceux acceptant de se faire scanner.

Une technologie très critiquée

Il faut dire que le projet, lancé initialement sous le nom de Worldcoin, traîne une réputation sulfureuse. En échange de scans oculaires, l’entreprise distribuait autrefois une cryptomonnaie, le WLD.

Des enquêtes, notamment du MIT Technology Review, ont dénoncé des pratiques jugées trompeuses pour inciter les gens à se soumettre à ses scans d’iris. L’entreprise ciblait notamment des populations vulnérables dans des pays en développement en leur proposant quelques dizaines de dollars en tokens. Le média évoque ainsi un « techno-colonialisme biométrique », une pratique qui consiste à collecter des données sensibles à bas coût dans les pays du Sud pour alimenter une infrastructure technologique contrôlée ailleurs.

Plusieurs autorités ont réagi. Au sein de l’UE, l’entreprise a reçu l’ordre de supprimer toutes les données de scan d’iris collectées auprès des résidents. Le gouvernement kényan a suspendu les activités de Worldcoin en 2023, tandis que l’autorité britannique de protection des données a annoncé l’ouverture d’une enquête sur ses pratiques. Résultat, la cryptomonnaie WLD, lancée à 7,50 dollars, ne vaut plus aujourd’hui qu’une poignée de centimes.

World tente aujourd’hui de faire oublier cette image sulfureuse en s’alliant avec des acteurs majeurs du numérique. Tinder, Zoom et DocuSign constituent une première vague de partenaires censés intégrer cette « preuve d’humanité » dans des usages quotidiens. Pour le moment, le partenariat avec Tinder n’est pas prévu pour l’Union européenne.

Pour Match Group, maison mère de Tinder, ce partenariat s’inscrit dans une logique de sécurisation de la plateforme. L’entreprise avait déjà introduit la vérification par selfie vidéo en 2018. Mais s’associer à une technologie aussi controversée n’est pas sans danger. Si World revendique déjà 18 millions d’utilisateurs vérifiés, la start-up peine encore à convaincre à grande échelle. Dans l’économie de l’attention, la preuve d’humanité devient une monnaie comme une autre. Et sur Tinder, elle pourrait bientôt valoir bien plus qu’un simple swipe à droite.