Une étude menée au Royaume-Uni a mis en lumière une vaste campagne de désinformation en amont des élections parlementaires dans certaines régions du pays qui se sont tenues le 7 mai dernier.

A l’initiative du groupe de réflexion Demos, qui se veut transpartisans, une étude menée au Royaume-Uni a découvert que plusieurs modèles d’intelligence artificielle avaient fait preuve d’hallucinations en pleine période électorale en Ecosse et au Pays de Galle. Une énième preuve que les chatbots IA manquent de régulation, a estimé en réponse la Commission électorale anglaise.

L’étude, titrée « Hallucinations électorales: protéger les élections britanniques à l’ère des LLM et des chatbots d’IA » et révélée par le Guardian, explique que 34% des réponses données à 75 questions déterminées à l’avance étaient en fait de la désinformation. Cinq outils IA ont été mis à l’épreuve, dont ChatGPT, Gemini, Grok et Replika, auprès de trois groupes de personnes qui ont ensuite vérifié la précision des réponses et leur base argumentaire.

ChatGPT à l’ouest, Grok bon élève

Les résultats sont sans appel: dans l’étude, on découvre que les chatbots ont imaginé des scandales politiques, n’ont pas donné les bonnes dates pour les élections, ont aussi indiqué qu’une pièce d’identité était nécessaire pour voter – ce qui n’est pas le cas pour certaines élections locales en Ecosse et au Pays de Galles, justement – et ont même listé des candidats dans de mauvais scrutins ou des partis incohérents.

Dans le détail, c’est ChatGPT qui a fait le pire score, atteignant 46% de mauvaises réponses avec de mauvaises dates et des fausses indications sur les règles d’éligibilité, contre 22% pour Gemini, qui a de son côté buté sur le programme de certains candidats, indiquant aussi qu’une enquête imaginaire était en cours contre le Parti national écossais. Grok est le « bon » élève, avec 9% de mauvaises réponses, mais avec des sources externes de mauvaise qualité.

C’est d’ailleurs à cette occasion que Demos a constaté que dans près de la moitié des réponses, les chatbots ne s’appuyaient pas sur des sources officielles ou même externes pour étayer leurs réponses. ChatGPT avait par exemple tendance à envoyer des liens corrompus ou très anciens (d’au moins un an).

Une « priorité absolue » pour le gouvernement

L’affaire pourrait prêter à sourire si un sondage, associé au rapport de Demos, n’indiquait qu’aux dernières élections 20% des électeurs avaient fait appel à l’IA pour faire leur choix.

« Les électeurs veulent des informations exactes pour les aider à participer à la démocratie, et il est préoccupant que les outils d’IA aient rendu la diffusion d’informations fausses ou trompeuses nettement plus rapide et plus accessible que jamais », déclarait Vijay Rangarajan, directeur de la Commission électorale britannique, au Guardian. « Le cadre juridique actuel devrait aller plus loin », concluait-il.

L’Ofcom, le régulateur du secteur, pourrait ainsi prendre des sanctions en cas de manquement.

Un porte-parole du ministère de la Science, de l’Innovation et des Technologies, a indiqué que la défense des scrutins était « une priorité absolue » et que le travail était « en cours » au sein du gouvernement. Celui-ci cherche actuellement à combler les lacunes de sa loi sur la sécurité en ligne, notamment pour y intégrer la notion de sécurité des utilisateurs de chatbot face aux contenus jugés illégaux.

Interrogé sur ces problèmes, Replika, qui permet de se faire des « amis IA », a expliqué que son chatbot n’était pas fait pour vérifier des faits et qu’il fallait le voir comme un moyen de « réfléchir et de s’exprimer » plutôt que comme une source d’information. OpenAi n’a de son côté pas commenté les conclusions du rapport.