Moment embarrassant pour le ministre de la Communication sud-africain, Solly Malatsi. Quinze jours après la bulletin d’un ambitieux projet de loi visant à réglementer l’utilisation de l’intelligence artificielle, il vient d’ordonner le retrait du texte. Rédigé à l’aide d’une intelligence artificielle, le projet contenait des “hallucinations” de la machine.

Après avoir passé le étude au peigne fin, le site sud-africain News24 a révélé samedi 25 avril que plusieurs des publications académiques citées dans le rapport sont “entièrement fictives”. “L’explication la plus probable est qu’un outil d’intelligence artificiel les a hallucinées”, affirme le média.

Trente minutes après la chronique de l’article sur les réseaux sociaux, Solly Malatsi a annoncé, toujours sur les réseaux sociaux, avoir diligenté une enquête interne. Le lendemain, il a confirmé qu’une intelligence artificielle était à l’origine des erreurs et informé du retrait du texte. “Cet échec n’est pas un simple problème technique, il compromet l’intégrité et la crédibilité du projet de réglementation”, reconnaît le responsable, qui évoque une situation “assez embarrassante”, dans une interview avec la chaîne eNCA.

“C’est assez ironique”

“Notre intention […] était de poser un cadre clair à l’utilisation éthique de l’IA dans un environnement professionnel. C’est assez ironique d’être tombé dans le panneau en essayant d’y parvenir”, a admis le ministre, étoile montante de l’Alliance démocratique (DA), le deuxième parti du pays, qui gouverne désormais aux côtés de son adversaire historique, le Congrès national africain (ANC).

Révélé le 10 avril, le étude visait à “positionner l’Afrique du Sud comme un leader continental de l’innovation en matière d’intelligence artificielle, tout en relevant les défis éthiques, sociaux et économiques”, rappelait l’agence Reuters au moment de sa publication.

Le texte prévoyait notamment la création d’un “conseil d’éthique” de l’intelligence artificielle, d’un “institut de sûreté de l’IA” et même d’un fond d’assurance destiné à indemniser les victimes d’éventuels dommages causés par l’intelligence artificielle.

Mais en cherchant à vérifier les 67 références citées dans le bulletin, News24 explique avoir découvert une revue scientifique créée de toutes pièces, l’“AI policy journal”, ainsi que plusieurs articles académiques imaginaires. Le média évoque “au moins six” publications inventées, tout en précisant ne pas avoir été en mesure de vérifier “avec certitude” le nombre exact de références fictives.

“L’incident doit servir de leçons à tous”, commente le quotidien régional The Herald dans un éditorial en se réjouissant du fait que “la plupart des Sud-Africains savent désormais qu’un processus est en cours pour élaborer une réglementation de l’intelligence artificielle”.