ChatGPT doit-il prévenir la police quand il détecte un projet criminel? Après une fusillade au Canada où l’IA avait identifié un profil menaçant sans donner l’alerte, OpenAI est sous le feu des critiques. Entre protection de la vie privée et devoir de signalement, le débat sur la responsabilité de l’intelligence artificielle est plus que jamais ouvert.

OpenAI se retrouve au cœur d’une polémique après une fusillade au Canada. La plateforme ChatGPT avait identifié un profil menaçant avant le passage à l’acte sans pour autant alerter les autorités. Une affaire qui soulève une question vertigineuse: jusqu’où va la responsabilité des éditeurs d’intelligence artificielle quand leurs outils identifient des dangers potentiels?

Le précédent de Tumbler Ridge

C’est la première grande affaire criminelle de l’ère ChatGPT. En février dernier, une fusillade a fait neuf morts dans un lycée de Tumbler Ridge, au Canada. L’auteure, Jesse Van Rootselaar, utilisait régulièrement l’outil. Son compte ChatGPT avait été suspendu avant le drame, l’activité ayant été jugée préoccupante, sans que la teneur exacte des échanges ne soit dévoilée.

Il pourrait s’agir de discussions sur des armes, de scénarios d’attaques ou de propos menaçants. C’est ce point précis qui est au cœur des reproches faits à OpenAI: l’entreprise n’a pas jugé utile de prévenir la police.

Sam Altman présente ses excuses

Ce week-end, le fondateur de ChatGPT, Sam Altman, s’est excusé publiquement. « Je suis profondément désolé » que l’entreprise n’ait pas fait de signalement, a-t-il déclaré, ajoutant que « les mots ne suffiront jamais » pour reconnaître le préjudice et la perte irréversible subis par la communauté.

Une prise de parole qui intervient dans un contexte judiciaire tendu. La famille d’une jeune fille blessée lors de la fusillade a porté plainte contre l’entreprise. Par ailleurs, aux États-Unis, le procureur de Floride a annoncé une enquête criminelle sur OpenAI pour déterminer le rôle que ChatGPT a pu jouer dans une autre attaque ayant fait deux morts en 2025.

Vers une IA « détecteur de dangerosité »?

Cette affaire pose une question complexe: faut-il transformer les IA en détecteurs de dangerosité humaine? Utilisé comme confident, ami, voire psy, ChatGPT accède à la face la plus sombre de ses utilisateurs, voyant ce que la famille, les amis ou l’école ignorent.

Si un utilisateur tape « comment fabriquer une arme », « comment cacher un cadavre » ou annonce une attaque imminente, quelle doit être la marche à suivre pour l’IA? Faut-il simplement refuser de répondre, bloquer le compte, ou prévenir les forces de l’ordre? La question se pose désormais pour tous les cas de figure: suicides, violences conjugales, radicalisation.

Le défi de la frontière

Le sujet est particulièrement épineux. D’un côté, la protection du secret des conversations; de l’autre, la sécurité. Transformer l’IA en outil de surveillance de masse comporte des risques majeurs de « faux positifs ». Comment distinguer une menace réelle de l’humour noir, d’un scénario de roman écrit par un auteur, ou d’une enquête journalistique? Entre une IA qui ne signale jamais rien et une IA qui dénonce tout, le vrai défi pour le secteur sera de trouver la bonne frontière.