Le directeur général d’OpenAI, Sam Altman, s’est excusé auprès d’une communauté canadienne pour ne pas avoir alerté la police des conversations d’un tireur de masse avec son chatbot.

Les autorités ont déclaré que Jesse Van Rootselaar, 18 ans, avait tué huit personnes, dont des écoliers, à Tumbler Ridge, en Colombie-Britannique, avant de se suicider en février.

« Je suis profondément désolé que nous n’ayons pas alerté les forces de l’ordre sur le compte qui a été interdit en juin », a déclaré Altman dans une lettre jeudi. « Même si je sais que les mots ne suffisent jamais, je crois que des excuses sont nécessaires pour reconnaître le préjudice et la perte irréversible que votre communauté a subis. »

Vendredi, le premier ministre de la Colombie-Britannique, David Eby, a publié la lettre sur les réseaux sociaux.

La lettre est arrivée après le Wall Street Journalcitant des personnes proches du dossier, a rapporté cette année que Van Rootselaar avait discuté avec ChatGPT de la violence armée, ce qui a incité les employés d’OpenAI à débattre de l’opportunité d’alerter les forces de l’ordre canadiennes.

OpenAI a interdit le compte de l’utilisateur mais a décidé de ne pas avertir la police après avoir examiné si l’activité serait considérée comme un risque imminent et grave de préjudice physique pour autrui.

Les entreprises technologiques ont fait l’objet d’une surveillance accrue à la suite de fusillades massives sur la manière dont les criminels utilisent leurs outils pour planifier des attaques ou diffuser des meurtres. Mais la montée en puissance des chatbots d’intelligence artificielle qui répondent rapidement aux questions et génèrent du contenu signifie également que les gens expriment leurs pensées les plus sombres en ligne. Les entreprises d’IA doivent désormais composer avec des débats sur l’équilibre entre la sécurité publique et la vie privée, tout en étant aux prises avec de nouvelles poursuites et enquêtes.

En mars, la famille d’une victime de la fusillade de Tumbler Ridge, hospitalisée, a poursuivi OpenAI, alléguant que l’entreprise savait que le tireur préparait une attaque de masse mais n’avait pas alerté les forces de l’ordre.

Dans un édition publié vendredi sur X, Eby a qualifié les excuses de « nécessaires, et pourtant largement insuffisantes pour les ravages causés aux familles de Tumbler Ridge ».

Dans la lettre, Altman a déclaré qu’il avait parlé de la fusillade au maire de Tumbler Ridge, Darryl Krakowka, et à Eby, et qu’ils étaient convenus de présenter des excuses publiques. Altman a déclaré qu’il était déterminé à trouver des moyens de prévenir de telles tragédies.

« À l’avenir, nous continuerons à nous concentrer sur la collaboration avec tous les niveaux de gouvernement pour garantir que quelque chose comme cela ne se reproduise plus », a déclaré Altman dans la lettre.

OpenAI est également aux prises avec des réactions négatives quant à savoir si elle en fait suffisamment pour protéger la sécurité publique aux États-Unis.

La semaine dernière, le procureur général de Floride a lancé une enquête criminelle sur ChatGPT et OpenAI pour déterminer si la société d’IA de San Francisco « porte la responsabilité pénale » des actions du chatbot lors d’une fusillade à l’université d’État de Floride l’année dernière qui a fait deux morts. Les procureurs avaient examiné les conversations entre le suspect, Phoenix Ikner, et ChatGPT.