Les familles de sept victimes d’une fusillade de masse dans une école secondaire en Colombie-Britannique poursuivent OpenAI et le PDG de l’entreprise pour négligence après avoir omis d’alerter les autorités des conversations troublantes du tireur avec ChatGPT.

Les poursuites, déposées mercredi devant un tribunal fédéral de San Francisco, allèguent que les intentions violentes du tireur, identifié comme Jesse Van Rootselaar, 18 ans, étaient bien connues d’OpenAI. Les employés de l’entreprise ont signalé le compte du tireur huit mois avant l’attaque et ont déterminé qu’il représentait « une menace crédible et spécifique de violence armée contre de vraies personnes », selon le procès.

Les familles allèguent que les employés ont exhorté Sam Altman, PDG d’OpenAI, et d’autres hauts dirigeants à informer les forces de l’ordre canadiennes huit mois avant l’attaque, mais l’entreprise a décidé de ne pas avertir les autorités et a plutôt désactivé le compte du tireur. Une grande partie de ces informations repose sur des témoignages que les employés de l’entreprise a déclaré au Wall Street Journal.

La décision de ne pas alerter les forces de l’ordre a conduit à la dévastation de la communauté rurale de Tumbler Ridge, selon la plainte, où le 10 février, le tireur a pris d’assaut l’école secondaire avec un fusil modifié et a ouvert le feu. Ils ont abattu la première personne qu’ils ont rencontrée dans une cage d’escalier et se sont rendus à la bibliothèque, où ils en ont tué cinq autres et en ont blessé 27 autres. Le tireur s’est ensuite suicidé.

Avant de se rendre à l’école, le tireur a tué leur mère et leur frère de 11 ans au domicile familial.

Les victimes de l’école sont âgées de 12 à 13 ans et comprennent un assistant pédagogique de 39 ans. L’une des survivantes, Maya Gebala, 12 ans, a reçu une balle dans la tête, le cou et la joue. Elle est aux soins intensifs de l’hôpital pour enfants de Vancouver depuis la fusillade et a subi quatre opérations au cerveau. Si elle survit, elle aura probablement un handicap permanent, ont indiqué ses avocats.

Les familles qui ont intenté les sept poursuites accusent OpenAI et Altman de négligence, de complicité dans une fusillade de masse, de mort injustifiée et de responsabilité du fait des produits. Leurs avocats affirment qu’il s’agit de la première vague de poursuites contre la société d’IA suite à la fusillade, et qu’environ deux douzaines d’autres affaires sont à venir.

Dans une déclaration au Guardian, OpenAI a déclaré : « Les événements de Tumbler Ridge sont une tragédie. Nous avons une politique de tolérance zéro pour l’utilisation de nos outils pour aider à commettre des violences. Comme nous l’avons partagé avec les responsables canadiens, nous avons déjà renforcé nos mesures de protection, notamment en améliorant la façon dont ChatGPT répond aux signes de détresse, en mettant les gens en contact avec un soutien local et des ressources de santé mentale, en renforçant la façon dont nous évaluons et intensifions les menaces potentielles de violence et en améliorant la détection des contrevenants répétés aux politiques. « 

Après que le Guardian l’ait contacté pour commenter, OpenAI a publié un nouveau billet de blog sur son « engagement en faveur de la sécurité » et sur la manière dont il « protège la sécurité de la communauté ».

L’attaque a été l’une des fusillades de masse les plus meurtrières de l’histoire du Canada. Par la suite, des questions tourbillonné dans la petite communauté sur la façon dont cela aurait pu arriver.

Le compte ChatGPT de Van Rootselaar a été interdit huit mois avant la fusillade, après que l’équipe de sécurité d’OpenAI l’a signalé pour conversations violentes, selon le procès. Cependant, le tireur a pu rapidement en créer un nouveau, affirme la poursuite.

Bien qu’OpenAI affirme que le tireur a créé un deuxième compte dont l’entreprise n’avait connaissance qu’après la fusillade, les poursuites indiquent que l’entreprise fournit aux utilisateurs des instructions sur la façon de revenir à ChatGPT s’ils sont désactivés, ce que le tireur a suivi.

« le incident que Sam et les dirigeants aient ignoré l’équipe de sécurité, puis que des enfants soient morts, des adultes soient morts, que la ville entière ait été ruinée, est assez proche de la définition du mal pour moi », a déclaré Jay Edelson, l’avocat principal représentant les plaignants de Tumbler Ridge.

Le procès allègue que le choix de dissimuler les interactions du tireur avec ChatGPT aux autorités canadiennes, puis de dire au public que le tireur s’est faufilé de nouveau sur la plateforme, a été fait dans l’intérêt de la « survie de l’entreprise » et pour protéger l’introduction en bourse de l’entreprise, qui a une valorisation attendue de 1 000 milliards de dollars et pourrait faire d’Altman l’une des personnes les plus riches au monde.

OpenAI a refusé de partager les journaux entre son chatbot et le jeu de tir Tumbler Ridge, a déclaré Edelson.

À la fin de la semaine dernière, Altman envoyé une lettre à la communauté de Tumbler Ridge pour s’excuser de ne pas avoir informé la police canadienne de ce qu’OpenAI savait concernant la menace potentielle du tireur.

« Même si je sais que les mots ne suffisent jamais, je crois que des excuses sont nécessaires pour reconnaître le préjudice et la perte irréversible que votre communauté a subis », a écrit Altman. «Je réaffirme l’engagement que j’ai pris auprès du maire et du premier ministre de trouver des moyens de prévenir de telles tragédies à l’avenir.»

David Eby, premier ministre de la Colombie-Britannique, posté la lettre aux médias sociaux avec le commentaire : « Les excuses sont nécessaires, et pourtant largement insuffisantes pour les ravages causés aux familles de Tumbler Ridge. »

Le 26 février, un peu plus de deux semaines après la fusillade, la vice-présidente de la politique mondiale d’OpenAI, Ann O’Leary, envoyé une lettre à Evan Solomon, ministre canadien de l’intelligence artificielle et de l’innovation numérique. O’Leary a écrit que, sur la base de ce que l’entreprise a vu lorsque le compte du tireur a été désactivé, elle n’a pas « identifié de planification crédible et imminente qui a atteint notre seuil pour soumettre l’affaire aux forces de l’ordre ». Cette décision est intervenue malgré les avertissements de l’équipe de sécurité d’OpenAI selon lesquels le compte aurait dû être signalé.

O’Leary a également expliqué les mesures que l’entreprise envisageait de prendre, telles que le renforcement de ses relations avec les forces de l’ordre canadiennes et le renforcement de son système pour détecter les utilisateurs qui sont bannis à plusieurs reprises de ChatGPT mais qui créent ensuite de nouveaux comptes.

Ces poursuites font partie d’une vague de poursuites contre des sociétés d’IA suite à des allégations selon lesquelles leurs chatbots exacerbent les crises de santé mentale et provoquent des actes de violence. En novembre, sept plaintes ont été déposées contre OpenAI, blâmer ChatGPT pour avoir agi en tant que « coach suicide ». Google a été poursuivi le mois dernier après que son chatbot Gemini aurait encouragé un homme de 36 ans à mettre en scène un « accident catastrophique » puis se suicide. Google a dit il s’efforce d’améliorer ses garanties et OpenAI a déclaré qu’il examinait les dossiers déposés dans le cadre du procès.

En Floride, le procureur général a récemment ouvert une enquête pénale dans OpenAI après avoir examiné les messages entre ChatGPT et un homme armé accusé d’avoir commis une fusillade de masse sur le campus de la Florida State University – la première enquête criminelle de ce type sur une entreprise technologique. Les avocats des familles de Tumbler Ridge estiment que leurs dossiers pourraient étayer une responsabilité pénale similaire à l’encontre de l’entreprise. La société a déclaré à NBC News elle n’est pas responsable de la fusillade et a répondu aux questions de l’État.

C’est un autre exemple du approche désormais courante d’utiliser des poursuites judiciaires pour détenir des entités telles que des fabricants d’armes et des revendeurs et le Gouvernement fédéral américain responsable de l’inaction présumée qui a entraîné des morts et des blessés par balle.

Les sept poursuites contre Tumbler Ridge sont déposées au nom de Gebala, de la famille de l’assistante pédagogique Shannda Aviugana-Durand et des familles de cinq des enfants décédés dans la fusillade à l’école. Ces victimes comprennent Zoey Benoit, Ticaria « Tiki » Lampert, Kylie Smith, Ezekiel Schofield et Abel Mwansa Jr. Les familles disent que la perte est insupportable.

Les parents de Mwansa, qui ont immigré Canada de Zambie il y a trois ans, disent que leur enfant de 12 ans savait écouter et préparait le petit-déjeuner de sa sœur tous les matins. L’un de ses amis qui a survécu à la fusillade a déclaré que les derniers mots de Mwansa avaient été : « Dites à mes parents que je les aime tellement. »