La famille d’un enfant grièvement blessé du Canada les pires fusillades de masse portent plainte OpenAIarguant que l’entreprise technologique aurait pu empêcher l’attaque contre une école le mois dernier.

Le procès intervient quelques jours après que le chef de OpenAI a déclaré qu’il présenterait ses excuses aux familles d’une ville canadienne isolée après que la violence ait détruit une communauté très unie.

Huit personnes – dont cinq élèvesâgé de 12 à 13 ans, et de 39 ans assistant d’enseignement – ont été tués par un tireur de 18 ans dans la ville montagneuse de Tumbler Ridge le 10 février.

Il est apparu plus tard que le tireur, Jesse Van Rootselaar, décédé des suites d’une blessure auto-infligée, avait décrit à ChatGPT des scénarios violents impliquant des armes à feu pendant plusieurs jours en juin, ce qu’un système d’examen automatisé a signalé, selon le Wall Street Journal.

Mais OpenAI, propriétaire du chatbot, a déclaré qu’il estimait que l’activité du compte n’identifiait pas une « planification crédible ou imminente » et a donc interdit le compte de Van Rootselaar, mais n’en a pas informé les autorités. Canada. La société a déclaré plus tard avoir trouvé un deuxième compte lié au tireur après la suspension du premier.

Lundi, Cia Edmonds a intenté une action en justice contre l’entreprise au nom d’elle-même et de ses deux filles, Maya et Dahlia Gebala, toutes deux présentes lors de la fusillade.

« Le but de ce procès est de découvrir toute la vérité sur comment et pourquoi la fusillade de masse de Tumbler Ridge a eu lieu, d’imposer des responsabilités, de demander réparation pour les préjudices et les pertes, et d’aider à prévenir une autre atrocité de fusillade de masse au Canada », a déclaré le cabinet d’avocats Rice Parsons Leoni & Elliott LLP, qui représente la famille, dans un communiqué.

Les allégations n’ont pas été testées devant les tribunaux.

Maya, 12 ans, a reçu trois balles. Une balle lui a pénétré la tête, au-dessus de son œil gauche, et une autre lui a touché le cou. Une troisième balle lui a effleuré la joue et une partie de son oreille, selon le procès.

Elle reste à l’hôpital après avoir subi un traumatisme crânien catastrophique, un handicap cognitif et physique permanent, une hémiplégie du côté droit, des cicatrices et des déformations physiques, selon la plainte.

Edmonds et sa fille Dahlia, qui n’a pas été blessée physiquement lors de la fusillade, ont souffert de SSPT, d’anxiété, de dépression et de troubles du sommeil.

La plainte civile d’Edmonds allègue que ChatGPT a été lancé rapidement sur le marché par OpenAI sans études de sécurité adéquates. La famille réclame des dommages-intérêts punitifs non divulgués, affirmant que la conduite de l’entreprise « est répréhensible et moralement répugnante » tant pour les plaignants que pour la « communauté dans son ensemble ».

La semaine dernière, le PDG d’OpenAI, Sam Altmana rencontré virtuellement le premier ministre de la Colombie-Britannique, David Eby, et Darryl Krakowka, le maire de Tumbler Ridge, dans un contexte de frustration croissante face au fait que les politiques existantes du géant de la technologie ne l’obligeaient pas à signaler les contenus violents à la police.

« Tous les participants à l’appel ont reconnu que des excuses sont loin d’être suffisantes, mais aussi qu’elles sont tout à fait nécessaires », a déclaré Eby. « Et le maire de Tumbler Ridge va travailler avec OpenAI pour s’assurer que toutes les déclarations publiques à ce sujet soient faites de la manière appropriée et significative, autant que possible », a-t-il ajouté. [and] ne traumatise pas à nouveau les membres de la communauté.

Invité à commenter le procès, un porte-parole de la société a qualifié la fusillade de « tragédie indescriptible » et a déclaré qu’Altman travaillerait avec Eby et Krakowka « pour trouver le meilleur moyen de transmettre ses excuses et son soutien à la communauté de Tumbler Ridge », mais n’a pas donné de calendrier.

« OpenAI reste déterminé à travailler avec les responsables provinciaux et locaux pour apporter des changements significatifs qui contribueront à prévenir de telles tragédies à l’avenir. »

La société n’a pas précisé si le procès modifierait les projets d’Altman de s’excuser.

« OpenAI a eu l’occasion d’informer les autorités et potentiellement même d’empêcher cette tragédie de se produire », a déclaré Eby aux journalistes après la rencontre avec Altman. Le premier ministre a déclaré que même si l’entreprise aurait pu faire plus, il a souligné le manque de soutien en matière de santé mentale et l’accès du tireur aux armes à feu.

Eby, qui a prononcé un discours émouvant à la communauté lors d’une veillée dans les jours qui ont suivi la fusillade, est devenu un fervent critique du cadre réglementaire largement inexistant régissant le fonctionnement des sociétés d’intelligence artificielle au Canada – et de la manière dont OpenAI a géré la situation.

« Il n’est pas acceptable que ce soit aux entreprises de décider si elles doivent ou non déclarer leurs déclarations, et cela doit changer. »

Eby a refusé de rencontrer des membres de l’équipe de direction de l’entreprise, exigeant plutôt qu’il parle directement avec Altman. Au cours de l’appel de 30 minutes, le Premier ministre a déclaré qu’il n’avait pas posé de questions sur les interactions entre le tireur et le chatbot d’OpenAI.

Déjà sous la pression des législateurs, l’entreprise a modifié sa manière de fonctionner pour mieux identifier les signaux d’alerte potentiels de violences graves. Le ministre canadien de l’IA, Evan Solomon, a déclaré qu’il avait demandé à l’entreprise d’appliquer les nouvelles normes de sécurité de manière rétroactive et d’examiner les cas signalés précédemment.

« Cela permettra de déterminer si d’autres incidents qui auraient été signalés aux forces de l’ordre en vertu des nouvelles normes de sécurité d’OpenAI ont été oubliés et de garantir qu’ils soient rapidement signalés à la GRC », a déclaré Solomon.

Alors qu’Eby a déclaré que la direction d’OpenAI avait été « sensible » aux préoccupations des gouvernements, il a averti que d’autres entreprises dotées de chatbots similaires n’avaient pas encore modifié leurs politiques.

« Le statu quo ne fonctionne pas, n’a pas fonctionné, et il présente la menace d’un nouvel échec », a déclaré Eby. « Il faut donc apporter des changements de toute urgence. »