Le PDG d’OpenAI, Sam Altman, a présenté ses excuses à la ville de Tumbler Ridge, au Canada, où s’est déroulée en février une tuerie dont l’auteure avait écrit d’inquiétants messages sur ChatGPT. Dans une lettre datée de jeudi et publiée vendredi par le média d’information local Tumbler RidgeLines, Sam Altman a assuré que «personne ne devrait jamais avoir à subir une tragédie comme celle-ci».

Le compte de Jesse Van Rootselaar, 18 ans, avait été suspendu car son activité suscitait des inquiétudes quant à une utilisation de ChatGPT à des fins violentes, mais OpenAI a déclaré ne pas avoir informé la police car rien ne laissait présager un passage à l’acte imminent.

Passer la publicité

La suspension est intervenue huit mois avant que cette femme transgenre ne tue sa mère et son demi-frère, avant d’abattre cinq enfants et une éducatrice dans son ancien établissement scolaire, puis de se donner la mort.

«Les mots ne suffiront jamais»

Sam Altman s’est dit «profondément désolé» que son entreprise n’ait pas signalé à la police les échanges de Jesse Van Rootselaar avec ChatGPT. «Même si je sais que les mots ne suffiront jamais, je pense qu’il est nécessaire de présenter des excuses pour reconnaître le préjudice et la perte irréversible que votre communauté a subis», a-t-il écrit dans sa lettre adressée à la communauté de Tumbler Ridge.

OpenAI a été lourdement critiqué pour le rôle de sa plateforme dans cette affaire, et ses dirigeants ont été convoqués à Ottawa pour détailler leurs protocoles de sécurité.

En mars, la famille d’une jeune fille gravement blessée lors de la tuerie a porté plainte contre l’entreprise.