Si Musk contre Altman n’avait été qu’une simple affaire de vanité blessée, cela aurait pu ressembler à une farce divertissante. C’était plutôt une parodie. Les questions sous-jacentes – comment l’IA doit être gouvernée, par qui et comment – ​​sont d’une grande importance. Mais dans ce procès, s’opposer à Tweedledum revenait en réalité à s’en prendre à Tweedledee. C’était une situation sans issue.

Le coussin pour fesses aurait pu commencer comme un symbole de la frivolité du procès, mais il est vite devenu clair qu’il était aussi une métaphore puissante des échecs collectifs qui nous ont amenés ici. Il était difficile, assis sur les bancs inflexibles, de ne pas se sentir personnellement impliqué. C’étaient les dirigeants qui avaient été assignés d’une manière ou d’une autre à notre société. Mike Isaac, un spécialiste technique chevronné pour le Foisn’avait pas honte d’admettre que Brockman l’avait inspiré à se procurer son propre oreiller pour les fesses. Isaac, un homme magnanime qui ressemble à l’acteur Wilford Brimley présenté comme membre du groupe hardcore Minor Threat, a proposé de partager le coussin, mais il m’a semblé plus approprié de m’asseoir sur les quais en tant que pénitent. La salle d’audience s’est rapidement remplie en prévision de Sam Altman, qui devait comparaître à la barre ce jour-là sous serment. Le PDG d’OpenAI est connu depuis longtemps pour son côté enfantin, mais ces dernières années ont grossi ses traits et givré ses cheveux hérissés avec des pointes grises. Il ressemblait à un chanteur moindre de ‘N Sync lors d’une tournée de retrouvailles. Sa présence dans la salle d’audience avait l’air triste de quelqu’un qui n’était plus qualifié de précoce.

La question fondamentale de l’affaire, qui est également la question fondamentale de la carrière d’Altman, est de savoir si la transformation d’OpenAI d’une organisation à but non lucratif soucieuse de la sécurité en une entreprise géante vorace était cynique dans son intention ou simplement dans son résultat. Récemment, mon New-Yorkais Son collègue Andrew Marantz est apparu sur un podcast pour discuter des manières alternatives de modéliser son comportement : la « vue d’échecs en 3D toujours un plan directeur » et la « vue d’improvisation des dames tout au long ». Il y a eu une part de trollerie astucieuse dans la décision d’Altman d’embaucher comme avocat principal l’avocat William Savitt, qui avait auparavant forcé Musk à donner suite à son impulsion de acheter Twitter. Au fil des heures de questions directes, Savitt a obtenu de son client aux sourcils froncés un récit de défense combinant les éléments les plus flatteurs de chaque version de l’histoire. La partie du projet qui impliquait la création de ce qu’il a qualifié de « l’une des plus grandes organisations caritatives au monde » – la société mère à but non lucratif, en raison de sa participation au capital de la filiale à but lucratif, possède des actifs évalués à plus de deux cents milliards de dollars – était le résultat de ce qu’Altman a appelé à plusieurs reprises « un travail acharné » ou « un travail incroyable ». Mais la partie du projet qui impliquait la création de l’une des sociétés à but lucratif les plus grandes et les plus puissantes au monde était improvisée – le résultat d’une « ouverture aux structures créatives ». Altman a déclaré : « Cela semble un peu idiot à dire maintenant, mais à l’époque, nous n’avons presque pas lancé cet effort parce que nous pensions que Google était si loin en avance qu’il serait sans espoir de rivaliser. »

La décision de créer une entité à but lucratif était une question de faits sur le terrain : l’avenir de l’humanité exigeait qu’OpenAI l’emporte dans une bataille existentielle contre Google ; cette bataille ne pourrait être menée sans accès à d’énormes réserves de capitaux ; il était impossible de courtiser les investisseurs sans promesse de rendement. Sur ces trois points, toutes les personnes impliquées étaient d’accord : une petite organisation caritative financée par des donateurs prendrait un boulier dans une bataille de centres de données. Il n’a été reconnu qu’en passant que l’introduction d’un motif fiduciaire pouvait créer des incitations perverses, et même alors, les inquiétudes concernaient principalement l’optique. Comme l’a écrit l’un des conseillers de Musk dans un e-mail : « Je suis un grand fan du capitalisme et je gagne beaucoup d’argent en faisant de grandes choses, mais je ne suis pas sûr que cela corresponde au récit de la « noble cause de l’humanité, ne pas le faire pour gagner de l’argent ». Ce qui séparait Musk et ses lieutenants, d’un côté, d’Altman, Brockman et du scientifique en chef d’OpenAI, Ilya Sutskever, de l’autre, était la question non résolue de savoir quel homme spécial devait porter le pantalon. En septembre 2017, Musk a envoyé un e-mail à Sutskever et Brockman pour décrire un scénario dans lequel il « aurait sans équivoque le contrôle initial de l’entreprise ». Il a insisté sur le donnée qu’il n’avait aucun intérêt à conserver un pouvoir unilatéral sur le destin de l’espèce. À un moment indéterminé, a-t-il poursuivi, l’autorité qui lui a été confiée serait transférée à un conseil d’administration élargi : « L’objectif approximatif serait d’arriver à un conseil d’administration de 12 personnes (probablement plutôt 16 si ce conseil finit réellement par décider du sort du monde). »