Il y a plus d’une décennie, Méta – alors connu sous le nom de Facebook – a embauché des chercheurs en sciences sociales pour analyser la manière dont les services du réseau social affectaient les utilisateurs. C’était une façon pour l’entreprise et ses pairs de montrer qu’ils souhaitaient sérieusement comprendre les avantages et les risques potentiels de leurs innovations.

Mais comme Meta pertes judiciaires Comme le montre cette semaine, le travail des chercheurs peut devenir un handicap. Brian Boland, un ancien cadre de Facebook qui a témoigné dans les deux procès – l’un au Nouveau-Mexique et l’autre à Los Angeles – affirme que les conclusions accablantes des recherches et des documents internes de Meta semblaient contredire la façon dont l’entreprise se présentait publiquement. Les jurys des deux procès ont déterminé que Meta n’avait pas correctement surveillé son site, mettant ainsi les enfants en danger.

celui de Mark Zuckerberg L’entreprise a commencé à sévir contre ses équipes de recherche il y a quelques années après qu’un chercheur de Facebook, Frances Haugenest devenu un lanceur d’alerte de premier plan. Les nouvelles entreprises technologiques, comme OpenAI et Anthropic, ont ensuite investi massivement dans les chercheurs et les ont chargés d’étudier l’impact de l’IA moderne sur les utilisateurs et de publier leurs résultats.

Alors que l’IA attire désormais une attention démesurée pour le effets nocifs que cela affecte certains utilisateurs, ces entreprises doivent se demander si c’est dans leur intérêt de continuer à financer la recherche ou de la supprimer.

« Il fut un temps où des équipes étaient créées en interne pour commencer à examiner les choses et, pendant une brève période, vous aviez des chercheurs absolument exceptionnels qui examinaient ce qui se passait sur ces produits avec un peu plus de liberté que je crois qu’ils en ont aujourd’hui », a déclaré Boland dans une interview.

Les deux défaites de Meta cette semaine étaient centrées sur des cas différents, mais elles avaient un thème commun : l’entreprise n’a pas partagé avec le grand public ce qu’elle savait des méfaits de ses produits.

Les membres du jury ont dû évaluer des millions de documents d’entreprise, notamment des courriels de dirigeants, des présentations et des recherches internes menées par le personnel de Meta. Les documents comprenaient des enquêtes internes semblant montrer un pourcentage préoccupant de utilisateurs adolescents recevoir des avances sexuelles non désirées sur Instagram. Il y a également eu des recherches, que Meta a finalement interrompues, laissant entendre que les personnes qui limitaient leur utilisation de Facebook devenaient moins déprimé et anxieux.

Les avocats des plaignants dans ces affaires ne se sont pas appuyés uniquement sur des recherches internes pour faire valoir leurs arguments, mais ces études ont contribué à renforcer leurs positions sur la culpabilité présumée de Meta. Les équipes de défense de Meta ont fait valoir que certaines recherches étaient anciennes, sorties de leur contexte et trompeuses, présentant une vision erronée du fonctionnement de l’entreprise et de sa vision de la sécurité.

Méta et Google YouTube, qui était également accusé dans le procès de Los Angeles, a déclaré qu’il ferait appel.

Lisa Strohman, psychologue et avocate qui a été consultante experte interne pour le procès du Nouveau-Mexique, a déclaré que les dirigeants de Meta et de l’ensemble de l’industrie technologique auraient peut-être pensé qu’ils pourraient utiliser la recherche interne à leur avantage pour gagner les faveurs du public.

« Je pense que ce qu’ils n’ont pas reconnu, c’est que les chercheurs sont des parents et des membres de la famille », a déclaré Strohman. « Et je pense que ce qu’ils n’ont pas réalisé, c’est que ces gens n’allaient pas être achetés. »

Quelle que soit la victoire en matière de relations publiques à laquelle les dirigeants s’attendaient, elle s’est retournée contre eux lorsque la recherche a commencé à être diffusée auprès du public. L’incident le plus dommageable pour Meta s’est produit en 2021, lorsque Haugen, un ancien chef de produit Facebook devenu lanceur d’alerte, a divulgué une mine de documents ce qui suggère que l’entreprise était consciente des dangers potentiels de ses produits.

« Les révélations de Haugen ont constitué un tournant important à l’échelle mondiale, non seulement pour les entreprises elles-mêmes, mais aussi pour les chercheurs, les décideurs politiques et le grand public », a déclaré Kate Blocker, directrice de la recherche et du programme à l’association à but non lucratif Children and Screens: Institute of Digital Media and Child Development.

Les fuites ont également conduit à des changements majeurs chez Meta et dans l’industrie technologique, qui ont commencé à éliminer les recherches qui pourraient être considérées comme contre-productives pour les entreprises. De nombreuses équipes étudiant les préjudices présumés et les problèmes connexes ont été supprimées, CNBC avait précédemment signalé.

Certaines entreprises ont également commencé suppression certains outils et fonctionnalités de leurs services que des chercheurs tiers ont utilisés pour étudier leurs plateformes.

« Les entreprises peuvent désormais considérer la recherche en cours comme un handicap, mais la recherche indépendante et tierce doit continuer à être soutenue », a déclaré Blocker.

La plupart des recherches internes utilisées lors des procès de cette semaine ne contenaient pas de nouvelles révélations, et de nombreux documents avaient déjà été publiés. libéré par d’autres lanceurs d’alerte, a déclaré Sacha Haworth, directeur exécutif du Tech Oversight Project. Ce que les essais ont ajouté, a déclaré Haworth, ce sont « les mêmes courriels, les mêmes mots, les mêmes captures d’écran, les présentations marketing internes, les mémos » qui offraient le contexte nécessaire.

Alors que l’industrie technologique se lance désormais de manière agressive dans l’IA, des entreprises comme Meta, OpenAI et Google ont été prioriser les produits sur la recherche et la sécurité. C’est une tendance qui préoccupe Blocker, qui a déclaré que « tout comme avec les médias sociaux avant eux, la visibilité publique sur ce que les entreprises d’IA étudient sur leurs produits est limitée ».

« Les sociétés d’IA semblent principalement étudier les modèles eux-mêmes – comportement des modèles, interprétabilité et alignement des modèles – mais il existe des lacunes importantes dans la recherche concernant l’impact des chatbots et des assistants numériques sur le progrès de l’enfant », a déclaré Blocker. « Les entreprises d’IA ont une chance de ne pas répéter les erreurs du passé. Nous devons de toute urgence établir des systèmes de transparence et d’accès qui partagent avec le public ce que ces entreprises savent de leurs plateformes et soutiennent une évaluation indépendante plus poussée. »

MONTRE: La pression réglementaire suivra après le verdict historique sur les réseaux sociaux.