La lanceuse d’alerte de Facebook Frances Haugen s’exprime sur la réforme des médias sociaux

Frances Haugen, l’ancienne chef de produit Meta Platforms (alors Facebook) dont Fuites sur la façon dont les plateformes de l’entreprise amplifient la haine et répandent la désinformation a secoué le géant de la technologie, a pris la parole lors de la conférence South by Southwest (SXSW) sur la réforme des médias sociaux.

Haugen a rejoint Facebook en 2019 après des passages chez Google et Pinterest. Il y a dix ans, Haugen a reçu un diagnostic de maladie cœliaque, une maladie auto-immune à long terme. En 2014, elle a été forcée d’entrer dans une unité de soins intensifs après avoir reçu un caillot de sang dans la cuisse. Elle a embauché un ami de la famille pour l’aider dans ses tâches quotidiennes. Leur amitié s’est rapidement détériorée après que cet ami soit devenu la proie de théories du complot sur des forums en ligne affirmant que des forces obscures étaient à l’œuvre pour manipuler la politique. Son amie a été entraînée dans le monde du nationalisme occulte et blanc. Bien que son amie ait depuis abandonné ces croyances, le cheminement de carrière de Haugen a été changé pour de bon. Elle s’est rendu compte que les plateformes technologiques avaient un côté sombre et que les théories du complot pouvaient attirer des gens normaux.

En 2018, lorsqu’elle a été approchée par un recruteur de Meta, elle a demandé un emploi dans l’unité chargée de lutter contre la désinformation. En 2019, elle était chef de produit au sein de l’équipe d’intégrité civique. Selon un Avocat lanceur d’alerte de Los Angeles, les révélations de Haugen depuis lors ont inspiré une nouvelle génération de lanceurs d’alerte à dénoncer les malversations des entreprises.

Frances Haugen à SXSW

À SXSW, elle a critiqué la dépendance de Meta à l’intelligence artificielle (IA) pour vérifier les faits et contenu modéré. En avril 2018, le PDG de la société, Mark Zuckerberg, a déclaré qu’il pensait que l’IA était une solution pour lutter contre les comportements répréhensibles tels que les fausses nouvelles, les discours de haine et la propagande. Elle estime que l’entreprise est trop dépendante de ces outils.

Haugen dit que les propres recherches de Meta montrent que l’IA réduit le discours de haine en se contentant de 3 % à 5 %, le contenu incitant à la violence de 0,08 % et le contenu graphique violent de 8 %. L’entreprise conteste ces accusations, affirmant que les discours de haine avaient diminué de 50 % au cours des neuf premiers mois de 2021. La clé de la modération de contenu reste l’être humain. La modération du contenu exige que les êtres humains jugent du contexte de ce qui est dit, sinon, cela risque de censurer le contenu qui n’est pas un « mauvais comportement » et de ne pas fournir un moyen viable de statuer sur les requêtes.

Haugen cite le succès de Twitter avec une nouvelle fonction qui oblige ses utilisateurs à cliquer sur n’importe quel lien avant de le partager. Selon Haugen, cela réduit la propagation de la désinformation de 10% à 15%. De cette façon, Twitter s’assure que vous avez au moins vu un article avant de le partager, sans qu’aucune sorte de censure n’entre en jeu.

Frances Haugen pense que Meta pourrait mieux modérer le contenu en ajoutant des fonctionnalités à ses plates-formes, mais les craintes d’une rentabilité réduite ont conduit à traîner les pieds sur le sujet. Pour elle, l’ajout de ces caractéristiques n’impliquerait pas de censurer qui que ce soit ou de choisir les idées qui l’ont emporté. Cependant, elle estime que Zuckerberg est plus préoccupé par la rentabilité de l’entreprise que par sa capacité à arrêter la propagation de la désinformation.

Haugen dit que la priorité numéro un de la réforme technologique doit être une plus grande transparence. L’IA est souvent un voile qui permet aux entreprises technologiques telles que Meta de prétendre qu’elles luttent contre la désinformation, sans faire de travail significatif pour l’arrêter.