Pour entrer chez Meta, il faut montrer patte blanche : vérification d’identité, NDA, interdiction de photographier les bureaux (à part bien sûr quelques coins très photogéniques, Instagram oblige, comme la magnifique roof terrace). Nous sommes dans les bureaux new-yorkais de Meta, au 770 Broadway. Florent Joly nous escorte jusqu’à la cafétéria. Il est Product Manager chez Instagram, en charge notamment de la réduction des contenus faux ou haineux, et de la résilience des plateformes lors des moments sensibles comme les élections ou les crises sanitaires.

Un job exposé, alors que les plateformes de réseaux sociaux sont constamment sur la sellette, comme récemment lors de l’audition du comité d’enquête du Sénat sur la santé mentale des adolescents. Ce jour-là, Mark Zuckerberg n’a pas seulement présenté ses excuses publiques aux familles de victimes présentes dans le public, il a aussi mis en avant « les 40,000 personnes employées pour assurer la sécurité de nos plateformes ». Florent Joly est de ceux-là.

Après des stages en startup et au journal Le Monde, Florent Joly commence sa carrière dans l’équipe marketing de Google, à Londres. Passionné de politique, il quitte Londres pour Bruxelles en 2019 pour une mission temporaire visant à coordonner les préparatifs des élections européennes. « J’ai commencé à m’intéresser au rôle joué par les réseaux sociaux dans la démocratie en 2016, pendant la campagne opposant Emmanuel Macron à Marine Le Pen. Ils ont été essentiels pour mobiliser les adhérents du nouveau parti En Marche. Mais ils étaient aussi accusés de participer à la diffusion des fake news pendant le referendum du Brexit seulement quelques mois plus tôt. Ce rôle duel des réseaux sociaux m’a fasciné ». Piqué d’intérêt pour le sujet, il décide de rejoindre l’équipe “Civic Integrity” de Meta (à l’époque Facebook) à New York.

Florent Joly et ses collègues new yorkais sont une toute petite partie des 40,000 personnes brandies par Mark Zuckerberg en réponse à ses détracteurs. La plupart sont en réalité employés par une dizaine au moins de cabinets de conseil, au premier plan desquels Accenture. Cela permet à Meta d’avoir des équipes dans toutes les langues et tous les créneaux horaires, mais aussi de déléguer à d’autres la tâche ingrate de modérer les contenus dangereux. Le premier modérateur de contenu est bien sûr l’intelligence artificielle. On estime que plus de 90% des contenus problématiques sont détectés par l’IA. Pour les contenus soumis aux équipes de modération humaines, Meta s’est engagé à flouter au maximum les photos et vidéos les plus choquantes. Accusé à plusieurs reprises de ne pas fournir un soutien psychologique adéquat à ces employés indirects, l’entreprise exige désormais dans ses contrats la présence, sur site et 24 heures sur 24, de psychologues. Idem dans ses bureaux : « comme nous traitons des sujets sensibles, Meta s’assure que nous ne sommes jamais confrontés à un sujet délicat seul », nous explique Florent Joly.

Au jour le jour, Florent Joly passe moins de temps à visionner du contenu qu’à mettre en œuvre de nouvelles fonctionnalités pour Facebook, Instagram ou Whatsapp. «  Tous les ans, nous implémentons des dizaines de nouvelles fonctionnalités sur nos plateformes », explique-t-il. Ces fonctionnalités peuvent être visibles (possibilité de désactiver les commentaires, par exemple, ou de choisir avec qui on interagit), ou invisibles s’il s’agit de travailler sur les algorithmes de recommandation. « Certaines sont décidées de manière réactive lorsqu’un incident est détecté ou lorsqu’un évènement extérieur comme l’invasion de l’Ukraine ou les attentats du 7 octobre en Israël modifie les comportements sur la plateforme ». D’autres font l’objet d’un travail proactif, l’équipe de chercheurs de Meta organisant régulièrement des focus groups avec des utilisateurs pour identifier de nouveaux besoins.

« Avec l’IA, les attaques sont de plus en plus sophistiquées, les faux – faux profils, faux contenus, fausses vidéos- de plus en plus convaincants. Nous devons être encore plus vigilants, et nos algorithmes doivent être encore plus sophistiqués pour ne pas être « reverse engineered » par les hackers ».  Meta a mis en place des équipes de « red teaming », qui se mettent à la place des acteurs mal intentionnés et essaient de réfléchir comme eux. Florent Joly est-il inquiet pour les élections de 2024 ? Il rappelle que les deep fakes ne sont pas nouveaux, et qu’ils avaient déjà fait irruption pendant la campagne présidentielle de 2016. En revanche ils sont plus sophistiqués et produits à plus grande échelle. « Nous avons beaucoup appris depuis 2016 et 2020. Nous avons créé des règles spécifiques pour les contenus créés avec de l’IA. C’est un sujet prioritaire pour nous et nos équipes sont très mobilisées. Donc je suis globalement confiant. »

On aimerait être aussi optimiste. Quelques jours à peine avant les auditions au Sénat, le réseau X s’était fait chambre d’écho de deepfakes pornographiques impliquant Taylor Swift. Le temps que les équipes de modération du réseau, réduites à peau de chagrin depuis le rachat de la plateforme par Elon Musk en 2022, réagissent, l’une des images avait été vue 47 millions de fois…

Pour approfondir le sujet :

• Pour comprendre les enjeux de régulation de l’Internet : le podcast Regulate Tech de Nicklas Lundblad et Jeff Allen
• Pour comprendre les enjeux internationaux de la modération, notamment dans les pays autocratiques, Speech Police : The Global Struggle to Govern the Internet, par David Kaye
• Pour en apprendre plus sur les stratégies souvent employés par des acteurs mal intentionnés pour manipuler une élection : How to Rig an Election, de Nic Cheeseman and Brian Klaas