Le lanceur d’alerte Meta déclare au Sénat qu’on ne peut pas faire confiance à nos enfants dans l’entreprise

Un autre lanceur d’alerte Meta a des problèmes de sécurité sur les plateformes de l’entreprise. El mismo día que Frances Haugen dijo al Congreso en 2021, Arturo Béjar, exdirector de ingeniería de Protect and Care en Facebook, envió al director ejecutivo Mark Zuckerberg ya otros ejecutivos un correo electrónico sobre los daños que los jóvenes pueden enfrentar al usar los productos de la compagnie.

Deux ans plus tard, Béjar était le seul témoin à une audience de la sous-commission judiciaire du Sénat intitulée « Les médias sociaux et la crise de la santé mentale des adolescents ». Dans son témoignage, Béjar a déclaré qu’il avait été convoqué plus tôt cette année pour témoigner sur les courriels qu’il avait envoyés aux supérieurs de Meta. Il a dit avoir réalisé que depuis qu’il les avait envoyés, rien n’avait changé dans l’entreprise.

“Meta continue de déformer publiquement le niveau et la fréquence des préjudices que les utilisateurs, en particulier les enfants, subissent sur la plateforme”, a déclaré Béjar à la sous-commission sur la vie privée, la technologie et le droit dans des remarques préparées. “Et ils n’ont pas encore fixé d’objectif pour réduire ces méfaits et protéger les enfants. Il est temps pour le public et les parents de comprendre le véritable niveau de danger que représentent ces “produits” et il est temps pour les jeunes utilisateurs de disposer des outils nécessaires pour signaler et supprimer. abus en ligne.”

Béjar a été directeur de l’ingénierie chez Meta de 2009 à 2015, période durant laquelle il était responsable de la protection des utilisateurs de Facebook. Elle a soutenu une équipe qui a travaillé sur « des outils contre l’intimidation pour les adolescents, la prévention du suicide, la sécurité des enfants et d’autres moments difficiles que traversent les gens », selon .

Il a témoigné qu’il avait initialement quitté Meta « bien parce que nous avions construit de nombreux systèmes qui rendaient l’utilisation de nos produits plus facile et plus sûre ». Cependant, elle a déclaré que depuis l’âge de 14 ans, sa fille et ses amis “ont été confrontés à plusieurs reprises à des avances sexuelles non désirées, à la misogynie et au harcèlement” sur Instagram. Selon qui a été le premier à rendre compte des affirmations de Béjar, a affirmé que les systèmes de Meta ignoraient généralement les rapports qu’ils avaient faits ou ont répondu en disant que le harcèlement auquel ils étaient confrontés ne violait pas les règles.

Ces problèmes l’ont amené à revenir chez Meta en 2019, où il a travaillé avec l’équipe de bien-être d’Instagram. “Ce n’était pas une bonne expérience. Presque tout le travail que mes collègues et moi avions fait lors de mon précédent passage chez Facebook jusqu’en 2015 avait disparu”, a déclaré Béjar dans son témoignage. “Les outils que nous avions créés pour permettre aux adolescents de bénéficier d’un soutien lorsqu’ils étaient harcelés ou intimidés n’étaient plus à leur disposition. Les gens de l’entreprise avaient peu ou pas de souvenir des leçons que nous avions apprises auparavant.”

Béjar a affirmé qu’Instagram et des équipes de recherche internes avaient collecté des données montrant que les jeunes adolescents souffraient « d’une grande détresse et d’abus ». Cependant, « la haute direction communiquait en externe différentes données qui sous-estimaient largement la fréquence des préjudices subis par les utilisateurs », a-t-il déclaré aux sénateurs.

Dans un e-mail adressé en 2021 à Zuckerberg et à d’autres dirigeants décrivant certaines de ses préoccupations, Béjar a écrit que sa fille, alors âgée de 16 ans, avait mis en ligne une publication sur la voiture sur Instagram pour se faire dire par un commentateur de “retourner à la cuisine”. Béjar a déclaré que sa fille était bouleversée par cela. “En même temps, le commentaire est loin de violer les politiques, et nos outils de blocage ou de suppression signifient que cette personne ira sur d’autres profils et continuera à répandre la misogynie”, a écrit Béjar. Je ne pense pas que les politiques/rapports ou une révision accrue du contenu soient les solutions.”

Béjar a déclaré qu’en plus des expériences de sa fille avec l’application, elle a cité les données d’une équipe de recherche indiquant que 13 pour cent des utilisateurs âgés de 13 à 15 ans ont déclaré avoir reçu des avances sexuelles non désirées sur Instagram au cours des sept jours précédents. Alors que l’ancienne COO Sheryl Sandberg a exprimé sa sympathie envers sa fille pour ses expériences négatives et que le responsable d’Instagram, Adam Mosseri, a demandé à organiser une réunion, selon Béjar, Zuckerberg n’a jamais répondu à l’e-mail.

“C’était inhabituel”, a déclaré Béjar dans son témoignage. “Cela aurait pu arriver, mais je ne me souviens pas que Mark ne m’ait jamais répondu lors de nombreuses communications précédentes, que ce soit par courrier électronique ou en demandant un rendez-vous en personne.”

Béjar a dit au que Meta doit changer son approche en matière de modération de ses plateformes. Selon Béjar, cela exigerait que l’entreprise assume une plus grande responsabilité dans la lutte contre le harcèlement, les avances sexuelles non désirées et d’autres problèmes qui ne violent pas nécessairement les règles existantes de l’entreprise.

Il a noté, par exemple, que les adolescents devraient pouvoir dire à Instagram qu’ils ne veulent pas recevoir de messages sexuels grossiers, même s’ils ne violent pas les politiques actuelles de l’application. Béjar dit qu’il serait facile pour Meta de mettre en place une fonctionnalité permettant aux adolescents de signaler les avances sexuelles qui leur sont faites. “Je pense que la raison pour laquelle ils ne le font pas est qu’il n’y a aucune transparence sur les préjudices que subissent les adolescents sur Instagram”, a-t-il déclaré. .

Béjar a présenté plusieurs autres mesures que Meta pourrait prendre pour réduire les dommages auxquels les utilisateurs sont confrontés sur sa plate-forme, qui “ne nécessitent pas d’investissements importants de la part des plates-formes en personnes pour examiner le contenu ou en infrastructure technique”. Il a ajouté qu’il pensait que l’adoption de telles mesures (qui visent principalement à améliorer les outils de sécurité et à obtenir davantage de commentaires des utilisateurs ayant subi un préjudice) n’affecterait pas sérieusement les revenus de Meta ou des autres sociétés qui les adopteraient. “Ces réformes ne visent pas à punir les entreprises, mais à aider les adolescents”, a-t-il déclaré à la sous-commission. “Et au fil du temps, ils créeront un environnement plus sûr.”

“Mon expérience, après avoir envoyé cet e-mail et vu ce qui s’est passé ensuite, c’est qu’ils savaient qu’il y avait des choses qu’ils pouvaient faire à ce sujet, ils ont choisi de ne pas le faire, et nous ne pouvons pas leur faire confiance avec nos enfants”, a déclaré Bejar lors de la conférence de presse. l’audience. “Il est temps que le Congrès agisse. Je pense que les preuves sont accablantes.”

“D’innombrables personnes à l’intérieur et à l’extérieur de Meta travaillent pour assurer la sécurité des jeunes en ligne”, a déclaré le porte-parole de Meta, Andy Stone. le mardi. “En travaillant avec des parents et des experts, nous avons également introduit plus de 30 outils pour aider les adolescents et leurs familles à vivre des expériences en ligne sûres et positives. Tout ce travail se poursuit.”

Béjar contribuera à pousser le Congrès à « adopter la législation sur laquelle il travaille » concernant la sécurité en ligne des jeunes utilisateurs. Il y a deux ans, Haugen indiquait qu’Instagram était « nuisible à un pourcentage important d’adolescents ». Une surveillance croissante a conduit Meta à créer une version d’Instagram pour enfants.

Depuis le témoignage de Haugen, le Congrès a déployé des efforts pour résoudre les problèmes de sécurité en ligne des enfants, mais sans succès. (KOSA) s’est avancé à deux reprises auprès d’un comité sénatorial ( et ), mais n’a pas atteint un vote en salle et il n’y a pas de projet de loi complémentaire à la Chambre. Entre autres choses, le projet de loi vise à donner aux enfants de moins de 16 ans la possibilité de désactiver « les fonctionnalités addictives et les recommandations basées sur des algorithmes, ainsi qu’à bénéficier d’une meilleure protection de leurs données ». Des projets de loi similaires sont bloqués au Congrès.

Le mois dernier, les procureurs généraux de 41 États et du District de Columbia ont dénoncé les préjudices présumés causés aux jeunes utilisateurs. “Meta a conçu et mis en œuvre des fonctionnalités de produit nuisibles et psychologiquement manipulatrices pour induire une utilisation généralisée et compulsive de la plateforme par les jeunes utilisateurs, tout en assurant faussement au public que ses fonctionnalités étaient sûres et appropriées pour les jeunes utilisateurs”, selon le procès. Béjar a déclaré avoir consulté le procureur général et lui avoir fourni des documents pour étayer leur cause.

“J’ai bon espoir que votre témoignage, associé au procès intenté par les procureurs généraux des États à travers le pays… associé à l’intérêt qui, je crois, est démontré par la participation de notre sous-comité aujourd’hui, nous permettra d’obtenir la ligne de la Loi sur la sécurité des enfants pour la ligne d’arrivée”, a déclaré à Béjar le président de la sous-commission, le sénateur Richard Blumenthal (D-CT). Blumenthal, l’un des premiers sponsors de KOSA, a exprimé l’espoir que d’autres lois deviendront des lois “qui pourront enfin briser la camisole de force que les grandes technologies nous ont imposée”.

Ces dernières années et dans le contexte de l’essor de TikTok, Meta s’est une fois de plus concentré sur l’attraction de jeunes utilisateurs dans son écosystème, et Zuckerberg (quelques semaines seulement après le témoignage de Haugen) a déclaré que l’entreprise recentrerait ses “équipes pour aider les jeunes”. les adultes sont leur étoile polaire au lieu d’optimiser pour un plus grand nombre de personnes âgées. Récemment, la société a recommandé l’utilisation de ses casques Meta Quest VR jusqu’à 10 via l’utilisation de comptes à contrôle parental.