Zuckerberg övervägde att ändra sitt sätt att forska i samhällsfrågor efter Metas forskningsproblem

En dag efter att Wall Street Journal publicerade en storsäljande artikel på Instagram om Metas egna fördömande fynd om tonårsflickors mentala hälsa, undrade vd Mark Zuckerberg om Meta skulle ändra sättet att undersöka potentiella skador på sin plattform.

”Den senaste tidens händelser har fått mig att fundera på om vi ska ändra vårt synsätt på forskning och analys av sociala frågor”, skrev Zuckerberg i ett e-postmeddelande den 15 september 2021 till chefer, inklusive dåvarande operativa chefen Sheryl Sandberg och chefen för globala angelägenheter Nick Clegg. Dagen innan publicerade Journalen en artikel baserad på dokument som erhållits från en whistleblower, senare identifierad som Frances Haugen, som avslöjade i sin egen forskning att ”när 32 procent av tonårsflickorna mådde dåligt av sina kroppar, sa de att Instagram fick dem att må dåligt.” Ämnesraden i Zuckerbergs mejl var ”Forskning och analys av sociala frågor – privilegierade och konfidentiella.”

E-postmeddelandena från 2021 öppnades i torsdags efter att de samlats in av New Mexicos justitieminister Raul Torres som en del av en rättegång som hävdar att Meta felaktigt annonserade sina produkter som säkra för tonåringar, med kännedom om skadliga designval som New Mexico hävdar förgiftar barn och tillåter djur som jagar barn att blomstra. I sitt klagomål hävdade AG:s kontor att avslöjandet av de skador Meta identifierat på plattformen ”skulle ha korrigerat den vilseledande och vilseledande karaktären hos offentliga uttalanden som förklarar plattformen som ”säker”. Metas talesperson Andy Stone berättade för The Verge att företaget ”är stolt över att fortsätta att bedriva transparent, branschledande forskning. Som vi fortsätter att använda dessa meningar i flera år, inklusive förbättringar. introduktion av tonårskonton med inbyggda funktioner.” Det skyddar och ger föräldrar verktygen att hantera sina tonåringars upplevelser. ”

E-postmeddelandet är bara ett exempel på interna konversationer som förväntas uppstå genom den rättegången och en serie stämningar i Kalifornien som gör liknande påståenden. Inledande uttalanden i New Mexico-fallet är planerade att börja nästa vecka.

Zuckerberg skrev i ett e-postmeddelande att Mehtas kamrater verkar ha lyckats undvika offentlig kritik av sociala frågor genom att genomföra mindre aggressiva utredningar om skada på sina plattformar. ”Apple, till exempel, verkar inte forska om något liknande alls”, skrev han. ”Såvitt jag förstår har de ingen som granskar eller modererar innehåll, och de har inte ens ett rapporteringsflöde på iMessage. De har antagit synsättet att människor är ansvariga för vad de gör på plattformen, och eftersom Apple inte tar det ansvaret själva, har de inte skapat en personal eller massor av forskning för att titta på avvägningarna i deras tillvägagångssätt. Detta har fungerat bra för dem förvånande.”

Medan Apple verkade undvika kritik, sa Zuckerberg att enligt Zuckerbergs uppfattning rapporterade Meta mer material om sexuella övergrepp mot barn (CSAM), vilket ”tycks vara en ökning av sådant beteende på vår plattform”, vilket gör det ”exponerat för mer kritik”. Å andra sidan noterade han också att ”när Apple försökte göra något med CSAM, kritiserades det så grundligt att Apple kanske fördubblade sitt ursprungliga tillvägagångssätt.” Zuckerberg kan ha hänvisat till Apples tillkännagivande tidigare samma år att de införde nya funktioner som syftar till att skydda barn, inklusive att skanna användarnas iCloud-foton för CSAM. Men integritetsförespråkare oroade sig för att flytten skulle skapa en enorm bakdörr för att övervaka användarkonton. Apple drog senare tillbaka förslaget. Apple svarade inte omedelbart på en begäran om kommentar på mejlet.

Apple och Meta har länge varit oense offentligt och privat om deras olika inställning till policyfrågor som integritet och åldersverifiering. Men Zuckerberg gjorde liknande observationer om Mehtas andra kollegor. ”YouTube, Twitter och Snap tar liknande tillvägagångssätt i olika grad”, skrev han. ”YouTube verkar avsiktligt stoppa huvudet i sanden och försöka hålla en låg profil för att undvika att dra till sig uppmärksamhet. Twitter och Snap kanske inte har resurserna att göra den här typen av forskning.” Många av plattformarna arbetar också med YouTubes rådgivande nämnd för ungdomar och familjer, som består av oberoende experter som vägleder tonåringars hälsa på plattformen, samt Snaps Digital Wellbeing Index (lanseras 2022). har offentligt delat med sig av sina år av forskning och ansträngningar för att studera plattformssäkerhet.

Herr Zuckerberg verkade tro att den offentliga reaktionen på hans interna utredning var orättvis. ”Jag tycker att arbetet vi gör på vår plattform för att undersöka, förstå och förbättra sociala frågor bör hyllas”, skrev han. ”Tyvärr är det mer sannolikt att media drar nytta av forskning och rekommendationer som görs för att vi inte gör det bästa vi kan (som föreslår en vansinnig agenda) än för att vi är mer seriösa än någon annan i branschen i att undersöka dessa frågor och söka lösningar, och alla är inte rimliga att implementera eftersom det finns avvägningar i dem alla.”

Som svar på det här e-postmeddelandet stödde åtminstone ett fåtal chefer fortsatt forskning i sociala frågor, trots riskerna för allmänhetens uppfattning. ”Läckor är en lättnadens suck och kommer att fortsätta att inträffa om vi inte hittar ett sätt att utrota dem”, skrev Javier Oliván, vicepresident för centrala produkter, då. ”Även med det i åtanke, är det fortfarande värt att försöka förstå de här frågorna? Jag tror att det är den ansvarsfulla saken att göra/jag skulle vilja fortsätta försöka förstå hur vi kan göra våra produkter bättre för alla, men åtminstone inom områden där vi ser ett tydligt samband mellan produktanvändning/specifika problem. David Ginsburg, dåvarande vice VD för produkter, urval och konkurrens, sa att han i allmänhet höll med mig själv efter att Olivans åsikt under de senaste dagarna varit en del.” ”Bortsett från våra sociala mål tror jag att interna ansträngningar är viktiga för att kunna leverera en bra produkt och en bra användarupplevelse.”

Några dagar senare delade Guy Rosen, en produktchef som leder integritetspraktiken, flera möjliga alternativ för att omorganisera företaget kring intern och extern forskning, inklusive för- och nackdelar med var och en. Rosen skrev att detta bara var en ”preliminär/diskretionär övning” för att förstå ”utbudet av optioner”. Dessa sträckte sig från att centralisera team som undersöker mycket känsliga ämnen för att bättre kontrollera tillgången till material, till det mest extrema alternativet att avveckla team som undersöker känsliga ämnen och lägga ut arbetet på entreprenad vid behov. I slutändan rekommenderade chefer ett mindre extremt alternativ för att centralisera forskargruppen, vilket de planerade att tillkännage kort efter Instagrams vd Adam Mosseris kommande vittnesmål till kongressen. Herr Mosseri, en ny medlem i e-posttråden, anklagade: ”Att publicera detta efter mitt vittnesmål är ännu värre än tidigare. Och vi pratade om det här. Det kommer att läcka ut och det kommer att se ut som om jag gömde något.” Meta tillkännagav så småningom förändringarna före Mosseris vittnesmål och sa att de fortsätter att undersöka känsliga ämnen som tonåringars välbefinnande.

I sitt första mejl beklagade Zuckerberg att läckan av interna dokument skulle försvåra det arbetet. ”Detta kan vara en del av anledningen till att andra företag i branschen har valt olika förhållningssätt till dessa frågor.”