New Mexico justitieminister Raul Torres vann historiska 375 miljoner dollar i ett landmärke barnsäkerhetsmål mot meth tidigare i år. Men nästa fas av striden kan bli ännu viktigare för Meta och sociala mediebranschen som helhet.
Från och med måndag kommer advokater för Meta och delstaten New Mexico att återvända till domstolen i Santa Fe för en tre veckor lång rättegång om allmän olägenhet. Där kommer de att bråka om ändringar på Facebook, Instagram och WhatsApp som AG vill att domaren ska beordra Meta att göra. Dessa ändringar inkluderar att lägga till åldersverifiering för användare i New Mexico, förbjuda end-to-end-kryptering och en 90-timmars månatlig användningsgräns för användare under 18, begränsa engagemangshöjande funktioner som oändlig rullning och automatisk uppspelning och kräva att Meta upptäcker 99 procent av nytt material för sexuella övergrepp mot barn (CSAM).
”Från början har vårt mål varit att försöka förändra hur företag gör affärer,” sa Torres, som nyligen besökte Washington, D.C., för att förespråka nya barnsäkerhetslagar, till The Verge. ”Vi inser att för ett företag som är så här stort och så lönsamt, räcker inte ens 375 miljoner dollar i sig för att förändra sättet det gör affärer på. Faktum är att det förmodligen finns några personer i företaget som anser att det är en kostnad att göra affärer.”
”Även om du investerar 375 miljoner dollar i ett företag som är så stort och lönsamt, är det i sig inte tillräckligt för att förändra ditt sätt att göra affärer.”
De domarbeordrade ändringarna gäller endast Meta och dess verksamhet i New Mexico, men företaget kan tillämpa ändringarna på andra stater i förenklingssyfte. Eller, som man har hotat, staten kan helt enkelt mörkna. Domstolsbeslutet kan skicka ett meddelande till andra teknikföretag om att domstolar kan ändra sin verksamhet om de anses ansvariga.
Under rättegången kommer New Mexico att hävda att meth utgör en folkhälsorisk inom staten och har blivit en allmän olägenhet. AG:s kontor planerar att kalla cirka 15 vittnen, inklusive experter som kommer att vittna om genomförbarheten av den föreslagna boten och faktavittnen som kommer att vittna om Mehtas påstådda skador. Efter att Meta presenterat sitt försvar kommer domare Brian Biedscheidt att utvärdera vilka förslag som är lämpliga och genomförbara, en process som kan ta lite tid jämfört med det snabba resultatet av juryns dom i mars.
New Mexicos jordskredsseger kan ge energi till Torrez och de tusentals andra käranden som för närvarande driver stämningar mot teknikföretag. Omvänt kan begränsade beställningar bli en stor hit. Även om resultatet inte kommer att påverka andra rättegångar direkt, kommer det nästan säkert att påverka förhandlingarna om en potentiell uppgörelse.
Några av Torrez krav är heta teknologipolitiska frågor. Åldersverifiering kommer nästan säkert att kräva att Meta eller tredjepartsleverantörer samlar in mer personlig information från både vuxna och minderåriga, men integritetsförespråkare har konsekvent varnat för att detta kan göra användarna mindre säkra. Don McGowan, en tidigare chef för National Center for Missing and Exploited Children, sa att ett förbud mot krypterad kommunikation på plattformar som Facebook är ”ett bra sätt att bara stoppa människor från att använda Facebook Messenger och flytta sina aktiviteter till andra plattformar som inte påverkas av denna rättegång.”
Detta mandat kan göra lite för att förändra verkligheten i specifika delar av verksamheten. Meta tillkännagav nyligen att de skulle avbryta end-to-end-krypterade meddelanden på Instagram och sa att ”mycket få människor” faktiskt använder det.
Peter Chapman, biträdande chef för Knight Georgetown Institute, som arbetar för att koppla samman beslutsfattare och andra med oberoende teknologipolitisk forskning, sa att ett förbud mot kryptering kan ha ”betydande avvägningar” och att andra förändringar kan vara mer effektiva. Till exempel visar bevis som lagts fram av staten att Mr. Mehtas egna profilrekommendationer länkar vuxna med minderåriga, en funktion som Mr. Torrez också bad domstolen att stoppa, utan någon betydande fördel och utgör en klar risk för skada. ”Det finns en möjlighet att ingripa på den nivån och förhindra ytterligare av dessa skadliga interaktioner från att inträffa utan att ta itu med kryptering,” sa Chapman.
Chapman sa att det är osannolikt att en enda funktionsändring kommer att lösa hela säkerhetsproblemet för barn och ungdomar, vilket är anledningen till att det är anmärkningsvärt att Torrez planerar att kräva flera nivåer av ändringar. Ändå beror den övergripande effektiviteten av en viss behandling också på hur den implementeras och övervakas. Till exempel, vilken metod använder Meta för att rapportera en upptäcktsfrekvens på 99 % för nya CSAM? Hur räknar eller extrapolerar vi det vi inte fångar? Detsamma gäller noggrannheten och tillförlitligheten av obligatorisk åldersverifiering.
Mehta påpekar detta potentiella problem i sin diskussion om Torrez föreslagna botemedel. ”Oavsett var noggrannhetströskeln är satt, kommer Meta aldrig att kunna bevisa att systemet uppfyller den standarden, för för att kunna utföra beräkningarna måste Meta upptäcka 100 % av den CSAM den använder som nämnare”, skrev företaget i en juridisk ansökan. Torres chefsställföreträdare, James Grayson, sa vid en presskonferens att domstolen och en utsedd oberoende övervakare skulle ha en viss diskretion över jakten. Sekretariatet har ännu inte identifierat vem denna monitor är.
”Kraven som ställs i New Mexico är dåligt informerade och ger massiv ytterligare exponering för andra typer av exploatering.”
Mehta och andra grupper som är emot AG:s tillvägagångssätt hävdar att de resultat han söker är kontraproduktiva. ”Kraven som ställs i New Mexico är dåligt informerade och ger massiv ytterligare exponering för andra typer av exploatering”, säger Maureen Flatley, ordförande för Stop Child Predators, en organisation som förespråkar ökad finansiering för brottsbekämpning av barnrovdjur och får finansiering från den meth-stödda handelsgruppen NetChoice. ”Tanken att plattformarna är ansvariga för att sparka ut alla dessa människor är som att säga till American Bankers Association, ’Förresten, du är ansvarig för alla framtida bankrån’, vilket är löjligt.”
”New Mexico Attorney Generals fokus på en enda plattform är en missriktad strategi som ignorerar de hundratals andra appar som tonåringar använder dagligen”, sa Meta-talesperson Chris Sgro i ett uttalande. ”Statens föreslagna mandat kränker föräldrars rättigheter och kväver yttrandefriheten för alla nya mexikaner. Oavsett vad är vi fast beslutna att tillhandahålla en säker och åldersanpassad upplevelse och har redan initierat många av de skydd staten eftersträvar, inklusive 13 säkerhetsåtgärder under det senaste året.”
Men Torres har också siktet inställt på den bredare teknikindustrin. Han reste nyligen till Washington, D.C., för att förespråka nytt skydd för barn online och en översyn av Section 230, lagen som skyddar tekniska plattformar från ansvar för vad deras användare publicerar. ”Även om vi kunde vinna i tingsrätten i Santa Fe, tror jag fortfarande att den nuvarande lagen skapar en hel del oklarheter”, sa han till The Verge under sitt besök. ”Om Section 230 inte är något de här företagen kan gömma sig bakom, så finns det en god chans att de faktiskt måste gå till en jury.”
Men Chapman sa att stämningsbaserade restriktioner inte är ”ovanliga” i USA. ”Oavsett om det är tobak, opioider eller e-cigaretter, finns det prejudikat för rättsliga åtgärder som flyttar bredare politiska diskussioner.”
Lauren Finer
Inlägg från den här författaren kommer att läggas till i ditt dagliga e-postsammandrag och din startsida.
att följaatt följa
Se allt om Lauren Feiner
