Lärdomar från The Facebook Files och Haugens visselblåsning

I början av hösten läckte visselblåsaren Frances Haugen en stor mängd interna dokument från Facebook till Wall Street Journal som baserat på dokumenten publicerat en serie reportage och poddavsnitt under rubriken The Facebook Files. Vid en första anblick passar publiceringarna och Haugens vittnesmål väl in i den växande kritiken mot sociala medier och Facebook (numera Meta). Den återkommande röda tråden är att Facebook prioriterar sin egen tillväxt framför plattformens säkerhet, något som Haugen också upprepat i flera intervjuer. Efter en mer noggrann genomläsning är jag dock benägen att dra delvis andra lärdomar av hela denna händelse än vad artiklarna i rapporteringen överlag har gjort.

Låt oss börja med att få en överblick av rapporteringen baserat på de läckta dokumenten. Här följer en (mycket) kort sammanfattning av den första månadens publiceringar från Wall Street Journal (fram till 21/10).

  • (13/9) Facebook säger sig ha samma regler för alla användare, men interna dokument visar att företaget använder sig av en särskild extra granskning av anmält innehåll som utgör gränsfall eller som kommer från större konton som tillhör konton med många följare, kända personer eller politiker.
  • (14/9) Intern forskning visar att Instagram kan ha negativ påverkan på ungdomar. Vad det handlar om är att unga personer, i synnerhet tonårsflickor, som redan mår dåligt kan kan uppleva en förstärkt negativ påverkan på sin mentala hälsa genom sociala medier.
  • (15/9) När Facebook uppdaterade sitt nyhetsflöde flyttades fokus till vad som kallades meningsfulla sociala interaktioner (MSI) som premierar innehåll som får reaktioner och postas vidare i nätverken. Målet var att stärka interaktioner mellan nära och kära, men algoritmen bidrog också till att premiera innehåll som väckte starka känslor (ofta ilska).
  • (16/9) Facebook motverkar droghandel och trafficking på plattformen, men lyckas inte fullständigt få bort dessa verksamheter.
  • (17/9) Mark Zuckerberg ville att Facebook skulle ta en ledande roll för att främja vaccination mot Covid-19 i USA, men plattformen användes samtidigt för att sprida stora mängder konspirationsteorier och ogrundat kritik mot vaccinet.
  • (28/9) Inom Facebook och instagram arbetar man med produktutveckling för att attrahera barn som användare. Bland annat har man försökt utveckla ett verktyg för att barn ska kunna boka lekträffar (playdates) med varandra.
  • (1/10) Vilka avdelningar i företaget växer och krymper och hur påverkar det olika chefers maktposition?
  • (17/10) Facebook försöker använda AI för att få bort (nät)hat från plattformen, men tekniken är betydligt mindre träffsäker än vad många tycks tro.
  • (21/10) Facebook har svårt att med säkerhet avgöra hur många unika användare plattformen har eftersom det inte är helt enkelt att avgöra om en person har flera konton.

Det finns förstås mycket att säga om var och en av dessa artiklar (eller liknande artiklar i andra tidningar) och några får jag sannolikt skäl att återkomma till framöver. Här vill jag dock göra gällande att det finns fem övergripande lärdomar att dra från Facebook-filerna som inte har kommit fram i rapporteringen, men kan bidra till ett mer nyanserat perspektiv på sociala medier och stora teknikföretag.

1. Storlek är ingen garanti för monopolmakt

Parallellt med rapporteringen om Facebook-filerna pågår en debatt som gör gällande att de stora plattformsföretagen i praktiken har fått monopolställning på sina respektive marknader. Denna debatt har också haft märkbar inverkan på pågående lagstiftningsarbete inom EU (Digital Markets Act, DMA, och Digital Services Act, DSA) som syftar till att begränsa de stora företagens makt. De läckta dokumenten från Facebook visar på en plattform som inte har fullständig kontroll över sin marknad, utan tvärtom måste kämpa för att balansera användarnas yttrandefrihet mot plattformens trivselregler och den enskilde användarens upplevelse.

Flersidiga plattformar är beroende av den matchningskvalitet de erbjuder sin användare. I Facebooks fall handlar det om matchningen mellan annonsörer och användare, men också mellan användare och innehållet i deras nyhetsflöde. När användare upplever att matchningskvaliteten sjunker öppnar plattformen upp sig för konkurrens från mindre och mer nischade plattformar som bättre kan matcha en viss användargrupps efterfrågan.

Vi har redan sett hur användare som efterfrågar en kombination av långtgående yttrandefrihet (inte sällan i kombination med alt-right-åsikter och en gnutta konspirationsteorier) har valt att gå till plattformar som erbjuder just detta. Man kan på liknande vis tänka sig att de som söker ett mer modererat forum också kan lockas från Facebook till en mer avgränsad plattform med hårdare regler och (som en tänkbar följd av detta) mer likasinnade debattörer. De flesta som efterfrågar hårdare regler gör det för att begränsa andras åsikter snarare än sina egna. Det kommer därför att bli intressant att se vilken typ av grupper som söker sig till sina egna forum och vilka som fortsätter föra debatt på en större plattform där de också i hög grad exponeras för oliktänkande.

Stora plattformsföretag som Facebook har inte etablerat en ointaglig monopolmakt på sin marknad, utan exponerar sig mot konkurrens just genom sin storlek och den bredd av innehåll och användare som följer med den. Facebook-filerna visar på det enorma arbete som följer med växande storlek och – kanske framförallt – att det inte finns någon optimal enda lösning på hur man ska organisera ett socialt nätverk som Facebook, särskilt inte när det handlar om moderering av innehåll baserat på åsikter.

2. AI och algoritmer styr inte människor

När jag läste delar av rapporteringen om Facebook-filerna, i synnerhet om Zuckerbergs ambition att driva på vaccinationen i USA och bristerna i Facebooks AI, kom jag omedelbart att tänka på en annan, äldre nyhet om Facebook: Cambridge Analytica och dess påverkan på Brexit och Trumps valkampanj. Trots att sanningshalten i Cambridge Analyticas påstådda förmågor visade sig vara försvinnande låg ledde rapporteringen till en uppväxling av berättelsen om hur algoritmer och AI används för att styra människor. Samtidigt som denna berättelse har blivit allt mer av en vedertagen sanning bland kritiker mot sociala medier, visar Facebook-filerna att företaget inte kan styra sina användare ens när de försöker inför öppen ridå.

Facebook försökte främja vaccination i USA men plattformen användes samtidigt för att sprida anti-vaxxer-innehåll. Facebook försöker identifiera och ta bort (nät)hat med hjälp världsledande kompetens inom AI men kämpar (enligt en del av de interna dokumenten) med att få sina AI-program att göra skillnad på tuppfäktning och bilolyckor. När man läser denna rapportering tillsammans med rapporteringen om Cambridge Analytica får man en tydligare bild av hur otydlig och onyanserad den kollektiva uppfattningen om algoritmer och AI är. Något båda dessa nyhetshändelser har gemensamt är dessutom att de inte sätter algoritmer och AI-program i relation till människors fria vilja och agerande, något som med nödvändighet ger en ensidig bild av verkligheten.

3. Facebook slits mellan att blockera för mycket och att blockera för lite

Det Frances Haugen och andra kritiker anklagar Facebook för är i hög grad att göra för lite. De tycker att företaget gör för lite för att stoppa (nät)hat, för lite för att förhindra droghandel och trafficking och för lite för att förhindra depression bland unga användare. Det låter lätt när man beskriver det i termer av hur mycket pengar företaget investerar eller som en avvägning mellan plattformstillväxt och användarnas säkerhet, men det finns två betydligt svårare avvägningar med koppling till användarsäkerhet att ta hänsyn till.

För att göra mer av det Haugen och andra efterfrågar måste Facebook för det första värdera skadan av felaktigt publicerat innehåll (som borde ha blockerats) högre än skadan av felaktigt blockerat innehåll (som borde ha publicerats). Det handlar i grund och botten om hur man ser på yttrandefrihetens värde, särskilt när det handlar om att blockera innehåll som i sig inte utgör en lagöverträdelse.

För det andra måste användarnas kollektiva säkerhet värderas högre än den enskilde individens integritet. Exempelvis har Haugen sagt sig vara skeptisk till kryptering i chattar eftersom det försvårar spårningen av oönskat innehåll eller beteenden.

Båda dessa avvägningar måste dessutom förstås utifrån att en plattform som Facebook används inom en rad länder med väldigt olika syn på yttrandefrihet och personlig integritet. Man skulle kunna argumentera för att ju mer dessa två värden minskar i plattformens hantering av innehåll, desto större blir bredden i efterfrågan på när yttrandefrihet och integritet ska begränsas.

Utan att vilja försvara varesig droghandel, trafficking, depression eller (nät)hat kan man konstatera att beslutet blir betydligt svårare när man får en mer nyanserad bild av vad som faller inom ramarna för användarsäkerhet. Precis som man kan ha åsikter om hur Facebook hanterar granskningen av anmält innehåll olika för olika konton (se punkt 1) kan man ha åsikter om hur företaget gör avvägningar mellan att riskera att blockera för mycket eller för lite innehåll, men det finns ingen given och optimal lösning på problemet.

4. Intern forskning behöver få hållas intern

En av Haugens återkommande förslag är att man bör ställa krav på att företagens interna forskning ska vara transparent och publiceras öppet, exempelvis för att bidra till debatten om unga mentala hälsa och sociala medier. Det finns åtminstone två grundläggande problem med detta.

För det första är intern forskning inte detsamma so publicerade vetenskapliga artiklar. Den bygger förvisso på unika data från företagets verksamhet, men den har sällan granskats av ett bredare forskarsamhälle eller gått igenom den granskning som krävs för många journaler. Det är inte heller tydlig när intern forskning är ”färdig” eftersom den ofta är förknippad med åtgärder och produktutveckling på ett sätt som vanlig forskning inte är. Det betyder inte att den interna forskningen saknar värde, det finns gott om vetenskaplig produktion som inte publiceras i journaler men ändå är väldigt bra. Däremot måste den sättas in i sitt rätta sammanhang.

För det andra skulle krav på transparens och offentliggörande begränsa den interna forskningen till ”säkra frågor” för att undvika PR-skandaler. Det skulle inte bara leda till sämre intern forskning utan också sämre företag eftersom man inte längre vågar fråga sig svåra frågor ens om man gör det för att med hjälp av svaren kunna förbättra sin verksamhet.

En bättre lösning, som många av företagen redan idag använder sig av, är att släppa in externa och oberoende forskare i delar av verksamheten och ge dem tillgång till tydligt beskrivna datamängder för att bedriva sin egen forskning. På så vis kombineras akademisk trovärdighet med företagets trovärdighet i den samhällspolitiska debatten. Samtidigt kan intern forskning hållas intern, för allas bästa.

5. Rapporteringen skvallrar om kritikernas förväntningar på Facebook (Meta)

Det kanske mest intressanta med rapporteringen runt Fances Haugen och Facebook-filerna är vad den implicit säger om kritikernas förväntningar på företag som Facebook. Haugens argumentation är på sätt och vis symptomatisk för den ”techlash” som vuxit fram sedan mitten av 2010-talet. Den stundom ohejdade teknikoptmismen som präglade synen på sociala medier och stora plattformsföretag på 00-talet har nu förbytts i en lika gränslös kritik och efterfrågan på styrning. Vad båda dessa åsiktsströmningar har gemensamt är att de bygger på antagandet att tekniken kan eller bör användas för att styra människor och samhällen i en viss riktning. Då handlade det om hur ett öppet nät skulle ha en demokratiserande och befriande effekt. Nu handlar det om hur styrda och kontrollerade plattformar ska avgränsa och värna demokrati och frihet i en bubbla.

Haugen vill inte att Facebook som företag ska brytas upp utan att det ska styras annorlunda. Det är fullt rimligt att vilja det, exempelvis baserat på de avvägningar jag nämnt här. Frågan är i hur hög utsträckning det kan eller borde styras fram genom politiskt ingripande och lagstiftning. I kritiken, Haugens så väl som andras, anar jag konturen av en godhjärtad diktator.

Lämna ett svar

Din e-postadress kommer inte publiceras.