En algoritm avgör sällan ensam vad en människa ska tänka. Ändå kan tusentals små beslut om ordning, synlighet och notiser forma vad som känns viktigt under en dag. Den avgörande frågan är därför inte bara hur tekniken fungerar, utan vem som sätter dess mål, vilka data som får räknas och vem som kan granska resultatet. När en elev, en journalist och en annonsör möter samma plattform får de inte nödvändigtvis samma digitala verklighet. Det gör algoritmer till en fråga om makt, rättigheter och demokrati.

Från redaktörens grind till den osynliga sorteringen

Före sociala medier bestämdes mycket av det offentliga samtalet av redaktionellt urval. En redaktör på Dagens Nyheter eller Sveriges Radio valde vilka händelser som skulle få rubriker, utifrån nyhetsvärdering, resurser och journalistiska regler. Urvalet kunde kritiseras, men ansvarig utgivare och redaktion var synliga. Läsaren kunde skriva en insändare, kontakta tidningen eller vända sig till Medieombudsmannen om publiceringen bröt mot pressetiska regler.

Internet förändrade först detta genom sökmotorer. Google byggde sitt genombrott på PageRank, en metod som lanserades av Larry Page och Sergey Brin 1998. Länkar mellan webbsidor behandlades ungefär som röster: en sida som många andra sidor länkade till fick högre rang. Metoden gjorde det lättare att hitta på webben, men den gynnade också redan välkända och tekniskt synliga sidor. Den som saknade länkar, språkresurser eller kunskap om sökmotoroptimering kunde hamna långt ned.

Nästa steg var att ordningen blev personlig. Facebook införde sitt News Feed 2006 och började senare beskriva en rankning där tidigare beteende vägdes in. Skillnaden är viktig: en sökning uttrycker ett aktivt behov, medan ett flöde fylls innan användaren har bett om ett visst innehåll. Plattformen flyttade därmed makt från redaktionens enskilda beslut till ett system som löpande testar vilka inlägg som får reaktioner.

Det betyder inte att äldre medier var neutrala eller fria från kommersiella intressen. Kvällstidningars löpsedlar har länge konkurrerat om uppmärksamhet. Men digitala system kan anpassa urvalet för miljontals personer samtidigt och ändra det från minut till minut. Därför är dagens fråga större än om ett inlägg är sant: vilka villkor gör att just detta inlägg blir synligt före andra?

När ett klipp blir ett helt informationsspår

För att förstå algoritmisk påverkan behöver man följa ett förlopp, inte bara peka ut en app. Anta att Noa söker på TikTok efter råd om sömn inför ett prov. Han ser först en kort film där en populär kreatör säger att magnesium löser sömnproblem. Noa tittar klart, läser kommentarer och ser två liknande videor. Dessa handlingar blir signaler som systemet kan tolka som intresse för sömn, kosttillskott eller stress.

Nästa dag får Noa fler klipp med tvärsäkra hälsopåståenden och länkar till produkter. Ett företag kan betala för reklam, medan en kreatör kan tjäna pengar genom affiliatelänkar: en provision när någon köper via länken. Ett råd som “prata med skolsköterskan eller vårdcentralen” är svårare att göra till en dramatisk, säljbar video än ett löfte om en snabb lösning. Det innebär inte att varje populärt hälsoklipp är falskt, men det visar att synlighet och tillförlitlighet mäts på olika sätt.

Här spelar återkopplingsslinga roll. Noas första intresse skapar fler rekommendationer; fler rekommendationer ger fler chanser att titta; det nya tittandet stärker sedan systemets tolkning. Han kan bryta slingan genom att söka hos 1177, markera ointressanta inlägg, följa vetenskapliga källor och jämföra rådet med vad som står hos en vårdaktör. Själva sökningen förändrar alltså den fortsatta sorteringen.

Fallet skiljer sig från att en vän tipsar om en produkt. Vännen har begränsad räckvidd och brukar kunna förklara varför tipset gavs. En plattform testar däremot urval på stora grupper och kan väga in sådant som användaren aldrig ser. Därför behöver unga känna igen när en personlig upplevelse har blivit råvara i ett kommersiellt system. Frågan är inte om Noa saknar eget ansvar, utan om hans val sker i en miljö utformad för att fånga och behålla hans uppmärksamhet.

Vinst, yttrandefrihet och skydd: en konflikt utan enkel vinnare

Algoritmiska flöden rymmer en verklig intressekonflikt. Plattformar vill behålla användare, annonsörer vill nå personer som sannolikt köper och kreatörer vill nå en publik. Samtidigt vill användare kunna uttrycka sig fritt utan att kartläggas, och samhället behöver att information om val, hälsa och kriser når fram. När samma system ska lösa alla dessa uppgifter uppstår svåra avvägningar.

Facebook Files, interna dokument som visselblåsaren Frances Haugen lämnade till amerikanska medier 2021, satte ljus på denna konflikt. Materialet användes i debatten om hur Instagram kunde påverka kroppsuppfattning negativt för vissa unga användare. Dokumenten bevisar inte att en app ensam orsakar psykisk ohälsa; sådana samband påverkas av familj, skola, ekonomi och tidigare mående. De visar däremot att företaget hade egna analyser av risker samtidigt som engagemang var centralt för verksamheten.

Moderering skapar ett annat dilemma. När plattformar tar bort hat, hot eller desinformation kan de skydda personer och minska skada. Om reglerna tillämpas slarvigt riskerar däremot satir, dokumentation av övergrepp eller minoritetsspråk att tas bort. Under coronapandemin 2020–2021 försökte plattformar begränsa falska medicinska påståenden, medan myndigheter som Folkhälsomyndigheten och WHO behövde nå ut snabbt med uppdaterad information. Ett automatiskt filter kan missa sammanhang, dialekter och ny forskning.

Innehållsmoderering är alltså inte samma sak som censur, men den är ett maktutövande som måste kunna ifrågasättas. Digital Services Act kräver bland annat motiveringar när innehåll begränsas och möjligheter att klaga. För företagen kostar granskning pengar och kan minska trafiken. För den som utsätts för hot kan utebliven granskning innebära att det offentliga samtalet blir mindre fritt i praktiken. En rimlig lösning måste väga båda typerna av frihet.

Vems verklighet räknas när data blir beslutsunderlag?

Algoritmisk makt handlar inte bara om vad som rekommenderas på fritiden. I arbetslivet används system för att fördela arbetspass, bedöma prestationer och välja vilka sökande som går vidare. Amazon avvecklade 2018 ett rekryteringsverktyg efter att Reuters rapporterat att systemet missgynnade kvinnliga sökande. Verktyget hade tränats på tidigare ansökningar till teknikjobb, där män var överrepresenterade. Det hade inte fått instruktionen att diskriminera, men det lärde sig mönster från en ojämställd arbetsmarknad.

Fallet visar historisk snedvridning: data från det förflutna kan bära med sig gamla orättvisor in i framtida beslut. Om ett system lär av tidigare anställningar kan det tolka likhet med redan anställda som kvalitet. Då får den som passar den gamla normen en fördel, medan den som skulle bredda arbetsplatsen riskerar att väljas bort. För den enskilda arbetssökande är det svårt att protestera om hen aldrig får veta att ett automatiserat urval användes.

Svensk lag förbjuder diskriminering på sju grunder: kön, könsöverskridande identitet eller uttryck, etnisk tillhörighet, religion eller annan trosuppfattning, funktionsnedsättning, sexuell läggning och ålder. Diskrimineringsombudsmannen, DO, kan granska anmälningar och driva frågor om diskriminering. En arbetsgivare kan inte ursäkta ett orättvist resultat med att “datorn bestämde”; ansvaret ligger fortfarande hos människor och organisationer.

Även vilka röster som saknas är en maktfråga. Plattformars innehållsregler och AI-system utvecklas ofta av företag med säte i USA, medan samiska språk, svenska myndighetsbudskap eller erfarenheter från personer med funktionsnedsättning kan ha mindre data bakom sig. Den som aldrig syns i träningsmaterial, statistik eller testgrupper riskerar att bli feltolkad. Därför krävs deltagande från fler än programmerare: fackförbund, elevorganisationer, forskare och de grupper som påverkas behöver kunna granska både mål och konsekvenser.

Öppna system eller svarta lådor – och vad vi faktiskt kan veta

Det är lockande att förklara ett polariserat samhälle med filterbubblor, men forskningen ger en mer komplicerad bild. Forskaren Eli Pariser populariserade begreppet 2011 och varnade för att personlig sortering isolerar människor. Andra studier, som analyser av Facebookanvändning av forskarna Eytan Bakshy, Solomon Messing och Lada Adamic 2015, pekar på att människors egna vänskapsnätverk och val också begränsar vilka politiska perspektiv de möter. Algoritmen är en faktor, inte hela förklaringen.

Jämför Sverige med EU:s olika regleringssätt. I Sverige kan public service som SVT och Sveriges Radio erbjuda nyheter enligt sändningstillstånd och med krav på saklighet och opartiskhet. De har redaktioner vars beslut går att granska offentligt. En videoplattform har däremot normalt personliga flöden, globala regler och affärshemligheter. Båda väljer innehåll, men ansvarskedjan och insynen ser olika ut.

Källkritik om algoritmer kräver därför fler frågor än “är inlägget sant?”. När en plattform publicerar en transparensrapport är den användbar, men företaget väljer själv vilka mått som redovisas. När en tidigare anställd läcker interna dokument får allmänheten en sällsynt inblick, men materialet kan vara ofullständigt och behöver kontrolleras av oberoende forskare. En forskningsstudie med tusentals deltagare kan vara starkare än en viral berättelse, men även forskare kan sakna tillgång till plattformens fullständiga data.

EU:s AI-förordning, AI Act, innebär stegvis krav på riskhantering för vissa AI-system och sätter gränser för särskilt riskfyllda användningar. Den löser inte varje problem med sociala medier, men visar en viktig princip: ju större konsekvenser ett automatiserat beslut får, desto större behöver kraven på mänsklig kontroll, dokumentation och möjlighet att klaga vara. Digital självständighet handlar då både om egna val och om att kräva institutioner som gör makten synlig.