Avslutning och framtidsspaning

I sista kapitlet diskuterar vi kortfattat vad som kan göras för att motverka algoritmernas negativa effekter under rubrikerna samhälleliga insatser, kommersiella lösningar samt medie- och informationskunnighet (MIK). Till sist avslutar vi med att ställa frågan – vad händer nu?

Samhälleliga insatser

I efterdyningarna av det amerikanska presidentvalet i USA år 2016 har algoritmer diskuterats mer än någonsin. De stora internet­företagens bristande förmåga att filtrera bort helt och hållet fejkade nyheter har uppmärksammats. Likaså har man belyst problemet med filterbubblor när inte minst Facebooks algoritm tycks motverka att människor exponeras för andra åsikter än de som bekräftar den egna redan intagna positionen. Slutligen utsätts människor, inte minst journalister och politiker, för allt mer hat och hot i sociala medier. Själva demokratin verkar vara i gungning. Vad kan då samhället göra?
Dels handlar det om tillämpning av lagar: Hur skyddas medborgarnas integritet? Hur skyddas de från hot? Hur kan transparens kring algoritmerna skapas? Hur kan en rimlig konkurrenssituation fungera på internet när vissa aktörer är så dominerande? Det handlar också om att ge stöd till demokratins etablerade aktörer för kunskapsproduktion och -förmedling:

  • Skola och högskola utgör en grund för kunskapssamhället och garanterar en utjämnande funktion i samhället.
  • Public service och seriös kommersiell journalistik är en förutsättning för ett demokratiskt samhälle.
  • Bibliotek – folkbibliotek, skolbibliotek liksom akademiska bibliotek – och studieförbund utgör en viktig infrastruktur för kultur och kunskap.

Dessa tre samhälleliga aktörer – och säkert också andra – har potential att vara en referenspunkt för trovärdig information och nyhetsförmedling. De producerar och förmedlar inte enbart innehåll. De arbetar för medborgarnas medie- och informationskunnighet genom riktade utbildningsinsatser om bland annat algoritmer och källkritik. Det är därför viktigt att de ges förutsättningar att synas inom ramen för algoritmernas villkor.

Kommersiella lösningar

De ledande internetföretagen har också ett eget ansvar att skapa så bra produkter som möjligt. Här kan det finnas en motsättning. Det som kan upplevas som relevant för individen – till exempel Googles relevansbedömningar av sökresultat eller Facebooks nyhetsflöde – behöver inte vara relevant på samhällsnivå. Innebär det att de här företagen ska behöva ta ansvar för en ökad politisk polarisering som i alla fall delvis verkar förstärkas av deras algoritmer?

I kölvattnet av presidentvalet 2016 i USA har företagens ansvar för spridning av fejknyheter diskuterats. När länken till en sida med den fabricerade nyheten att Donald Trump fick flest röster i valet hamnade bland de översta resultaten hos Google talade en representant för företaget om den händelsen i termer av ett misslyckande.52 En representant för Facebook har sagt att företaget ska börja samarbeta med en organisation för faktakontroll.53 Både Google och Facebook planerar när detta skrivs även att sluta placera annonser på webbplatser som marknadsför bluffnyheter.

Företagens ansvar gäller inte enbart algoritmerna, utan också deras hantering av användargenererade data. Samhället sätter visserligen de juridiska ramarna, även om det kan vara mycket svårt med globala företag. Men även företag har ett eget ansvar.

Medie- och informationskunnighet samt sökkritik

Vilket ansvar har då individen och vilka faktiska åtgärder kan individen vidta? Det handlar om en medie- och informationskunnighet som måste innehålla ett visst mått av algoritmisk "läskunnighet", det vill säga en förståelse av och kunskap om hur information produceras och sprids på nätet. Genom sådan förståelse och kunskap kan människor bevaka sina egna intressen och skydda sina data och därmed sin personliga integritet.

Det krävs en ökad medvetenhet om vad de långsiktiga konsekvenserna kan bli om man frikostigt delar med sig av sina data för att uppnå kortsiktiga vinster i form av olika tjänsters funktionalitet.

Det krävs en medvetenhet om att algoritmerna inte är neutrala eller objektiva. Tvärtom kan algoritmer, liksom människor, vara sexistiska och rasistiska. Det krävs också en ökad medvetenhet om baksidan av den upplevda relevansen vid användningen av sök­motorer och sociala nätverkstjänster. Kanske skulle det vara en fördel om användarna själva kan påverka graden av personalisering?

Det krävs en förnyad syn på källkritik som också inkluderar det vi kallar för sökkritik. Vi behöver inte enbart kunna avgöra huruvida information är sann eller falsk. Vi behöver också kunna ifrågasätta varför vi över huvud taget får den information vi får och inte någon annan. Vårt agerande på nätet göder algoritmerna och påverkar synligheten även för andra. Det vi söker efter i sökmotorer och kommenterar i sociala medier får ökad synlighet, och omvänt.

Dessa punkter, och många andra, är viktiga för alla medborgare. Ju mer medvetna människor är, inte minst politiker, desto större krav kan de ställa på produkter och tjänster avseende personlig integritet, dataskydd och algoritmisk transparens. En förståelse av och kunskap om betydelsen av medie- och informationskunnighet är viktig för alla i samhället.

Vad händer nu?

I denna guide har vi framförallt lyft fram och synliggjort negativa konsekvenser av algoritmer som påverkar människor i vardagen. Det är därför på sin plats att återigen understryka att vi är helt beroende av algoritmer och att även de vi diskuterar i guiden har många positiva effekter. Utan dessa skulle vi vara helt hjälplösa i informationens överflödssamhälle. Att skriva om ett fenomen som är så aktuellt att det ständigt förändrar sig under skrivandet är en utmaning. Vad kommer vara aktuellt om ett år? Vilka problem kommer självdö och vilka nya kommer att dyka upp?

Ett område som troligtvis kommer att utvecklas mycket framöver handlar om hur algoritmerna dynamiskt uppdaterar sig själva, alltså självlärande algoritmer. Det går under begreppet djuplärande (deep learning) i neurala nätverk. Framstegen i denna forskning tyder på att diskussioner om artificiell intelligens kommer att bli än mer aktuella de närmaste åren. Konsekvenserna kommer att märkas på många områden: vid sökning, på aktiemarknaden, inom sjukvården, vid översättning mellan olika mänskliga språk, vid bildigenkänning och övervakning samt för självkörande bilar. En annan sak som diskuteras, delvis relaterad till djuplärande algoritmer, är hur en strikt relevansrankad träfflista vid en sökning även kan innehålla inslag av algoritmisk kontrollerad slump (serendipity).

Självlärande algoritmer lär främst av hur människor använder dem och genom att de ”matas” med data av just människor. Det är alltså av stor vikt att vi är medvetna om att de inte är neutrala utan skapade av oss, och våra kulturer, även när de verkar leva sina egna liv. Algoritmer ska därför inte ses som något som enbart påverkar oss, utan vi påverkar också algoritmernas utformning.

52. Plaugic, L. Google's answer to 'who won the popular vote' is a conspiracy blog. The Verge. 2016-11-14. http://www.theverge.com/2016/11/14/13622566/google-search-fake-news-election-results-algorithm (Hämtad 2016-12-04)
53. Ribeiro, J. Facebook is working with fact-checkers to weed out fake news. PC World. 2016-11-20. http://www.pcworld.com/article/3143425/internet/facebook-working-with-fact-checkers-to-weed-out-fake-news.html (Hämtad 2016-11-20)