EU har tagit fram riktlinjer för en god utveckling av artificiell intelligens, AI. Riktlinjerna är ett första steg för att få företag, utvecklare och forskning att arbeta mot samma mål – en lagenlig, etisk och robust AI.

Vare sig du kör bil, surfar på webben eller tittar på en ny tv-serie, är sannolikheten stor att du gör det med hjälp av en AI-teknologi. I nya bilar läser tekniken av din omgivning, på webben avgör den vad som ska visas i ditt sociala medie-flöde och i din strömmande tjänst tipsar den om serier baserat på vad du tidigare har tittat på.

Begreppet AI är brett och kan beskrivas på många sätt. I grunden handlar det dock om en mjukvara som analyserar stora mängder data för att lära sig om sin givna uppgift och komma fram till egna slutsatser. 

Dagens AI är problemorienterad och har ofta en specifik uppgift att utföra, se bara på våra smarta hem, men en artificiell intelligens som kan tänka och agera som en människa finns än så länge bara i fiktionens värld.

AI-baserade system har fått allt större betydelse inom områden som tillverkningsindustrin, vård- och transportsektorn. Men AI blir nu också viktigare i tjänster som berör vanliga medborgare och som används av dem.

– AI har under ganska lång tid varit en fråga främst för ingenjörer. Nu måste den diskuteras mer utifrån ett samhälls- och ansvarsperspektiv, säger Stefan Larsson, rättssociolog, jurist och samhällsvetenskaplig teknikforskare på Lunds tekniska högskola.

Ökad användning av artificiell intelligens ger fler risker 

När användningen av AI breder ut sig uppstår risker – risker som måste förebyggas i utvecklingen av tekniken. Vad händer till exempel när den information vi matar teknikens självlärande system med är felaktig, eller rent av oetisk?

Ju allvarligare situationer, desto viktigare är det att förstå hur tekniken fungerar och hur vi ska fördela ansvaret om något går snett.

Stefan Larsson

– Självlärande system är i ökande utsträckning beroende av att interagera med mänskliga värderingar och samhällsstrukturer för att lära sig. Det innebär att även nedsidor och skevheter vi har i samhället kan utgöra underlag för tekniken som i värsta fall förstärker dessa skevheter, säger Stefan Larsson.

Det är också svårt att avgöra vem som bär det slutliga ansvaret för tekniken när den blir allt mer självständig. Diskussionen kring självkörande av bilar är ett tydligt exempel: vem bär ansvaret om bilens AI missbedömer en situation och orsakar en olycka?

– Ju allvarligare situationer, desto viktigare är det att förstå hur tekniken fungerar och hur vi ska fördela ansvaret om något går snett.

Riktlinjer för en god utveckling

EU har nu tagit ett första steg mot att förebygga risker som dessa. I april 2019 publicerades ett förslag på riktlinjer för en "god utveckling av AI", det vill säga en utveckling som leder till att AI-tekniken följer lagar och regler, respekterar etiska principer samt är tekniskt och socialt robust. Riktlinjerna har tagits fram av en expertgrupp bestående av akademiker, näringslivsföreträdare och politiker.

En bra början

Stefan Larsson tycker att dokumentet är en bra utgångspunkt, och att riktlinjerna kan leda utvecklingen åt rätt håll.

– Dokumentet är bra, läsbart och en källa till inspiration på många sätt. Genom att lyfta fram behovet av tillit och etik som en central faktor bygger man en bro ut till samhället och säger att vi inte utvecklar tekniken som en neutral labbverksamhet, utan som något som ska bidra till marknader och till samhället. Troligen kommer det att påverka vart de politiska investeringarna går, och de kommer att ha effekt på forskningens inriktning och på företagens AI-policyer, säger Stefan Larsson.

Samtidigt understryker han att riktlinjerna inte är lagstiftande, och inte heller uttrycker några särskilda krav eller standarder. Snarare ska de läsas som ett första förslag som nu ska förädlas.

Det finns även en balans mellan en del rättsliga och etiska frågor som var för sig kan vara goda men som inte kan fungera samtidigt utan kompromisser.

Ett forum för diskussioner mellan EU, näringsliv och akademi kring hur detta ska ske är redan igång, och ytterligare initiativ lanseras under 2019. Riktlinjerna kan dessutom bli bättre. Vissa delar av innehållet talar emot varandra. Andra är inte förenliga med verkligheten, anser Stefan Larsson.

– För att AI ska vara tillitsfull så behöver den vara lagenlig, skriver man. Men att etik och alla lagar skulle vara förenliga över hela EU är en förenkling, säger han och fortsätter: 

– Det finns även en balans mellan en del rättsliga och etiska frågor som var för sig kan vara goda men som inte kan fungera samtidigt utan kompromisser. Det är svåra frågor att få ihop, och det är väldigt bra att de hamnar på agendan för framtida avvägningar och diskussioner.