AI och etik i Almedalen

Share this post:

Förra årets stora fokus i Almedalen var digitalisering. I år är det artificiell intelligens som är på allas läppar. Det är framförallt de etiska utmaningarna som artificiell intelligens för med sig som diskuteras. En mängd paneler, fireside chats och seminarier tar sig an etiska frågeställningar i ljuset av AI.

Att etiska frågeställningar är så på tapeten är inte konstigt. Å ena sidan så har den senaste tidens digitaliseringsvåg krattat vägen för konkreta implementationer av artificiell intelligens. Å andra sidan så har en mängd teknologiska genombrott skett inom AI-området som har gjort att det blivit alltmer angeläget att enas om etiska principer, standards och riktlinjer.

Utöver detta så har vi också den senaste tiden sett ett flertal exempel där artificiell intelligens har varit inblandat i olika etiskt utmanande händelser. Tänk bara på dessa tre händelser:

• Facebook & Cambridge Analytica skandalen där nästan 100 miljoner Facebook användarens personliga data läcktes utan användarnas godkännande

• Dödsolyckan tidigare i år där en självkörande bil förolyckade en fotgängare

• Fallet där Alexa  ”tjuvlyssnade” på en privat konversation och agerade på vad som sas utan att detta var önskat

Dessa händelser har satt etik högst upp på AI-agendan vilket återspeglades i Almedalen i år.

Accenture’s AI Panel

Länk till Accenture’s LinkedIn post om AI-panelen

Jag hade själv nöjet att delta i en av alla de paneler som fokuserade på just AI och Etik. Panelen modererades av Accenture och bestod av representanter från Google, Vattenfall, Folksam, Swedbank och IBM. Det var intressant att notera att även om vi i panelen angrep de etiska frågorna utifrån lite olika infallsvinklar, vilket är naturligt eftersom de respektive bolagens affärsverksamheter skiljer sig åt, så finns det en gemensam grundsyn på vikten av att ta sig an dessa frågeställningar tillsammans och i samverkan.

AI & Bias

I ett flertal AI-paneler diskuterades problematiken kring bias. Varför bias är så viktigt att adressera kan exemplifieras genom utmaningarna med de algoritmer som gör det möjligt för artificiell intelligens att identifiera innehållet i bilder. Denna så kallade bildigenkänningsförmåga öppnar upp en mängd olika användningsområden. Det mest närliggande exemplet är kanske IphoneX FaceID. Men bildigenkänning kan givetvis användas för en mängd olika syften, t.ex. för att bedöma röntgenbilder eller för att identifiera personer fångade på övervakningskameror.

Oavsett av vilken anledning bildigenkänning används så är det givetvis viktigt att de algoritmer och de data-set som ligger till grund för denna förmåga är så neutrala som möjligt. Och det är här bias kommer in.

En studien av ett forskarteam vid MIT lett av Joy Buolamwini visade tidigare i år stora problem med de bildigenkänningsalgoritmer som utvecklas och används av Microsoft, IBM och Face++.¹ Det visade sig att alla tre bolagens algoritmer var bättre på att känna igen äldre vita män än yngre färgade kvinnor. Detta är givetvis både helt oacceptabelt och problematisk. I princip består problematiken i att vi, om vi inte är uppmärksamma när vi utvecklar denna typ av artificiellt intelligens, riskerar att föra över våra egen bias till dessa kognitiva system när vi istället skulle kunna utveckla artificiella lösningar som är bra mycket mer neutrala, rättvisa och medvetna än vad vi människor stundtals är…

Jag är säker på att vi kommer att få höra mycket mer om etiska utmaningar med artificiell intelligens framöver. Jag är dock också säker på att vi framgångsrikt kommer att kunna tackla dessa utmaningar. Det kommer dock att kräva att vi alla jobbar tillsammans. Ett fint exempel på en gedigen samverkan tvärs olika bolag som i vissa avseende är direkta konkurrenter med syfte att adressera etiska utmaningar med artificiell intelligens är ”Partnership on AI”.

”Partnership on AI” är en organisation som skapades 2016 av AI-forskare vid sex ledande tech-bolag (IBM, Google, Microsoft, Amazon, Facebook och Apple). Idag utgör ”Partnership on AI” en gruppering om cirka 50 organisationer.

Vem vet. Kanske får vi se ”Partnership on AI” närvara i Almedalen nästa år?

Trevlig sommar!

/Patrick Couch, IBM

Fotnot:

När MIT-teamet publicerade sina fynd (som du kan ta del av på www.gendershades.org) bemötte IBM detta genast [http://gendershades.org/docs/ibm.pdf] och vid IBM’s stora årliga konferens i Las Vegas annonserade IBM Research ett initiativ som explicit syftar till att minska bias i artificiell intelligens.

Och vill du veta mer om hur IBM jobbar med etiska utmaningar med artificiell intelligens så kan du ta en titt på följande:

• IBMs VD Ginni Rometti uttalar sig tidigare i år på Davos om IBM’s 3 grundprinciper för etisk AI

• IBMs IBM Watson CTO, Rob High pratar om dessa 3 principer vid The Mobile World kongress tidigare i år