Tankar från seminarium om etisk och tillförlitlig AI

Share this post:

Här kommer några reflektioner från det seminarium om etisk och tillförlitlig AI som IBM helt nyligen arrangerade i Stockholm. Deltagare, presentatörer och paneldeltagare gjorde djupdykningar i frågor om ”god” AI, om hur vi säkerställer att framtidens AI ger oss de värden vi vill ha och rättar sig efter de värderingar vi önskar leva efter. Många tänkvärda reflektioner kom från paneldiskussionen med Jon Simonsson, ordförande i Kommittén för teknologisk innovation och etik, Jan Gulliksen, professor i människa-datorinteraktion på KTH, Robin Vetter, assisterande programchef Digitala Samhället vid Fores och Therese Svensson, data science konsult på IBM, varsamt modererade av Mikael Haglund, CTO på IBM.

Etisk AI i teorin

Samtalet tog avstamp i definitionerna i EUs riktlinjer. Dessa ställer sju krav på tillförlitlig AI (mänskligt agentskap och mänsklig tillsyn, teknisk robusthet och säkerhet, integritet och dataförvaltning, transparens, mångfald, icke-diskriminering och rättvisa, samhällets och miljöns välbefinnande och ansvarsskyldighet). Olika typer av databias presenterades – indirekt samhällsintroducerad bias, direkt samhällsintroducerad bias, och personöverförd bias.

Etisk AI i praktiken

Vi fick en bild av den systematiserade hjälp som finns att få i form av verktyg och processer som gör det möjligt att övervaka AI och undvika partisk AI. Detta arbete pågår under hela livscykeln – och vid varje designbeslut – av en AI-lösning. Systemet (med AI) som man vill bygga angrips då från flera infallsvinklar och inkluderar alla intressenter och aktörer.

Panelen debatterar på seminarium AI & etik, den 16 december 2019.

I paneldebatten pekade många på vikten av att hitta stegvisa sätt att komma fram till ett fungerande ramverk. Politiker och tjänstemän är inte vana vid att hantera frågor om AI och etik, så vi måste hitta nya dynamiska arbetssätt med stegvisa förändringar – från riktlinjer, branschkoder, certifiering till att överväga regelverk efter hand och när vi säkerställt större kunskap och förståelse för tekniken och dess effekter. Korskoppling mellan olika domäner och olika kompetensområden sågs som nödvändigt för att kunna utveckla väl fungerande tillämpningar. I praktiken, när vi utvärderar AI ur ett etiskt perspektiv, behöver vi segmentera på tillämpningsområden. Det är en skillnad i risk mellan en konsumenttillämpning och en tillämpning som hanterar frågor som rör våra liv. Med den snabba omställningstakt vi har nu är det viktigt att förstå hur etisk AI ingår i nya arbetssätt och vilken kompetens som krävs för detta. Ett sätt att öka förståelsen är att införa metoder och processer som möjliggör ett kontrollerat experimenterade. Ett sådant iterativt förändringsarbete gör att vi kan hantera risker samtidigt som vi får underlag för möjligheter som kan skalas upp. För att vi ska kunna säkerställa en väl fungerande etisk och tillförlitlig AI behöver alla aktörer i berörd sektor vara med och bidra.

“Är AI en rimlig tillämpning för problemställningen?”

Min egen reflektion efter seminariet handlar om vikten av att ställa frågan: Är AI en rimlig tillämpning för problemställningen i fråga? Detta för att undvika att vi väljer teknik före vi har en klar bild av problemställningen, vilka värden som kan skapas och fångas och att den är direkt kopplad till verksamhetens strategiska mål.

Det vore väldigt kul att höra dina egna tankar och erfarenheter av etisk AI – välkommen att kontakta mig om du vill!

//Torbjörn Hägglöf (torbjorn.hagglof@se.ibm.com)

Mer läsning för den intresserade:

Guidelines vid design av AI-lösningar – Everyday Ethics for Artificial Intelligence

Factsheets for AI Services  – från vår F&U-blogg

IBM Watson OpenScale

Introducing AI Fairness 360 – ett omfattande open-source toolkit med mätetal för att kontrollera oönskad databias i data och maskininlärningsmodeller, och algoritmer för att korrigera databias

Therese Svensson reder ut begreppet databias, här på THINK-bloggen