Fredrik Heinz

Fredrik Heintz från Linköpings universitet och AI Sustainability Center, arrangerar ett seminarium om AI och etik.

Fredrik Heinz talar på Offentliga Rummet

I dag fattas de flesta beslut inom offentlig verksamhet av människor, som har egna värderingar och som gör etiska avvägningar innan de fattar besluten.

Men offentlig verksamhet behöver bli mer digitaliserad – för att möta både befolkningens krav på service och användarvänlighet, men också för att spara resurser, tid och pengar. När mänskligt beslutsfattande kompletteras av Artificiell Intelligens, så måste beslutssystemen tränas upp för att representera verkligheten.

Fredrik Heintz, Linköpings universitet och AI Sustainability Center, du ska hålla ett seminarium om AI och etik, varför är det här viktigt att ta del av?

– Det finns väldigt stor potential med AI, samtidigt är det ytterst viktigt att användare och medborgare litar på systemen. För att vi ska kunna lita på systemen är det nödvändigt att de utvecklas på ett etiskt sätt och att de beslut som systemen bidrar till är etiskt försvarbara.

Kan du ge ett exempel på när det här har hänt?

– Ett konkret exempel är ansiktsigenkänning som användes av polisen i USA. Den fungerade sämre på svarta kvinnor. Och det är för att träningsdatan som användes för att träna upp systemet bestod huvudsakligen av vita och asiatiska män.

– Ett annat fall var en tjänst som visade jobbannonser, där systemet visade huvudsakligen lågbetalda jobb för kvinnor och huvudsakligen högbetalda jobb för män. När systemet inspekterades visade det sig att det hade utgått från verkligheten, där det är vanligare att kvinnor har lågbetalda jobb, och gjort den felaktiga slutsatsen att de föredrar den typen av jobb. I det här fallet handlar det alltså om att systemet inte ska utgå från verkligheten, utan snarare vad vi önskar att verkligheten borde vara.

– Det finns inga enkla svar utan det är en ständigt pågående debatt kring hur vi ska säkerställa att vi får rätt lösningar. Och den etiska aspekten blir en viktig del i det.

Sveriges Kommuner och Landsting

Sveriges Kommuner och Landsting

SKL är en arbetsgivar- och intresseorganisation för landets alla kommuner och regioner.

Medarrangörer

Logotyp Västerås stad
Logotype Vinnova
Logotyp Inera
Logotype SKL Kommentus

Samarbetspartners

Logotyp DIGG
Logotype eSam
Logotype Regeringskansliet Finansdepartementet
Logotyp Dagens samhälle