Unga experter: Demokratisering av artificiell intelligens är nödvändig

Skriv ut sidan

Det sätt på vilket artificiell intelligens utvecklas påverkar i framtiden även vad revisionsverket granskar, skriver Jasmin Grünbaum. Våren 2018 inledde Statens revisionsverk ett program för unga experter. Syftet med programmet är att erbjuda experter som befinner sig i början av sin karriär en bred bild av revisionsverkets verksamhet. Revisionsverket får i gengäld nya intryck och fräscha idéer. De unga experterna bloggar om sina erfarenheter på revisionsverkets webbplats.

I september deltog jag i ett seminarium där deltagarna blev tillfrågade om hur mycket de tror att algoritmer påverkar deras dagliga beslut. Jag svarade att algoritmer påverkar mina beslut avsevärt. Jag kunde dock inte specificera på vilket sätt. I framtiden används artificiell intelligens (AI) inte bara för att automatisera en del av vårt arbete, utan den kan också påverka livets stora beslut som bolån. Därför är det problematiskt med min omedvetenhet.

Projektet Arbetsliv 2020 arrangerade i samarbete med Helsinki Design Week seminariet Work Up! Tekoäly ja etiikka. Det klara budskapet på seminariet var att AI bör demokratiseras. Med demokratisering av AI avses att var och en bör förstå på vilket sätt AI och algoritmer fungerar och ha möjlighet att lära sig att förstå det. Även om vi kan utvärdera funktionen i intelligenta system förstår vi inte nödvändigtvis på vilket sätt systemen fungerar.

På seminariet diskuterade deltagarna ett exempel där AI beviljar bolån. AI utbildas med vissa undervisningsdata som av misstag kan lära systemet att bevilja lån ojämlikt utifrån sökandens kön. AI kan med andra ord lära sig att grunda sina lånebeslut på fel faktor som inte nödvändigtvis har någon direkt kausalitet med sökandens återbetalningsförmåga.

För många är det oklart med vilken logik AI fungerar. Vi känner inte alls till vad som händer i ”svarta lådan” mellan data och slutresultat. Vi tänker att algoritmer genererar data så att säga automatiskt. För att transparensen och jämlikheten ska kunna säkerställas bör vi förstå på vilket sätt AI fungerar, vilka data den utnyttjar och på vilket sätt.

Arbetet med att utveckla allt mer intelligenta tekniker är en ständig tävling. Minna Mustakallio, ledande planerare specialiserad på Futurices etik och data, uppmanade oss på seminariet att fundera på vad vi vill att tekniken ska göra. Hon ansåg att utvecklingen kan vara förödande om vi inte beaktar denna synvinkel. Jaana Leikas, ledande forskare vid ​Teknologiska forskningscentralen , beskrev i sin tur ett skräckscenario där jämlikheten i vårt samhälle definieras utifrån tekniken. AI kan åtminstone inte än bedöma om dess verksamhet är etisk eller inte. Programmerare och organisationer som utvecklar intelligenta produkter har med andra ord stor makt.

När tekniken utvecklas och blir vanligare utvidgas även tjänstemannens ansvarsområde. I höst har jag haft möjlighet att reflektera över AI och den därtill hörande etiken. För tillfället arbetar jag i två stora projekt. I det ena projektet kartlägger vi verktyg som bygger på AI, i det andra projektet fokuserar vi på tjänstemannaetiken. Tillsammans kompletterar projekten min förståelse av bägge temana.

När AI och robotiken blir vanligare syns det på många olika sätt inom den offentliga förvaltningen. Inom allt fler förvaltningsområden försöker man hitta på mer effektiva, helt eller delvis automatiserade lösningar. Statens revisionsverks verksamhet förändras på två sätt.

För det första påverkar utvecklingen våra sätt att arbeta. I framtiden hjälper AI och robotiken till i rutinmässiga arbeten såsom att sammanställa basrapporter. Förändringen medför stora fördelar: revisorerna har mer tid på sig att koncentrera sig på att utveckla den egna kompetensen och utföra mer krävande analysuppgifter. För att vi ska kunna utnyttja de möjligheter som AI erbjuder ska vi kontinuerligt utveckla den egna förståelsen och kritiska synen på hur AI fungerar och utvecklas.

För det andra bidrar utvecklingen till att förändra både vår interna verksamhet och det vi på Statens revisionsverk granskar. I framtiden påverkar AI allt fler beslut inom den offentliga förvaltningen. Vi måste kunna förstå och analysera de beslut som har fattats genom AI. Vi kan inte lyckas i detta om vi inte har en djup helhetsförståelse av på vilket sätt AI fungerar.

Mitt sätt att förhålla sig till AI har förändrats under hösten. Jag tycker fortfarande om att AI används för att automatisera vissa funktioner och att den kan beakta faktorer som människan inte nödvändigtvis märker. Samtidigt är det svårt att lita på ett resultat om vi inte känner till hur AI har åstadkommit det. För att individer ska kunna förstå AI på en djupare nivå krävs insatser av individerna och framförallt transparens av aktörerna.

En bra start att öka den egna förståelsen i frågan är till exempel att delta i Reaktoris webbkurs Elements of AI. Dessutom arrangeras Smart as HEL -evenemang i Tankehörnan mellan den 5 och den16 november 2018. Fokus i evenemangen ligger på digirevolutionen och människans roll i den.

kategorier