KOMMENTAR: Kun en av fem offentlige virksomheter bruker kunstig intelligens – og det er kanskje bra!

[Redaksjonen.]

KOMMENTAR: Kun en av fem offentlige virksomheter bruker kunstig intelligens – og det er kanskje bra!

[Morten Simonsen]

Jeg liker godt at du utfordrer grunnleggende premisser som teknologideterminsime. Etter mitt skjønn er teknologi moden når vi forstår både styrken og svakheten til den, og klarer å balansere dette. Akkurat nå har vi problemer med å plassere AI, det mangler motstemmer fordi vi har så lite erfaring med det. Da er det stor fare for dårlige beslutninger.

[Gjest Slettet-t8fn5F]

tomt

Endret 23. mai 2019 av Slettet-t8fn5F

[mbertani]

Takk Lisa for en godt gjennomtenkt artikkel! Det er fint at du utfordrer premisen om KI gir automatisk bedre offentlig tjenester. Jeg er enig med deg at vi må tenkte godt hvordan man skal anvende KI, og det er alltid sunt å vurdere OM man skal løse et problem med KI i det hele tatt.

 

Derimot, tenker jeg at KI er moden nok til å anvendes i offentlig tjenester, hvis det brukes på en forsvarlig måte. Dette betyr at man må ikke bare tenke på teknologi, men fokusere mer på menneskene. Feilen vi ofte gjør er at man tenker bare på data og algoritmer, og "glemmer" at de systemene vi lager skal brukes av mennesker. Og dette krever samarbeid fra flere fagfelt som sammfunsvitenskap, psikologi, sosiologi, informasjonsteknologi, osv. Et eksempel på dette er konferansene arrangert av https://fatml.org/, hvor mange av disse fagfeltene går sammen for å finne ut hvordan kan man anvende KI på en transparent, rettferdig og etisk forsvarlig måte.

 

Det er ikke de store drivere som Facebook/Google/Amazon som har dette som fokus, siden målene dems er koblet til inntjenning av penger. Derfor tenker jeg at det offentlig sektor må starte å eksperimentere med denne teknologien, for å finne den riktig måte å anvende det, hva som funker og ikke fuker, og finne ut hva er best practices. Dette kan gjøres via forskningssamarbeid med institusjoner som UiO, NTNU, osv, eller til å med med private selskap som ønsker å forstå hvordan å anvende KI på en etisk forsvarlig måte (disclaimer: ja, det jobber jeg med).

 

Hvis vi tar ditt eksempel om barnevernet. Bruk av KI kan hjelpe med å standardisere saksbehandlingen og bistå saksbehandlere om å være oppmerksomme over dems egne fordommer. For eksempel, du kan få et forslag som sier:

- Saken du vurderer nå likner på disse to saker. Her velger du avslag, når du har tidligere godkjent sakene. I de tidligere saker var foreldrene ikke etnisk-norske. I denne saken er foreldre etnisk-norske. Har dette en stor vekt i din vurdering?

Altså vi vet at folk ikke klarer å ta samme beslutning to ganger, selv når de får samme bevis (ikke for å reklamerer for meg selv, men her beskriver jeg dette litt bedre https://medium.com/grensesnittet/https-medium-com-mab-55055-what-is-fatml-and-why-should-you-care-dfb36e51f2f4 )

 

Så jeg vil gjerne påstå at det er enklere å fikse fordommer fra algoritmer enn fordommer fra mennesker. Jeg har stor tro på at samarbeid mellom maskin og mennesker er veien videre i offentlig tjenester. Her er det et godt eksempel på forskning som prøver å finne ut den riktig måte å jobbe sammen: https://deception.machineintheloop.com/

 

Så vi trenger mer tverfaglig samarbeid for å løse disse problemene. Men uten en konkret sak å jobbe med, blir det vanskelig å finne de beste løsningene!