AI-saksbehandlerne kommer. Hvordan hindrer vi at de blir urettferdige?

[Marianne Gjessing]

AI-saksbehandlerne kommer. Hvordan hindrer vi at de blir urettferdige?

[Crext]

I Kina sine søkemotorer er det umulig å finne et homofilt gift par, hvis en søker etter "married couple", en finner kun heterofile par. 
På google er det umulig å finne et "white heterophile married couple", hvis en søker etter dette, en finner kun alt annet.

Begge deler er like ille. Det gjelder å unngå spillet i sin helhet. 

[disk]

1 hour ago, Crext said:

I Kina sine søkemotorer er det umulig å finne et homofilt gift par, hvis en søker etter "married couple", en finner kun heterofile par. 
På google er det umulig å finne et "white heterophile married couple", hvis en søker etter dette, en finner kun alt annet.

Begge deler er like ille. Det gjelder å unngå spillet i sin helhet. 

Eg søkte etter "married couple" og fant på førsteplass og videre masse gifte menn og kvinner, som også har hvitfarge, men eg søkte ikke etter white heterophile married couple, men når eg gjorde det ble det fortsatt treff av bilder. 

Hvor på google er det umulig å finne det du nevner? Lyger du bare så det renner av deg?

[Outlier616]

Et dataprogram vil aldri ha bias, med mindre man mater det med bias. Garbage in, garbage out.

Men når det kommer til evaluering av bias hos AI så virker det på meg som om de er MER utsatt for algoritme-manipulering av woke folk enn de er fordommer de mates med i utgangspunktet.

F.eks fant AI'en til Meta at over 80% av rasisme på Facebook var rettet mot hvite, og mesteparten av kjønnsbasert hat var også rettet mot menn. Sansyneligvis fordi de gruppene ikke er like hårsåre og dermed ikke rapporterer og blir sensurert i samme grad. Men dette var ikke politisk akseptabelt, og ble spunnet politisk, så den ble omprogrammert med motsatt bias i stedet for. Lignende ting har nå skjedd mange ganger.

AI, med god og nøytral data, kan gi oss konklusjoner vi ikke nødvendigvis ønsker å høre eller er komfortable med.

[Boop]

Mitt spørsmål er hvordan forhindrer vi at det offentlige kaster bort ressurser på en (i denne sammenhengen) luftslott-teknologi som gang på gang har vist at den feiler på oppgaver som krever den minste grad av innsikt og situasjonsforståelse. Man trenger ikke være spåmann for å vite at et forsøk på å lage et system som kan erstatte saksbehandligsprosesser med dagens teknologi vil feile, forskjellen er at på dette tidspunktet har man ennå ikke brukt masse penger på konsulenter. Det kan man godt spare seg for.