Amazon skroter AI-verktøy som diskriminerte tech-kvinner

[Gjest Marius B. Jørgenrud]

Trente opp algoritme for å rekruttere de beste utviklere og teknologer, men modellen likte ikke kvinner.

Amazon skroter AI-verktøy som diskriminerte tech-kvinner

[l0mf0mgl0mbl0og]

Det er jo fordi det er fakta, dessvere. Menn ER mer egnet.

[Vice]

Det er jo fordi det er fakta, dessvere. Menn ER mer egnet.

Kan hende de er mer egnet, men det er ikke fordi de er menn i seg selv.

[l0mf0mgl0mbl0og]

Kan hende de er mer egnet, men det er ikke fordi de er menn i seg selv.

 

Nei, men det er pga. egenskap menn statistisk sett besitter langt oftere enn kvinner. Analytisk tenkning, kreativitet, mindre sykdom og skavanker, blir ikke gravide, og takler stress langt mer. Og til slutt: interesse for tekniske ting.

Endret 12. oktober 2018 av l0mf0mgl0mbl0og

[Vice]

Ikke egenskaper de besitter automatisk i form av deres kjønn (bortsett fra graviditet..) ,men egenskaper de har tilegnet seg og som er i samsvar med ønskede egenskaper innenfor aktuelle yrkesgruppe.

[Skatteflyktning]

Morsomt!!

 

AI må først indoktrineres politisk før de kan slippes løs på den virkelige verden.

 

[Slovpeis]

Ja ...

Jeg ser en fordelig på ca 75% menn, dette høres ut som en vanlig fordelig innen for tech bransjen. Det har ikke med at bransjen ikke liker kvinner, det har med at kvinner ikke interesserer seg for bransjen i like stor grad - og det er et valg de har lov å gjøre.

 

Er selv redd dette har med mer politikk å gjøre enn at AI ikke gjorde jobben sin ...

[Anders Jensen]

Det er jo fordi det er fakta, dessvere. Menn ER mer egnet.

 

Jeg ville heller sagt at menn VAR mer egnet. Fordi før kunne du lukke deg inn på et rom og fordype deg i et relativt lite og avgrenset IT system som løste et avgrenset problem. I dag bygger vi plattformer som er mer som komplette økosystem med vesentlig samhandling på tvers av systemene. Da trenger du folk som kan løse problemer sammen, ikke alene, og da er faktisk kvinner minst like nyttige som menn.

 

Når det kommer til AI/ML ser det ut for meg som at folk har en tendens til å overvurdere hvor generelle de er. Det er ikke tilfeldig at spill som Sjakk og Go er blant de mest brukte eksemplene på å vise til suksess. Det er fordi reglene i de spillene ALDRI endrer seg. Verden er annerledes. Hva som er en den "perfekte" ansatte endrer seg fortløpende ettersom behovene endres. Det er AL/ML dårlig til å håndtere.

[GOAXT8WU]

Hva er en "teknisk stilling"? 90% av verdens programmerere er menn.

[GOAXT8WU]

 

Det er jo fordi det er fakta, dessvere. Menn ER mer egnet.

 

Jeg ville heller sagt at menn VAR mer egnet. Fordi før kunne du lukke deg inn på et rom og fordype deg i et relativt lite og avgrenset IT system som løste et avgrenset problem. I dag bygger vi plattformer som er mer som komplette økosystem med vesentlig samhandling på tvers av systemene. Da trenger du folk som kan løse problemer sammen, ikke alene, og da er faktisk kvinner minst like nyttige som menn.

 

Når det kommer til AI/ML ser det ut for meg som at folk har en tendens til å overvurdere hvor generelle de er. Det er ikke tilfeldig at spill som Sjakk og Go er blant de mest brukte eksemplene på å vise til suksess. Det er fordi reglene i de spillene ALDRI endrer seg. Verden er annerledes. Hva som er en den "perfekte" ansatte endrer seg fortløpende ettersom behovene endres. Det er AL/ML dårlig til å håndtere.

Ja, og når ikke-teknigsk kompetente skal lage noe får vi ofte nav-systemer der du printer en pdf og sender i posten.

[G0RJS955]

Jeg stusser over at det ikke nevnes hvilke forsøk som ble gjort på å fjerne indikasjoner på kjønn i dokumentene før den automatiske vurderingen. Er det så vanskelig å vaske søknadene slik at de ikke inneholder tegn som sier hvilket kjønn som står bak en søknad?

[Skatteflyktning]

Du forutsetter at systemet ikke fortsatte å velge menn ... selv etter at det ikke fikk kjønnsopplysninger.

[XIFXEGLO]

Det er jo bare til å stikke hodet inn i en gjennomsnittling teknisk skoleklasse; Programmering, elektronikk, mekanikk, osv.

 

Flertallet der er menn, så det er vel ikke så veldig rart at det er litt vrient å rekrutere 50/50 med menn/kvinner...?

 

Gitt en helt vanlig normalfordeling av karakterer vil det også være flest menn som er flinkest. Det er dette AI'en "oppdaget" og dermed scorer det lavt å være kvinne.

[missi]

Kan hende de er mer egnet, men det er ikke fordi de er menn i seg selv.

Jo, nettopp derfor. Menn flest har egenskapene som trengs og har disse egenskapene betydelig hyppigere enn kvinner. Dette er velkjente biologiske forskjeller.

[missi]

Jeg stusser over at det ikke nevnes hvilke forsøk som ble gjort på å fjerne indikasjoner på kjønn i dokumentene før den automatiske vurderingen. Er det så vanskelig å vaske søknadene slik at de ikke inneholder tegn som sier hvilket kjønn som står bak en søknad?

Ja. Forskning viser at en bare på formuleringer kan med (mener det var) 80% sikkerhet anslå kjønnet på den som har skrevet.

[Emancipate]

Leste dere ikke artikkelen? Programmet valgte ut nye ansatte basert på hvilke søkere som var vanligst, ikke basert på hvilke som ville vært best i jobben. Denne tilnærmingen viste seg selvsagt å være fundamentalt feil. Det er helt uavhengig av kjønn, selv om feilen ble oppdaget på grunn av en kjønnsskjevhet i resultatene. Hvem vil vel ha en vanlig søker? Poenget med et sånt program, er å plukke ut geniene!

[Vice]

Jo, nettopp derfor. Menn flest har egenskapene som trengs og har disse egenskapene betydelig hyppigere enn kvinner. Dette er velkjente biologiske forskjeller.

Kilde?

[missi]

Kilde?

Nei. Finn fagartikler selv. Jeg har måttet lese meg frem til dette selv, du får jammen gjøre en innsats på egenhånd.

[Vice]

Nei. Finn fagartikler selv. Jeg har måttet lese meg frem til dette selv, du får jammen gjøre en innsats på egenhånd.

Ok, Så bare tullprat fra deg mao. Takk.

[Benny Flaggstang]

 

Kilde?

Nei. Finn fagartikler selv. Jeg har måttet lese meg frem til dette selv, du får jammen gjøre en innsats på egenhånd.

Det er ikke slik det fungerer. Det er du som kommer med påstandene. Da er det du som har bevisbyrden.

Det er flere grunner til det;

- Det er du som er ansvarlig for å holde orden i eget reir, og derfor ha dekning for egne påstander

- Med mindre du oppgir de kildene du har brukt for å trekke konklusjonen har ikke Vice noen som helst mulighet til å vite om han bruker samme kilde som deg, og dermed trekker konklusjon basert på samme datagrunnlag.

 

Videre; Det du sier er pisspreik. Det er trolig årsaken til at han lurer på hva som er kildene dine. Det er målt og vist at i store grupper så kan man generalisere tendenser til at kvinner og menn grupperer seg ulikt i henhold til noen kognitive egenskaper. Det er imidlertid samtidig påvist at dette er ubrukelig kunnskap med tanke på individer. Det er også påvist at det er større grad av ekstremiteter blant menn. Menn har flere representert i kategorien "best", men også flere i kategorien "dårligst", mens kvinner er mer stabilt i midten. Det betyr ikke at den beste kandidaten blant kvinner er "midt på treet". Selv om kvinner som gruppe har et lavere målt snitt innen et felt er det fullt mulig at den beste innen det feltet er en kvinne.

 

Så kommer man til feltet IT; Det er ikke et homogent fagfelt, og mange av de egenskapene som trengs innen IT er fagfelt hvor kvinner, som gruppe, har høyere snitt enn menn, som gruppe. Det være seg også en egenskap som allerede tidligere i denne tråden er feilplassert blant menn, nemlig analytiske evner. Det er en av de områdene mennene liker å skryte på seg å være best, men kvinnene skårer bedre på i snitt. Grunnen til at analytikerne under andre verdenskrig var nesten utelukkende kvinner var ikke fordi "mennene var i fronten så de måtte velge blant de som var igjen", det var fordi de var best.

Endret 15. oktober 2018 av Benny Flaggstang