Facebook merket svarte menn i video som primater

[NTB - digi]

Facebook merket svarte menn i video som primater

[Trene Arnholdt]

Skulle gjerne sett bildet selv...

Kan jo ha vært et "stunt" isene satt at de som er berørt i saken.. Dollars eller fame er ofte grunnen til sånt fjas..

[Sandormen]

Har ikke sett det selv, men det er jo et kjempe varsko om ikke å stole blindt på algoritmer, eller ‘AI’, som dem gjerne kaller det.

Apple gikk jo nettopp tilbake på initiativet om å analysere bilder. Hensikten var jo å avsløre misbruk av barn. Man kan jo lett forestille seg at antallet falske anklager ville eksplodere. Spesiellt i de her nypuritanske tider hvor nye ‘krenkelser’ oppfinnes hver dag.

[Tåkefyrste]

Husker noe lignende skjedde for noen år tilbake der google photos merket et bilde av ei dame og en mann som "gorillas".

https://www.bbc.com/news/technology-33347866

[Haiku]

Slikt er helt klart diskriminerende.

Når det er sagt, er vi alle apekatter.

[shockorshot]

4 hours ago, Trene Arnholdt said:

Skulle gjerne sett bildet selv...

Kan jo ha vært et "stunt" isene satt at de som er berørt i saken.. Dollars eller fame er ofte grunnen til sånt fjas..

Man trenger ikke så veldig mye kunnskap av hvordan bildegjenkjenning fungerer, til å forstå at dette her er mest sannsynlig ikke et stunt.

Shit in, shit out.

[Loke Aashamar]

Nå er det nå en gang slik at mennesket tilhører slekten primater, just sayin' Gjelder selvsagt uansett hudfarge.

[KarvaBlad]

Haiku skrev (7 timer siden):

Slikt er helt klart diskriminerende.

Når det er sagt, er vi alle apekatter.

Apekatter er ikke det samme som aper. Tenk på engelsk monkey. Apekatter har gjerne hale. At vi alle er primater, er imidlertid korrekt.

[Haiku]

...er klar over det. Men vi er uansett alle apekatter 😁

[tommyb]

Artikkelen kan jo gi inntrykk av at det er feilaktig at vi mennesker er primater. Uheldig at bildegjenkjenningen er såpass dårlig, da. La oss håpe bildegjenkjenningen blir bedre over tid, slik at den begynner markere kreasjonister og andre fundamentalister som primater også.

[Serpentbane]

Ok, men så er det lov å ha et snev av selvironi og humor også da. Det er stor forskjell på utilsiktede ting og aktiv diskriminering. 

Nå er det jo om og gjøre å bli lest mulig støtt av de minste mulig ting, og så hyle og bære seg i sosiale media.

[Theo343]

At AI gjør pinlige feil i sitt utviklingsløp må vi nok regne med. Jeg ville ledd like uforstyrret om Facebook ved en feil merker sterkt overvektige som andre type dyr. Dette er ikke krenkelsesverdig for å si det mildt.

[tommyb]

Det har tidligere vært påpekt at AI får utilsiktede utfall fordi bildematerialet inneholder en stor overvekt av bilder av lyshudede mennesker. Tilsvarende kan big data inneholde ubalanserte mengder informasjon om forskjellige grupper. Feilen som gjøres er da at man overfører verktøy til andre utvalg av data enn de verktøyene ble utviklet med. En eventuell faktisk diskriminering skjer som sådan i utvalget av læringsdata, og det går an å gjøre systematiske tiltak for å kompensere for dette. 

Jeg velger å anta at en grunn til at slike problemstillinger blir tatt opp er for å påpeke svakheten, adressere den med slike tiltak, og resultere i bedre algoritmer som ikke gjør slike feil.  Ikke så mye for å demonstrere at man blir krenket.

 

[Atib Azzad]

11 minutes ago, tommyb said:

*snip*

Takk som avslører en mer substansiell bakgrunn her, jeg antar det stemmer som du sier, at dette er kjernen i problematikken, men jeg tror ikke nødvendigvis intensjonen bak disse mer tabloide oppslagene er å peke på dette.
Derfor er det nyttig med informerte individer som kan avdekke mer interessante forhold bak saker som ser ut til å utvikle seg til å bli det jeg kaller sånn er det blitt-nyheter, hvor man bare fremstiller nå til dags i en kontekst hvor man skal indigneres over hvordan det foreslås å ha blitt.

[tommyb]

Det er det jeg også tenker - men samtidig så er tabloide nyheter et nyttig hjelpemiddel for å få nok oppmerksomhet til at tiltak faktisk vil bli gjort. Så selv "jeg er krenket" kan være et verktøy for å få gjennom endringer, selv om man vet man da blir en del av "se hvem som har blitt krenket i dag"-bildet. Inntil hele greia fører til en eller annen form for backlash, da. 

[Atib Azzad]

4 minutes ago, tommyb said:

Det er det jeg også tenker - men samtidig så er tabloide nyheter et nyttig hjelpemiddel for å få nok oppmerksomhet til at tiltak faktisk vil bli gjort. Så selv "jeg er krenket" kan være et verktøy for å få gjennom endringer, selv om man vet man da blir en del av "se hvem som har blitt krenket i dag"-bildet. Inntil hele greia fører til en eller annen form for backlash, da. 

Ja, muligens.
Men jeg vet ikke, jeg liker din optimisme og håper du har rett.
Selv synes jeg det ser ut til å fordreie tematikken så kraftig at verktøyet gjøres meningsløst.
At det fungerer på samme måte som klimaskepsis eller en eller annen hot topic issue, hvor man ikke nødvendigvis snakker for å overbevise folk om at det man sier er riktig, men at målet istedet bare er så så tvil i tematikken.

[Theo343]

Årsaken til at dette skjer ble påpekt og forklart bla. i en serie på Netflix om AI i 2020 en gang. Så jeg er litt overasket over at artikkelen ikke nevner dette.

Husker jeg linket den her inne den gang. Ganske gammelt nytt når Netflix har rukket å lage en produksjon om det.

EDIT:
Netflix - Coded Bias.
https://www.netflix.com/title/81328723

Publiseringen til Joy er fra 2018.
https://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212

 

Endret 5. september 2021 av Theo343