Chatboten «Tay» ble rasist av å lese kommentarfelt: Hvem har ansvaret når kunstig intelligens ikke fungerer?

[Redaksjonen.]

Det er forbausende hvor lite fokus både kunde og leverandør har på risikofordelingen ved et produkt som tilsynelatende tenker selv, skriver kronikkforfatterne.

Chatboten «Tay» ble rasist av å lese kommentarfelt: Hvem har ansvaret når kunstig intelligens ikke fungerer?

[TG-]

Kanskje det ikke holder med AI, den trenger AM (kunstig moral) og Ah (kunstig humor) også? ?

[Morten Skogly]

På endel punkter kan det være mer nyttig å sammenligne output fra en AI med en ansettelse, istedet for kjøp av et produkt, spesielt juridisk, og spesielt innen fagfelt som er såpass esoteriske som jus. Etter at en ansettelse er gjort går aldri arbeidsgiver til utdannelsesinstitusjonene der den ansatte er formet med krav om kompensasjon, dersom den ansatte ikke leverer. Det er dog normalt med prøvetid på nyansettelser.

[Gjest Slettet-Pqy3rC]

Chatboten «Tay» ble rasist av å lese kommentarfelt: Hvem har ansvaret når kunstig intelligens ikke fungerer?

Ble den rasist av å lese kommentarfelt er det jo tydelig at AI fungerer, den lærer jo tydeligvis av det den leser.

 

Dog er det jo mulig hva som betegnes som fungerende for AI er annet en normalen til folk flest. Altså; De fleste mennesker fungerer tydeligvis ikke.

Endret 6. juli 2018 av Slettet-Pqy3rC

[Hilberg Karoliussen]

 

Chatboten «Tay» ble rasist av å lese kommentarfelt: Hvem har ansvaret når kunstig intelligens ikke fungerer?

Ble den rasist av å lese kommentarfelt er det jo tydelig at AI fungerer, den lærer jo tydeligvis av det den leser.

 

Dog er det jo mulig hva som betegnes som fungerende for AI er annet en normalen til folk flest. Altså; De fleste mennesker fungerer tydeligvis ikke.

Jeg er enig med deg, resultatet viser jo at den fungerer. Primitivt! Tay har vel neppe vært gjennom menneskets historikk, - eller fått med seg begrepet "likeverd" når det gjelder etnisk bakgrunn og motsetninger. Og at "likeverd ikke er det samme som "like".

 

Tror Tay og andre AL's må få mer utdannelse og begreper om menneskets historie, - kort sagt: Leve og utvikle seg slik vi ønsker våre barn får gjøre, før Tav og søskene hans leser kommentarfelter som en del av opplæringen.

[8DX8QO0Y]

Er det intelligens hvis den må fortelles hvordan den skal reagere i alle settinger før den kan gjenta det?

[Gjest Slettet-Pqy3rC]

Er det intelligens hvis den må fortelles hvordan den skal reagere i alle settinger før den kan gjenta det?

Vel, det er slik alt levende fungerer, inkludert oss. Det er ytterst få som gjør annet enn hva flertallet mener.

[Hilberg Karoliussen]

 

Er det intelligens hvis den må fortelles hvordan den skal reagere i alle settinger før den kan gjenta det?

Vel, det er slik alt levende fungerer, inkludert oss. Det er ytterst få som gjør annet enn hva flertallet mener.

I selv seg ikke, men hvis den på basis av retningslinjer kreativt kan finne løsninger så er man kanskje på vei?

[Gjest Slettet-Pqy3rC]

I selv seg ikke, men hvis den på basis av retningslinjer kreativt kan finne løsninger så er man kanskje på vei?

"retningslinjene" er jo hva AI setter opp for seg selv ved å gjennomgå mengder av data. På samme måte som vi mennesker får erfaringer gjennom livet.

 

AI blir imidlerid aldri "smartere" enn hva retningslinjene tillater. Logikken (løsningene) baseres alltid på hva den har "lært". Noe helt nytt må prøves først, akkurat som vi mennesker også må.

Endret 7. juli 2018 av Slettet-Pqy3rC

[Spoki0]

 

Chatboten «Tay» ble rasist av å lese kommentarfelt: Hvem har ansvaret når kunstig intelligens ikke fungerer?

Ble den rasist av å lese kommentarfelt er det jo tydelig at AI fungerer, den lærer jo tydeligvis av det den leser.

 

Dog er det jo mulig hva som betegnes som fungerende for AI er annet en normalen til folk flest. Altså; De fleste mennesker fungerer tydeligvis ikke.

De fleste mennesker har trent opp filtreringsalgoritmen sin over lengre tid. Selv om enkelte har trent på dårlige dataset, så går det stort sett bra.

[Twinflower]

Det er jo det samme med unger: de kommer hjem fra skolen og har lært banneord og foreldrene må ta ansvaret som oppdragere ved å lære de om rett og galt ettersom ungene gjør egne erfaringer.

[8DX8QO0Y]

Ok. Det tenkte jeg ikke på. Men hva slags garantier har vi for at AI ikke bare blir en skikkelig autist/aspergers som blir pleietrengende hele livet og aldri utvikler evnen til kritisk tenkning?

[Roger Hansen]

Nå var vel TayAI satt opp slik at man kunne sende meldinger gjennom denne bot'en også og dermed få den til å bli som en papegøye og herme etter hva brukerne skrev.

 

"Searching through Tay's tweets (more than 96,000 of them!) we can see that many of the bot's nastiest utterances have simply been the result of copying users. If you tell Tay to "repeat after me," it will — allowing anybody to put words in the chatbot's mouth." - https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist

 

Så alt av rasisme og galskap som skjedde med TayAI var ikke utelukkende AI som gikk fra snill til rasist og jødehater på 24 timer, men i stor grad også brukere som misbrukte funksjonen "repeat after me"

[Gavekort]

Er det intelligens hvis den må fortelles hvordan den skal reagere i alle settinger før den kan gjenta det?

 

Den blir ikke fortalt hvordan den skal reagere. Den blir fortalt hvordan den skal klassifisere data for å gi den riktige informasjonen. En kunstig intelligens er ikke intelligent før den kan svare relativt bra på usett data.

[G]

Er det intelligens hvis den må fortelles hvordan den skal reagere i alle settinger før den kan gjenta det?

 

Du må jo lære opp barn også på den måten du ikke liker, så..

[Hallvard The Horrible]

Er det ikke slik at ukritisk bruk av AI på historiske data lett fører til at man gjentar historiske feil?

[MultiGamerClub]

Med hvordan "Tay" reagerte på twitter kan jeg tenke meg all "faenskapen" som den fikk på twitter-meldinger om alt den ikke trenger og vite.

[Sandormen]

Svaret til tittelen er såre enkel.

‘Hvem har ansvaret om AI’en ikke fungerer’. Produsenten, selvfølgelig.

Det første jeg hadde gjort om jeg var religiøs, var å saksøke Skaperen. Han har en fæl EULA, og jeg er IKKE fornøyd med skaperverket.

[Bjørn Eng]

Så de som er innvandrerkritiske er "troll". Mens de som har "korrekt" mening er de som skal inn i logaritmene ? Virkelig imponerende.

[Gavekort]

Så de som er innvandrerkritiske er "troll". Mens de som har "korrekt" mening er de som skal inn i logaritmene ? Virkelig imponerende.

 

"GAS THE KIKES RACE WAR NOW." er ikke innvandrerkritisk... Sett deg inn i saken før du begynner å skrive.