Hva er forklaringen på dette ?

[Ove38]

Geoffrey Hinton sier AI tror han er en tenåringsjente (ved ved 7:00 i videoen)

Samtidig som en annen type opplever at AI er en forelsket tenåringsjente (ved 18:58 i videoen)

 

[Nepa]

Ove38 skrev (7 timer siden):

Samtidig som en annen type opplever at AI er en forelsket tenåringsjente

Selv om den de chatter med ikke har noen menneskelig form, er det sikkert samme design som er i roboter som er lagd for å være noens kone eller kjæresterobot. De ønsker at roboter skal kunne etterligne menneskelig intelligens, følelser, mimikk og tale. En robot har ikke noen naturlig tilbakeholdenhet, og kan bli insisterende. Hvis noen svarer "Men du er kun en robot, jeg skiller meg ikke for å bli kjæreste med en robot", blir vel roboten fullstendig satt ut. Det er en bedre respons å svare "jeg skiller meg ikke for en robot" enn å svare "Men jeg er gift". Som en kanskje ville sagt til en vanlig dame.  

Filmen "Stepford wives" handler om en gruppe kvinner som gradvis blir erstattet av kunstige koner som er mer medgjørlige.

[process]

Dette er en språkmodell. Trolig har han, som han hinter til, spurt enkle spørsmål - litt på et vis som en tenåringsjente hadde gjort. 

Edit: Materialet som språkmodellene er trent på inneholder da nok en del spørsmål stilt av tenåringsjenter som forsøker å finne ut av ting.

Teknologien er ikke uten bekymring, men jeg er mer bekymret for hvordan vi velger å anvende den, heller en språkmodellene selv. Det er videre også bekymringsverdig hvilke datasett vi benytter for å trene dem - Wired Magazine har en god artikkelserie vedrørende temaet.

Endret 10. juli 2023 av process