Ai/Ki (Kunstig Intelligens) hva mener du om dette?

[olefiver]

Mennesker er 100% egoistiske og vil i bunn og grunn sette seg selv foran andre, det er jo slik vi overlever. Vi er jo også programmerte til å helst ikke skade andre etc, men i en så kompleks maskin som menneske så kan dette slå feil, personer tar jo selvmord fra tid til annen. Så skal en maskin som er like intelligent som oss bestemme seg for å angripe menneskeheten for sin egen overlevelse så må vi selv ha programmert dette inn i maskinen. Hvis vi programmerer en maskin med Asimovs tre lover vil den ikke kunne overstyre dette. Da må det i så fall skje en feil i maskinen, men at denne feilen av rene tilfeldigheter vil være å angripe mennesker er jo mulig, men da usannsynlig.

Asimovs tre lover er ikke ufeilbare.

(muligens avhengig av formulering kan) f.eks. første lov brytes hvis en robot ikke er klar over at dens handlinger forårsaker skade til et (eller flere) mennesker. Med andre ord: effektiviteten til Asimovs lover er begrenset til kunnskapen en gitt robot sitter med til en hver tid, og dette kan da bli utnyttet uavhengig av hvor godt integrert de tre lovene er.

I tillegg holder det ikke med kun de tre orignale lovene, noe som Asimov selv også har skrevet om. Når du skriver at hvis vi programmerer en robot med Asimovs "vil den ikke kunne overstyre dette", inkluderer du da zeroth loven, og inkluderer du loven om at en robot alltid må vite at den er en robot?

 

Asimovs robotlover er heller ingen garanti for at robotene overstyrer menneskene og tar kontroll over våre liv for å hindre at mennesker kommer til skade (livet er farlig) og for å hindre at mennesker skader hverandre.

 

i.e. Asimovs lover er ikke feilfrie, men de er et greit utgangspunkt for regler for roboter som ikke skal skade mennesker.

Endret 25. januar 2011 av olefiver