Superhelten innen kunstig intelligens svarer på de vanskelige spørsmålene (Ekstra)

[Bloomberg]

Hvem skal kontrollere maskinene som tenker for oss?

Superhelten innen kunstig intelligens svarer på de vanskelige spørsmålene (Ekstra)

[Aafk1914]

SITAT "jeg tror at vi kan bruke dette til å løse alle typer virkelig presserende problemer som vi har; fra klimaet til sunn aldring og så videre." SITAT SLUTT

 

Når man klarer å skape en overmennesklig intelligens (eller superintelligens), så kan man nok løse disse problemene, men samtidig så vil kunnskapsproduksjonen og teknologiutviklingen være drevet av maskiner, og utviklingen (bl.a. fordi maskinene vil jobbe så mye raskere enn mennesket) vil gå med en fart som vil være umulig for mennesket å følge med på.

Meget raskt vil maskinene ikke være litt mer intelligente enn menneskene, men 100x, 1000x 1.000.000x osv.

Jeg har enda til gode å se et overbevisende argument hvordan menneskeheten da fremdeles kan ha kontroll over utviklingen, og ikke være prisgitt maskinen eller maskinene og deres beslutninger.

 

Eller sagt på en annen måte, vi skaper noe som er mer intelligent enn oss, og som vi neppe kan klare å kontrollere. At maskinene vil ta hensyn til menneskeheten og vår sikkerhet er ikke nødvendigvis gitt.