Vova Krasen
0 
2865
690
Forestil dig din mindst foretrukne verdensleder. (Tag så meget tid, som du har brug for.)
Forestil dig nu, om denne person ikke var et menneske, men et netværk af millioner af computere over hele verden. Denne digi-diktator har øjeblikkelig adgang til hvert skrot af registrerede oplysninger om enhver person, der nogensinde har boet. Det kan foretage millioner af beregninger på en brøkdel af et sekund, kontrollerer verdens økonomi og våbensystemer med gudlignende autonomi og - uhyggeligst af alt - kan aldrig, nogensinde dø.
Denne uudnyttelige digitale diktator er ifølge Tesla og SpaceX-grundlægger Elon Musk et af de mørkere scenarier, der venter på menneskets fremtid, hvis kunstig intelligensforskning fortsætter uden alvorlig regulering. [Super-intelligente maskiner: 7 robotfutures]
"Vi er hurtigt på vej mod digital superintelligens, der langt overstiger ethvert menneske, jeg synes, det er temmelig indlysende," sagde Musk i en ny AI-dokumentar kaldet "Har du tillid til denne computer?" instrueret af Chris Paine (der tidligere har interviewet Musk til dokumentaren "Who Killed The Electric Car?"). "Hvis et firma eller en lille gruppe mennesker formår at udvikle gudlignende digital superintelligens, kunne de overtage verden."
Mennesker har prøvet at overtage verden før. Imidlertid ville en autoritær AI have en frygtelig fordel i forhold til ligesindede mennesker, sagde Musk.
”I det mindste når der er en ond diktator, vil det menneske dø,” tilføjede Musk. "Men for en AI ville der ikke være nogen død. Den ville leve for evigt, og så ville du have en udødelig diktator, hvorfra vi aldrig kunne undslippe."
Og denne hypotetiske AI-diktator behøver ikke engang at være ond for at udgøre en trussel mod mennesker, tilføjede Musk. Alt det skal fastlægges.
"Hvis AI har et mål, og menneskeheden bare er i vejen, vil det ødelægge menneskeheden som en selvfølge uden engang at tænke over det. Ingen hårde følelser," sagde Musk. "Det er ligesom, hvis vi bygger en vej, og der er en myretøj i vejen. Vi hader ikke myrer, vi bygger bare en vej. Så farvel, myr."
De, der følger nyheder fra Musk-verset, vil ikke blive overrasket over hans meninger i den nye dokumentar; Teknologen har længe været en vokalkritiker af ikke-kontrolleret kunstig intelligens. I 2014 kaldte Musk AI-menneskehedens "største eksistentielle trussel", og i 2015 sluttede han sig til en håndfuld andre teknologiske armaturer og forskere, herunder Stephen Hawking, for at opfordre De Forenede Nationer til at forbyde mordrobotter. Han har sagt, at ureguleret AI udgør "langt større risiko end Nordkorea" og foreslået at starte et slags føderalt tilsynsprogram for at overvåge teknologiens vækst.
”Offentlige risici kræver offentlig tilsyn,” twitrede han. "At slippe af med FAA [ville ikke] gøre flyvning sikrere. De er der med god grund."
"Har du tillid til denne computer?" fokuserer på de voksende bekymringer for folkesundheden og sikkerheden, der er knyttet til stigningen i AI, og indeholder interviews med mange andre teknologiske muldyr, forskere og Erica den uhyggelige nyhedsbesætningsrobot. Dokumentaren kan ses gratis her indtil søndag (8. april).