Rudolf Cole
0 
954
196
Det er Elon Musk på hans Elon Musk-iest: Ifølge nyhedsberetninger mødte rum-og-el-bil-iværksætteren sin nuværende kæreste ved at lave en vittighed om forrædersk kunstig intelligens.
Musk og musikeren Grimes, hvis rigtige navn er Claire Boucher, gik til Met Gala som et par mandag (7. maj). Ifølge sladderpublikationen Page Six mødte de to via Twitter, da Musk tænkte at lave et ordspil om "Rococos basilisk", en mashup af tankeeksperimentet "Rokos basilisk" og den detaljerede dekorative stil set i det 18. århundrede Frankrig.
Musk fik snart at vide, at Grimes havde lavet den samme ordspil i en musikvideo i 2015, og resten er romantisk historie. Rokos Basilisk er på den anden side en skræmmende vision for fremtiden og centrum for en årelang online subkulturmaelstrom.
Begyndelsen
Det hele kom i gang i 2010, da en person, der gik forbi Roko, udsendte et tankeeksperiment til stedet LessWrong, et forum, hvor folk diskuterer alt fra filosofi til kunstig intelligens (AI) til kognitiv videnskab. Indlægget blev slettet, men RationalWiki bevarede en kopi. Rokos idé var, at hvis der i fremtiden skulle opstå en superintelligent AI designet til at maksimere det fælles gode, kunne det straffe enhver, der ikke bidrog til dens eksistens. [Super-intelligente maskiner: 7 robotfutures]
”Naturligvis ville dette være uretfærdigt, men det er den slags uretfærdige ting, der er åh-så-meget utilitaristisk,” resonnerer Roko.
Denne hypotetiske ville finde sted efter singulariteten, det punkt, hvor kunstig intelligens bliver skelnen fra selve livet - faktisk bedre end livet selv, fordi det kan gøre ting som at uploade sig på ubestemt tid, hvilket opnår en slags silicium udødelighed. Hvis denne gudlignende magt opdager, hjalp du ikke med at skabe den, ja, sheesh. Det kan bare beslutte, at din retfærdige belønning er evig pine. [En kort historie om kunstig intelligens]
Navnet "basilisk" kom fra en middelalderlig legende om en slange, der med et blik kunne dræbe.
Her er dog fælden: Hvis du ikke vidste om muligheden for Rokos Basilisk, er du klar: AI kommer kun sandsynligvis efter dem, der forudsagde dens eksistens, men valgte ikke at, sige, donere alt deres engangs indkomst for at hjælpe med at skabe det. Bare ved at læse om muligheden for Rokos Basilisk, har du dømt dig selv. (Undskyld.)
Denne advarsel, i et nøddeskal, er hvor online maelstrøm startede. Grundlæggeren af LessWrong, Eliezer Yudkowsky, udlignede stillingen som "STUPID" og "virkelig farlig." Bare ved at tænke meget detaljeret over, hvordan en AI muligvis afpresede dig, havde Roko sat sig selv op til at blive afpresset, samt indstille alle andre, der måtte læse indlægget.
"Jeg forbyder dette indlæg, så det ikke (a) giver folk forfærdelige mareridt og (b) giver fjerne superintelligences et motiv til at følge gennem afpresning mod folk, der er dumme nok til at tænke på dem i tilstrækkelig detaljer," skrev Yudkowsky.
Fra Roko til romantik
Forbudet mod Rokos Basilisk-diskussion om LessWrong varede indtil 2015. Yudkowsky skrev senere på Reddit, at han beklagede sin reaktion, hvilket gjorde det tilsyneladende som om han troede Roko havde ret; han mener faktisk, at ingen kunstig intelligens designet med menneskets bedste interesser i tankerne ville ende med at torturere mennesker. I stedet for, skrev han, slettede han indlægget, fordi ideen ikke havde nogen potentiel fordel for nogen.
Musk er måske især glad for Rokos Basilisk's vittigheder, fordi det originale indlæg omtalte ham. Roko skriver, at en som Musk, der "på en hånd ændrer ansigterne for industrier med stor indflydelse" ville være i de gode nåder i den teoretiske overmenneskelige AI. Musk har også været vokal om de potentielle farer ved AI og opfordrede til netop i sidste måned at regulere og advare om, at AI kunne blive en "udødelig diktator."
"Hvis AI har et mål, og menneskeheden bare er i vejen, vil det ødelægge menneskeheden som en selvfølge uden engang at tænke over det. Ingen hårde følelser," sagde Musk i en dokumentar kaldet "Har du tillid til denne computer ?, "som blev frigivet i april. "Det er ligesom, hvis vi bygger en vej, og der er en myretøj i vejen. Vi hader ikke myrer, vi bygger bare en vej. Så farvel, myr."
Grimes er på sin side en canadisk musiker og billedkunstner, der kom med "Rococo Basilisk" ordspil for sin musikvideo "Flesh Without Blood." Videoen indeholder en karakter, der bærer rokoko-parykker og omfangsrige kjoler og ender med at blive stukket i tarmen og dækket af blod på en tennisbane.
"Hun er dømt til at blive evigt tortureret af en kunstig intelligens, men hun er også slags som Marie Antoinette," fortalte Grimes til FuseTV.
Original artikel på .