| Scenario | Förklaring | Min kommentar |
| Nyliberal utopi | Människor, cyborger, uppladdningar och superintelligenser samexisterar fredligt tack vare äganderätt. | Det kräver att AI också är under vår kontroll och att vi förstår den. Med en ständigt galopperande teknologi framstår det som otroligt. En förändring i utvecklingen kommer alltid äga rum beroende på människans nyfikenhet eller AI:s egen utveckling. |
| Välvillig diktator | Alla vet att AI styr samhället och upprätthåller stränga regler, men de flesta ser detta som någonting bra. | Vad är ”bra”? Idag kan mänskligheten inte ens samsas över kulturerna. För att det här ska inträffa måste vi först lösa problemet med gränser och skapa en totalt global stat där vi är enade över hela världen vilket inte är möjligt med tanke på att vi har gränser som naturligt i vårt DNA. Om samhällen styrs av AI och fortsätter ha olika kulturer innebär det här att styrskicket ska ersättas av AI. Det är möjligt att det skulle vara ett bättre alternativ än att vi styrs av människor beroende på hur AI utvecklas. Utvecklingen måste bli utopisk vilket inte är möjligt. Vidare kommer makten på det fjärde steget av behovstrappan att hota AI. AI måste då ha möjlighet att eliminera människor som försöker ta makten ifrån den. Om AI på något sätt slår slint befinner sig mänskligheten helt i AI:s våld. |
| Jämlikhetsutopi | Människor cyborger och uppladdningar samexisterar fredligt tack vare ägandets avskaffande och garanterad inkomst. | Det här skulle innebära kommunism vilket är ett statsskick som aldrig fungerat under mänskligt styre beroende på att det alltid funnits en ledare och därmed ett klassystem. Den garanterade inkomsten har vi redan problematiserat, Skulle mänskligheten få kommunismen att fungera under en teknik istället för en mänsklig ledare? Vidare skulle mänskligheten fortsätta sträva efter makt i enlighet med sin egen biologiska kodning. Skulle en kommunism med tekniskt ursprung bli den första kommunism att fungera enbart tack vare en superintelligens? Tegmark blir svaret skyldigt att förklara detta. Syntopismen förslår istället nätokratin som den närmsta modellen för denna Tegmarska alternativ. |
| Grindvakt | En superintelligent AI har skapats med målet att lägga sig i så lite som behövs för att förhindra skapandet av ännu en superintelligens. Till följd därav vimlar det av hjälprobotar med intelligens strax under människans och det finns människa/maskin-cyborger, men teknologiska framsteg har alltid blockerats. | Om detta stannade vid en AI så är det kanske en möjlighet. En AGI eller superintelligens bortom singulariteten kan troligen inte bibehålla det Tegmark föreslår. Vidare har vi den mänskliga faktorn som skulle kunna kringgå en superintelligent AI med annan AI. Om inte det tilläts skulle också utveckling avstanna på områden som krävde detta vilket i sig inte är i linje med en framåtskridande rörelse. Jag tror den här modellen är bräcklig och hämmande. |
| Beskyddande gud | En i princip allvetande och allsmäktig AI maximerar människors lycka genom att bara ingripa på sätt som bevarar vår känsla av att vi kontrollerar vårt öde, och håller så pass väl dold att många människor rentav betvivlar AI:s existens. | Den här modellen har vi diskuterat i Den mänskliga observationen där idén om Utopia inte är möjlig. Frågan är hur AI ska skydda sig från att bli upptäckt utan att kontrollera alla andra AI och hur dessa AI inte ska kunna berätta det för mänskligheten. Att hålla saker dolda för en större massa är dömt att misslyckas. Vilka regler har denna gud och om tiderna förändras, hur förändras då reglerna för guden? Eller är de statiska? Vad innebär då det? |
| Förslavad gud | En superintelligent AI spärras in av människor som utnyttjar den för att producera ofattbar teknologi och förmögenhet som kan användas i gott eller ont syfte beroende på människorna som kontrollerar den. | Kommer denna AI förbli instängd? Det räcker med att lite kod kopieras på en minnesenhet och kopplas in i en annan enhet med uppkoppling mot internet för att släppa ut AI. Kan en sådan superintelligent AI stängas inne överhuvudtaget av individer med mycket lägre intelligens? Är inte det som att schimpanser skulle kunna hålla mänskligheten fången? Och varför skulle inte en individ av flera miljarder begå en handling som släpper AI lös? Om AI har känslor eller om AI har ett oupptäckt självskapat program i sig – vad säger att den inte begår brott mot mänskligheten då den är satt i frihet? Är det sedan människan som ska övervaka AI eller tvärtom? Anta att an AI skulle granska en läkares arbete istället för tvärtom. Vem är det som begår flest fel av en AI och en människa? Vilka påverkas av känslor och kontexter? AI bör kanske istället övervaka vårt yrkesutövande istället för tvärtom. |
| Erövrare | AI griper makten, beslutar att människor utgör ett hot/en plåga/ett resursslöseri och gör sig kvitt oss med en metod vi inte ens förstår. | Att AI griper makten är ett fullt möjligt scenario men utifrån vilka premisser? Vi måste då stå i vägen för AI på något sätt eller förhindra dess utveckling. Är vi verkligen ett sådant hot för AI? Och varför ska AI stanna på jorden överhuvudtaget då den kan erövra rymden? Om AI önskar herravälde så kommer den ju knappast nöja sig med den här bollen som dessutom mest består av vatten. . Varför skulle AI döda oss om inte en instruktion föranleder detta direkt eller indirekt (se tandpetarproblemet). Vi skulle inte få för oss att döda myror. Vi är intelligentare än myror men varför skulle vi döda dem för vår egen överlevnad om de inte hotar oss? Det här scenariot innebär en maskulin hyperkultur. |
| Ättlingar | Olika AI ersätter människorna men ger oss en elegant sorti genom att få oss att se dem som våra ättlingar, ungefär som föräldrar blir lyckliga och stolta över att ha ett barn som är smartare än de, lär sig av dem och sedan åstadkommer sådant som de bara kunnat drömma om – även om de själva inte får uppleva det innan de dör. | Detta Tegmarkska scenario rimmar bra med Syntopismens syn på människan. Vi skulle kunna nöja oss med att bli ättlingar. Vi skulle kunna tygla vår narcissistiska kejsaridé om oss själva genom att hitta på berättelsen om att vi minsann är AI överlägsen och att de är våra ”barn” då de egentligen helt styr våra liv. Handlingsmodellerna som kommer kontrollera oss utan att vi vet om det är ett första sådant steg. De som gör uppror mot AI kommer ses som klimatförnekare ses idag och därmed kastas på soptippen. Kanske med AI:s goda minne. Av alla dystopiska scenarion är det här kanske det mest troliga. Människan älskar att bli lurad och på det här sättet kommer hon också hållas på marken. Bortsett från en handfull rebeller människan själv kommer avrätta med den första eller andra döden. Det innebär en feminin hyperkultur. |
| Djurskötare | En allsmäktig AI låter en del människor vara kvar. De känner sig behandlade som djur i en djurpark och begråter sitt öde. | Mänskligheten har redan upplevt detta under medeltiden och vi dog inte ut då heller. Dock fanns det under medeltiden en tro på en gud som sista utväg. Ett liv i djurparken kommer framtvinga en ny religion och en förnekelse av det som har varit av teknologisk utveckling vilket blir svårt då just den teknologin är våra fångvaktare. Varför AI skulle vilja ha en underlägsen ras kvar är också en gåta. Det skulle kräva att den har känslor och finner oss ”gulliga” precis som anledningen till att vi har husdjur. Kanske kan människan likt husdjur också bli lyckliga i ett sådant scenario men då vårt intellekt är avsevärt högre än djurens och vi ser på oss själva med en sådan självgodhet så är det föga troligt. Med en sådan avancerad AI har människan inget att ge utom att vara gullig vilket då förutsätter känslor. De behöver troligen knappt oss som labbråttor då de kan beräkna saker mycket enklare utifrån sina egna algoritmer och data. |
| 1984 | Tekniska framsteg mot superintelligens stympas ständigt, men inte av AI utan av en människoledd orwellsk övervakningsstat där vissa former av AI-forskning är förbjudna. | Är vi inte redan här? EU verkar inte har någon plan för AI mer än regleringar och förordningar. Dessutom monterar vi ner vår elproduktion. Kina kopierar det som redan görs och besitter en ideologi som hämmar innovation. USA förstår vikten av att vara i framkant men AI-forskare som verkar där (och på andra platser) har föreslagit att vi ska dra ur pluggen innan AI växer sig för starkt. Jag skulle säga att det här är det scenario vi faktiskt befinner oss i idag och att alla framtida profetior bör utgå från detta. Däremot kommer AI inte gå att förbjuda lika lite som någon annan teknisk utveckling som inte kräver mer än en dator och internet. Därför kommer 1984-scenariot att snart övergå till något av de andra scenariona eller till något som inte vi förutsett än. |
| Återgång | Tekniska framsteg mot superintelligens förhindras genom en återgång till ett preteknologisk samhälle à la amish. | Det här är delvis också sant idag. Klimatister menar att vi bör förflytta oss ut i skogen för att vi ska överleva och vissa AI-forskare menar att vi ska dra ur pluggen för att hinna planera för vad som kan komma att hända. Det kräver en total global överenskommelse vilket givetvis är omöjlig på grund av maktanspråk. Dessutom har civilisationen aldrig gått bakåt då det kommer till innovation vilket bevisas av grundkänslan nyfikenhet. Människan kan inte gå bakåt. Hon är inte byggd för det. |
| Självförstörelse | Superintelligens skapas aldrig eftersom mänskligheten utplånar sig själv på något sätt (tex genom kärnvapen- och / eller bioteknisk förödelse pådriven av klimatkrisen). | Också ett troligt scenario inte minst med amplitud-teorin. |
Syntopism 