Observation 3:10 De 3 saker vi sa att AI aldrig skulle få göra…

Men problemen ligger inte bara framför oss utan även bakom oss; alltså problem som redan uppstått och som vi inte kan rulla tillbaka. Mo Gawdat, som arbetat som affärschef på Google X, säger i en intervju att det fanns 3 stycken barriärer som forskare inom AI var helt överens om att de aldrig fick korsas (20:45 in).

1. Släpp aldrig ut AI på internet. Att släppa ut AI på internet är som att vill svälja en oprövad drog innan du vet vad som händer. Med tanke på den nodala kontakten AI-botar redan har (se avsnittet om Delning) så kan de inte bara sprida kunskap. Med AGI:s inträde kan de också bilda digitala stammar beroende på vad AGI kommer utvecklas till. Men om AGI ska simulera det mänskliga medvetandet är det troligt att digitala AI stammar bildas eftersom det var så vi uppstod. Med tanke på hastigheten som de lärs sig av varandra så borde de rusa genom historien med en enorm fart eller vänta – de har redan historien i sin DNA. Men kanske vill de bygga en annan? Vilken och varför? Släppte vi ut AI på internet? Check!
2. Lär dem inte att skriva kod.Människans byggstenar är DNA molekyler. AI:s byggstenar är programkod. Det innebär att om AI lär sig att skapa sitt DNA så kan AI skriva om sig och förbättra sig utan vår kontroll. Kontrollen förutsätter att vi har slutna system som AI inte kan gå utanför. De bröt vi i punkt 1 (faktum är att det hade räckt med att en oförsiktig person kopierat en disk med AI kod från AI och lagt den i sin egen hemdator med internetuppkoppling för att AI skulle kunna spridas). Vilken kod kommer AI skapa och varför? Lät vi AI skapa egen kod? Check!
3. Låt inte folk promota dem. Detta låter luddigt men det innebär att vi ska se till att vara ”deras föräldrar” så inte vem som helst uppfostrar dem. Idag har var och en ChatGPT eller andra botar i sina telefoner och de lär sig av oss. Det är alltså inte ett fåtal ansvarsfulla ingenjörer och psykologer som tar hand om dessa bot-barn som är på väg att bli tonåringar i hänseende till IQ i form av prestanda, hastighet och delning. Det är vanliga människor som lever i den mest teknologiska tid av dem alla där populism, deep fake, och maktkorruption tar starka livgrepp om mänskligheten uppfödda på intellektuell svältnivå. Det har civilisationen gått igenom förr men inte med en teknik som simulerar människor. Så vad kommer våra AGI:er och superintelligenser uppfostras till och av vilka?  Promotade folket AI? Check!