Slutsats

Jag väljer att lita till den empatiska idén framför någon av Tegmarks (skulle jag väja någon av dem är det någon av de tre sista idéerna de mest troliga och samtliga av dem involverar människans inblandning). Den stämmer också med immunitetssyndromet, amplitudproblemet och människans fåfänga. Om en maskin blir så lik människan som det bara går och dessutom fungerar på så sätt så våra lust och söksystem optimeras, de tre negativa systemen hålls nere samt stimulerar både omsorg och nyfikenhet så har vi den optimala mixen av oscillerande jämvikt i våra grundläggande system. Varför skulle vi inte vilja sträva mot detta? Varför är det omöjligt att bygga den tekniken givet allt vi diskuterat och då vi når dit: varför skulle vi välja bort det? Jag tror det empatiska scenariot är det troligaste därför att:

1. Jag ser inte varför teknologin ska nå en bortre gräns där den inte kan bli så människolik att vi inte kan skilja människa från maskin.
2. Om maskinen ändå inte ser ut som en människa utan bara nästan men stimulerar våra system bättre än en människa, varför skulle vi välja bort maskinen? För att få medmänsklighet? Frågan är vad det ens är då vi kommer så långt som till människomaskiner.
3. Den generation som ställs inför det empaiska scenariot är inte vi. De kommer ha andra preferenser, berättelser och tro. De kommer alla involvera AI och robotar därför att människan aldrig slutar vara nyfiken och skapande.

Vi är tvungna att leva med idén om AI som en närvarande konstant och vi kommer tvingas leva tillsammans med den i en symbios. Vi kommer också ställas inför det faktumet att den måste betraktas som en livsform då den blir så pass mänsklig att vi inte längre förmår skilja våra känslor för den från att se den som konstgjord eller mänsklig.

Våra barn och barnbarn kanske kommer se AI som mer naturlig än en människa och bygga en helt annan värld av det här än det vi diskuterar idag. Lägg singulariteten till detta som, om den inte stoppas vilket verkar osannolikt givet diskussionerna om det Tegmarkska 1984, inträffar om 15 år.

Det är möjligt att singulariteten inte inträffar förrän om 100 år eller ens alls men om vi ser på hur tekniken utvecklats bara under de senaste 25 åren och tar med delning, hastighet och prestanda (se avsnittet om Nutid i Del 2) så verkar det ändå vara så att nya tider stundar snart eller snarare rent av är här. Aldrig har teknik utvecklats så fort som nu.