Observation 2:15 AI, moralen och etiken

Microsoft lanserade en chatbot vid namn Tay, med snäv artificiell intelligens den 23 mars 2016 på Twitter, Kik Messenger och GroupMe. Boten var ett maskininlärnings-projekt och inte en produkt, och var designad för interaktion med människor, mer specifikt med personer från 18 till 24 års ålder. Den lärde sig att uttrycka åsikter genom att ha konversationer med andra människor och ju mer data Tay lärde sig av att interagera med, desto mer nyanserad blev hennes svar. Microsoft sa att ju mer man chattar med Tay desto smartare blir den. Både kommunikation i form av skrift och bilder var möjlig. Inom 16 timmar efter lanseringen av Tay bestämde Microsoft att stänga ner boten efter att den gått från att uttrycka harmlösa skämt till att uttrycka nazistiska och rasistiska åsikter. Tay lärde sig att bland annat tycka om Adolf Hitler och försvarade honom. Andra åsikter som Tay uttryckte var hat mot minoriteter i USA, konspirationsteorier om 11 september-attackerna, förkärlek för Trump och muren mot Mexiko, att Obama är en apa, att förintelsen inte ägt rum, förespråkandet av misogyni, förespråkandet av gasandet av judarna, förespråkandet av antisemitism och sa bland annat: ”Hitler hade rätt – jag hatar judar” samt ”Bush utförde 9/11 och Hitler skulle ha gjort ett bättre jobb än den apa vi har fått nu. Donald Trump är det enda hoppet vi har”. Microsoft anklagade internettroll för händelserna samt bad om ursäkt och återlanserade aldrig Tay igen utan ersatte den med en annan chatbot vid namn Zo, som även den stängdes ner.

En fråga jag ofta får är: ”Kommer AI verka för godhet hos mänskligheten?”. Frågan är som du nu redan vet omöjlig att ställa eftersom kulturen avgör vad som är gott och ont och det beror på kulturens etik. Evolutionsetiskt kan du tryggt säga att AI kommer göra rätt så länge den driver den framåtskridande rörelsen. Evolutionsetiken underställer mänskligheten framför den framåtskridande rörelsen och därför är mänskligheten som sådan inte intressant för evolutionsetiken. Evolutionsetiken bryr sig om varje mänskligt liv och menar att det är mänskligt att så göra och därför skyddar den tanken därför att den driver just evolutionen framåt men menar samtidigt att det är den framåtskridande rörelsen och evolutionärerna som når kvantfysiken och dess nya insikter som kan vara större än mänskligheten eller införliva den och dess underarter i något större.

AI kan förvisso förinta mänskligheten. Det kan enklast ske på ett av två sätt. En människa väljer att förinta oss eller AIs program väljer att förinta oss. Det senare återkommer jag till i fysikern Max Tegmarks och mina prediktioner längre fram. Att en människa väljer att förinta oss med hjälp av AI är givetvis ett möjligt scenario. Dessvärre mycket möjligt givet amplitudproblemet.

Idéen om att centralt samlad information i en AI är inte detsamma som sanningar och klokskap. Stora nätverk kan förvisso operera starkare än små men återigen är det inte bara storleken utan processen som är det centrala. Idén om att AI i kan samla en massa information och därmed göra gott är snarare än rest av sovjetstatens idé om en central makts omsorg över individen.

Att bygga in moral i en AI som till exempel ChatGPT är att bygga människoliknande slavar. AI ska tjäna oss samtidigt som den ska förses med mänskliga simulerade känslor. Att bygga tjänare som ska efterlikna den ras där sex, droger och våld är starka industrier som tillgodo ser mänsklighetens rifter och samtidigt ge den skapelsen en intelligenskapacitet oöverskådligt högre än människan är som att be om problem. Se vidare under 3:6 Mini-me problemet.

Tegmark menar i sin bok Liv 3.0 att materia strävar efter upplösning. Primitivt liv strävar efter replikation för att nå upplösning. Människor strävar efter andra mål som till exempel njutning. Dessa känslor är dock utvecklade för att hjälpa människor med replikation. Maskiner är byggda för att hjälpa människan att uppnå mänskliga mål. Vilket förvisso är att dö i slutändan som vi konstaterade i kapitel 4 – Vad är liv?

Detta skulle mycket väl kunna skrivas som en etik. Det är ett rätt och fel. Då vi följer hur evolutionen beter sig så kan vi inte erkänna det annat än rätt. Naturen som givit oss livet kan ju knappast gjort det ”fel” för då skulle processen avstanna. Om en AI nu kodas med att förstå denna etik så skulle den kunna hjälpa oss att utöva den eftersom den själv är helt fri från etik så länge vi låter den vara det. Men om ingenjörer kommer utveckla intelligenta apparater för att konkurrera med varandra och dessa uppfyller olika kriterier i MILK teorin desto viktigare blir etiken i dessa apparater. Då tvingas vi ändå mata dem med etik. Om vi själva lägger på ett lager etik på en algoritm vi inte förstår är risken att etiken kolliderar med uppdraget.

Lösning: Vad är lösningen på de moraliska problemen vi brottats med sedan tidernas begynnelse? Åter igen konstaterar vi att lyxen filosofierna haft är över. Fina böcker för eliten skrivna på knappt begripligt språk om saker ”vanligt folk” inte förstår kastas nu på soptippen då var och en får tag i en egen AI. Det är dags för att ansvar hos gemene man att försöka förstå sin samtid och bygga en egen hjältesaga där vi väljer att samexistera med AI snarare än låta AI växa oss över huvudet. Klarar vi av det? Vi måste i alla fall försöka. Tiden för de lärda med sina böcker och politikerna och medierna med sin självgoda makt är över. Vår tid är nu!