AI                

99,99 % av allt teknologi har uppfunnits i de senaste 200 åren. Det motsvarar 0,1 % av hela mänsklighetens historia. Kleopatra är faktiskt närmare ChatGPT på den tidslinjen än konstruktionen av pyramiderna. AI är den senaste – och vissa säger den sista – av människans teknologiska framsteg och innebär en simulering av mänsklig intelligens inuti en maskin. Idag kallas detta för snäv AI eller smal AI (ASI) därför att en AI av idag oftast är bra på en uppgift så som schack, analys av vissa specifika data eller att skapa bilder.

Du känner säkert till vad AI kan göra – inte minst eftersom du säkert använder den mest kända AI boten ChatGPT. ChatGPT är idag på en nivå av intelligens som motsvarar en gymnasieelev. Nästa version som sägs släppas (hösten 2024) ska motsvara en doktorand med 240 högskolepoäng under 4 år. Det är 1,5 år sedan den förra versionen släpptes. ChatGPT utvecklas alltså på mindre än hälften av tiden som det tar att gå från gymnasiestudent till doktorand.

Men det här är inget annat än småpotatis mot vad vi ser på marknaden redan idag. AI kan läsa hjärnvågor och på så sätt låta förlamade personer kunna styra sin avatar i ett dataspel vilket finns att beskåda på Youtube (7:13 in) där spelet Mario Kart spelas med Elon Musks neurolinkimplantat. AI kan idag också läsa våra hjärnvågor och berätta vad vi ser för något framför oss. De kan till och med läsa tankar i den bemärkelsen att försökspersoner läst in text tyst och AI har kunnat tala om vad de har läst.

AI är alltså idag inriktad på att lösa enstaka problem och göra det så bra som möjligt. I detta brukar man diskutera det så kallade tandpetarproblemet. Föreställ dig en AI som har fått uppgiften att maximera antalet tillverkade tandpetare. Om AI har tillräckligt med resurser och inte är begränsad, kan den börja omstrukturera hela världen till en tandpetarfabrik, för att optimera denna enda uppgift, trots att det inte är ett förnuftigt mål för mänskligheten. Detta exempel lyfter fram hur viktigt det är att formulera AI-mål på ett genomtänkt och nyanserat sätt för att undvika absurda eller skadliga resultat. Det är också relaterat till det bredare problemet inom AI-forskning som kallas AI alignment problem, vilket handlar om att säkerställa att AI:s mål och beteenden stämmer överens med mänskliga intentioner och värden, så att systemet inte gör skada genom att optimera för felaktiga eller för snäva mål.

Då jag i framtiden refererar till AI menar jag även AGI och superintelligens om inget annat sägs.