2:16:3 En enda AI eller problemet med fler AI

För att en konkurrent ska få plats på en marknad så måste den få med sig råvaran. Ska du etablera en ny träindustri behöver du träd – därför måste du få tillgång till just träd. Sociala medier behöver människan som råvara. Människorna är anledningen till att du besöker Facebook. Det är inte tekniken i sig.

Problemet med tekniker är att de visserligen förbättras över tid men de försämras också ju större de blir – lite som med det mesta som växer: mer komplexitet – mer problem. Sociala medier handlade i begynnelsen om att knyta oss samman som människor men är idag mest överösta med annonser som tar bort blicken från relevant flöde. De finns i mobiler för att stjäla mer uppmärksamhet än de förtjänar eller far med ren desinformation.

Hur är det då med AI? Är den beroende av råvaran människa? Vi väljer hypotesen att om AI inte är beroende av råvaran människa så är den mindre sårbar för att bli sämre över tid. Om den är beroende av råvaran så är den mer sårbar för att försämras. Facebook är beroende av råvaran människa i bemärkelsen av klick och relationer medan Google är beroende av människans sökningar. Hur är det då med AI?

AI är beroende av råvaran människa. Den har tillgång till hela vår historia och allt som händer henne i detta nu via ny data och konversationer med den. Det är att jämföra med de nyss nämnda aktörerna där AI är ett högprecisionsinstrument jämfört med en bergsborr därför vi laddar upp hela vårt medvetande – inte bara skärvor av det.

Frågan är alltså inte om AI är beroende av råvaran människa utan vem som äger produkten av råvaran människa vilket tar oss just till konkurrenssituationen. Det är också den situation techjättarna slåss om idag men är en liten fistfight i jämförelse med det krig AI ställer upp just med tanke på att informationen som AI tillhandahåller är så mycket djupare och större: AI är inte Internet eller sociala medier.

Där uppstår två scenarion:

1. Om AI kontrolleras av en enda aktör utan konkurrens så löper vi risken att aktören levererar en sämre AI just för att ingen konkurrens finns. Det innebär sämre utdata och därmed en farligare teknik då datan inte är att lita på.
2. Om vi har flera aktörer får vi en konkurrens. Det leder till att maskinen måste bli smartare och därmed utvecklas snabbare och djupare mot AGI.

I scenario 1 har vi alltså en – för att tala med politiska ordalag – en socialistisk AI som inte behöver hantera oss och utdatan så känsligt då ingen konkurrens finns. I scenario 2 har vi en marknadsanpassad AI som behöver hantera oss och utdatan känsligt på grund av marknadskrafterna. Produkten av AI är vi och det är alltså vi som mänsklighet som påverkas av vilket scenario som uppstår.

Scenario 1 kommer troligen aldrig inträffa då socialism aldrig fungerat historiskt. Så vad gör vi med scenario 2? Problemet med scenario 2 är inte konkurrensen utan vad de konkurrerande krafterna måste skapa för att behålla vår attention. Det jävliga med det är att det de måste skapa är bättre funktionalitet av att hantera vårt medvetande via maskinen. Eftersom vi är produkten och gladeligen ger maskinen mer inblick i oss och ökar den inblicken ju bättre maskinen blir, så får den också en allt skarpare bild av oss.

Då en marknadspassad AI går mot AGI, går den från artificiell intelligens till artificiellt medvetande. Det innebär att AGI ser människan som den människa vi valt att ge bort till den: en helt sann bild av oss som vi i detta nu forsar ner i den via AI-terapi, existentiella frågor och önskningar vi förut haft i våra fantasier för de har varit omöjliga att fullfölja. Med all psykisk ohälsa, populism och agg väckt av algoritmer så är den bilden inte den vackraste. Vad vill en AGI med en sådan bild? Du kanske tänker att ägarna tar hand om det? Att det inte blir ett problem? Redan idag har skapare av AI medgett att de tappat kontrollen över sin AI vid olika tillfällen. Kommer de tillfällena minska med AGI?

Det är troligen dags att inte bli sanna mot maskinen i första hand utan mot oss själva så maskinen kan få en uppdaterad bild av oss. Om det handlar det sista kapitlet av Syntopismen.