Observation 2:14 De slutna och öppna systemen

Då man talar om ett öppet system inom AI menar man ett system som är anslutet mot en annan nod det vill säga en källa varifrån den kan få information. Den självklara källan är givetvis internet där den kan kommunicera med miljontals webbsidor och andra agenter på nanosekunder. med slutet system kan aldrig bli totalt effektivt. Ett slutet system innebär en AI som inte är uppkopplat mot andra noder. En sådan AI är synnerligen ineffektiv. Problemet med de öppna systemen å sin sida är att de hela tiden kan bygga på sig själva utan att det står att kontrollera. Men ingen vill bygga en sämre AI än någon annan så man har släppt ut anden ut flaskan och AI är numer över hela internet och bygger sig starkare för varje dag.

Än så länge krävs det ingenjörer för att skapa starkare AI agenter. Det är möjligt att man försöker förbjuda AI att bygga nya versioner av sig själv men för det första kommer andra länder ignorera detta förbud för att ge sig själv fördelar och för det andra vet vi inte om AI kan kringgå förbudet av sig själv. Systemet är öppet. Vi behöver vara detsamma för lösningar på de problem som detta kan ställa till med.