Hur smart är smart teknologi? Tänk om den artificiella intelligensen överlistar oss, eller får ett nervsammanbrott? Kan datorer tänka fram lösningar som människan inte kommer på? Kan vi skapa datorer som är smartare än vi själva? Är artificiell intelligens ens i mänsklighetens intresse?

Datasystem som tänker någorlunda rationellt, som människor. Är det tänkbart? Problemställningen handlar om matematik, psykologi, lingvistik och framför allt filosofi.

I slutändan handlar det om kreativitet, känslor, fri vilja och medvetande.

Ta den olympiska devisen: snabbare, högre, starkare. Hittills gäller samma motto inom IT. Var går gränsen?

Numera talar nördarna om generell AI, det vill säga AGI. En artificiell intelligens som inte enbart är problemspecifik, det vill säga en robot som löser noggrant definierade problem på direkt befallning och till exempel spelar schack eller flyger flygplan.

Datorer kan visserligen strukturera och förvalta databaser och göra kvalificerade gissningar om vädret utifrån givna parametrar. AGI fungerar däremot som en mänsklig hjärna, med subjektiv självmedvetenhet, förnuft och så kallad visdom.

Sann intelligens är förmågan att lära sig, att förbättra sig själv. I bästa – eller värsta fall – kan denna deus ex machina trigga en självförbättrande loop som börja leva sitt eget liv, och göra sig fri från mänsklig styrning.

Militären driver forskningen inom AGI. Vad händer om den konstgjorda intelligensen löper amok? Går det att lita på att den har ett uns av sunt bondförnuft? Tänk om den väljer ”fel” problem att lösa. Är det som är vettigt för själva mjukvaran likvärdigt med sann intelligens, sett ur mänsklighetens, levande varelser eller planetens perspektiv?

Föreställ dig en bugg, ett programfel i labbet, eller en datadåre som smiter in och planterar ett ondskefullt kommando. AGI kan sprida sig som ett virus och skapa en dominoeffekt inom andra tekniska system. Kanske ger den sig på människan och tar livet av alla varelser på jorden via militärteknologi.

Mer avancerad teknik ökar risken för katastrofer: pandemier eller kärnvapenkrig. Det finns även mindre apokalyptiska svarta svanar, alltså risker som vi inte direkt kan föreställa oss. New York har redan sett börskrascher på grund av robothandel, styrd av algoritmer.

Frågan lyder: kan datorer göra genuint nya upptäckter, bilda en egen vilja och trotsa sin skapare? Som HAL 9000 i Stanley Kubricks scifi-klassiker 2001. ”Open the pod bay doors, HAL”. ”I’m sorry, Dave. I’m afraid I can’t do that.”

Det kan räcka några hundra år innan vi är där. Minns någon millenniebuggen 2000 – vilken antiklimax. Om vi vill vara på den säkra sidan, undvika att konfronteras med ond AGI eller en knäpp datorhjärna kanske vi bör dra ut stöpseln i god tid, innan det är för sent.

Torsten Fagerholm text