Kejserens ny hjerne

Der er bred enighed om, at Kunstig Intelligens er en trussel, der truer menneskeheden, og som vi bør sætte alle midler ind på at få kontrol over. Men hvad nu, hvis den fortælling egentlig dækker over en dyr, fejlslagen IT-strategi? Og hvad nu, hvis skræmmebilledet i virkeligheden stammer fra et syret sci-fi-tankeeksperiment, som har bredt sig ind på AI-firmaernes bestyrelsesgange?

1. Disclaimer

Jeg bruger med stor fornøjelse Large Language Models (LLMer) som ChatGPT. De er glimrende værktøjer i mange sammenhænge. Men hvordan kom vi fra nyttige webtjenester til profetier om verdens snarlige undergang? Det er det, jeg vil kigge på i det følgende.

2. Tech og penge

Det er svært at lave kloge maskiner. Især, hvis man selv skal sidde og møjsommeligt fylde dem med alle de informationer, de har brug for – ikke bare de rå data, men specifikke regler for, hvordan disse data skal bearbejdes. Allerede i 1950erne stillede computervidenskaben derfor sig selv spørgsmålet: Hvad nu, hvis maskinerne selv kunne lære? De mest kreative forskere foreslog sågar, at maskinerne ikke bare kunne fylde sig selv med data – men også selv lære, hvad de kunne bruges til i praksis.

Flaskehalsen i alt dette arbejde var at skaffe data nok til at træne maskinerne. Men da World Wide Web kom på banen i 1991, kom store mængder information efterhånden online – og maskinerne kunne løbende opdatere sig selv ved at hente indhold fra websites. Samtidig udvikledes stadig kraftigere processorer, som kunne bearbejde alle disse data – så maskinerne kunne lære stadig mere stadig hurtigere.

Resultatet har vi set i de seneste år. Jeg kan i dag stille en LLM et kompliceret spørgsmål, og i løbet af få sekunder få et svar, baseret på tusinder af websider og mange timers databehandling. Det er da imponerende!

Det er også dyrt. Behandling af så store mængder data kræver stadig mere digital isenkram – så meget, at der må bygges enorme, ressourcekrævende datacentre til at rumme al den computerkraft. Alene byggeriet af datacentre løber i 2026 op omkring 800 milliarder dollars.

Men hvad gør det, så længe det er en god forretning? Det er det bare overhovedet ikke. Investeringerne i AI har rundet den første trillion, og trods kreativ bogføring er det tydeligt, at pengene fosser ud af selv de førende firmaer. Hvilket er dårligt nyt, når man gerne vil børsnoteres.

3. Kan hesten ikke snart føde et lokomotiv?

Som sagt er der (trods de berygtede hallucinationer) ikke som sådan noget galt med produktet. Det er smart at kunne stille spørgsmål i naturligt menneskesprog og få relativt stabile resultater retur. Det er bare de færreste brugere, der er villige til at betale enorme summer for en venlig chatbot med adgang til nettet.

Derfor hævder AI-cheferne da også stadig mere insisterende, at AI enten bliver superintelligent lige om lidt eller, at det allerede er sket (de er bekymrende uenige på det punkt).

Spøgelset kaldes AGI (Artificial General Intelligence) og betegner den magiske grænse, hvor maskinerne bliver lige så kloge eller – gys! – klogere end mennesker – måske endda udvikler en egentlig bevidsthed.

Her kan jeg ikke lade være med at indskyde, at såvel hjerneforskere som psykologer og filosoffer stadig diskuterer, hvad intelligens og – især – bevidsthed overhovedet er. Men rent bortset fra det er der absolut intet belæg for, at en nok så hurtig og velformuleret snakkemaskine med adgang til nok så meget data per automatik skulle udvikle menneskelige træk. Som science fiction-forfatter og IT-journalist Cory Doctorow udtrykker det: Det svarer til at avle stadig hurtigere væddeløbsheste og så regne med, at en af dem en dag føder et lokomotiv.

Hvilket er rigtig dårligt nyt for investorer med milliarder af dollars i klemme. For de satsede jo ikke deres penge på hyggelige chatbots, som ikke kan tjene pengene hjem – men på drømmen om en verdensomvæltende ægte kunstig intelligens. Et produkt, som firmaerne ikke engang er i nærheden af at kunne lancere.

Men når man gerne vil børsnoteres, kan man jo bare lade som om.

4. Turing og Disney

Desværre er vi mennesker nemme at narre. Især, når vi mener at genkende noget menneskeligt.

En af den moderne computers fædre, Alan Turing, foreslog en test, som i grove træk fungerede sådan her: Hvis et menneske ikke kan skelne, om et svar kommer fra en computer eller fra et levende menneske, så er computeren blevet intelligent.

Og LLMerne er jo imponerende velformulerede – de kan undskylde, irettesætte og flirte aldeles overbevisende. Så må de da også være intelligente?

Nej. For i virkeligheden måler Turing-testen jo kun computerens evne til at simulere intelligens. Og én ting har maskinerne efterhånden fået ret godt styr på: Måske er deres svar af og til fulde af fejl – men de er godt nok velformulerede!

Og her er det, vi mennesker går i fælden. Når computeren kan tale, er den jo næsten ligesom os. Vi ser ikke længere webtjenesten som et stykke teknologi – vi ser en Disney-version af den. Vi antropomorfiserer teknologien. Og når vi ser en Disney-chatbot, der næsten ligner os, er det meget mere nærliggende at forestille sig, at den også kan tænke.

Vi er så nemme at narre, at vi også ser intelligens, hvor den slet ikke findes.

5. Skulle det nu være rationelt?

Men vil det sige, at AI-bosser som Altman, Thiel og Musk bevidst fylder os med løgn for at skrabe flere investor-penge sammen? Tror de ikke selv på deres underlige skrækscenarier om, at lidt hurtigere chatbots lige om lidt fører til teknologisk dommedag?

Det gør de nu nok. Desværre bare ikke på basis af fakta – men derimod inspireret af flyvske idéer, der til forveksling ligner en religion.

I 2006 begyndte en ung mand ved navn Eliezer Yudkowsky at skrive artikler, hvor han legede med tanken om en fremtidig kunstig superintelligens – og udviklede et tankesæt baseret på, at en sådan udvikling var overvejende sandsynlig – og at der var en reel risiko for, at denne superintelligens ville vælge at udrydde menneskeheden.

Alt det er naturligvis tankespind, baseret på et voldsomt hypotetisk scenarie. Men Yudkowsky (en mand uden nogen nævneværdig uddannelse) gik skridtet videre og formulerede en slags forskruet moralfilosofi: For hvis truslen fra en kunstig intelligens var virkelig – så ville det jo være menneskehedens vigtigste opgave at tøjle den. Glem den globale ulighed og klimakrisen – AI er farlig, og det er vores største problem! Det bizarre synspunkt har valgt at smykke sig med det misvisende navn “Rationalism”.

Både Peter Thiel og Elon Musk har doneret penge til den rationalistiske bevægelse, der blandt andet ytrer sig på websitet LessWrong. Og tankegodset er trængt dybt ind i AI-firmaerne selv, der helst ansætter rettroende ledere, der bekender sig til rationalistiske idéer.

Så når AI-cheferne maler fanden på væggen, er det selvfølgelig blandt at for at hype deres produkt ved at påstå, at det er nået meget længere, end det er. Men det skyldes også, at deres virkelighedsbillede mest af alt ligner noget fra en dårlig science-fiction-roman.

6. Bullshit-detektor

Man skulle tro, at kritiske journalister for længst ville have kastet sig over AI-retorikken og skilt fakta fra fiktion. Men med få undtagelser synes pressen at køre med på topchefernes udmeldinger.

Derfor kommer her et par gode forslag til, hvordan du kan bevæbne dig med din egen bullshit-detektor i en verden af hype:

Follow the money. Når en “ekspert” advarer om den forestående katastrofe, så tjek, om vedkommende har økonomiske interesserer i branchen – for advarslen kan være et reklamestunt. Og husk, at AI-cheferne er folk, der ved meget om at tjene penge – måske lidt om IT – og intet om, hvad intelligens egentlig er.
Hvor er beviserne? Bemærk, at hverken succes- eller skrækhistorier understøttes af eksempler fra den virkelige verden. Hvor er de firmaer, der har tjent penge på effektivisering med AI? Hvad er det præcis, AI kan, som er så farligt? Hvis du ikke kan få helt konkrete svar, er det sandsynligvis bare hype.
Find de kritiske kilder. Heldigvis findes der gode skribenter og podcastere, der har sat sig ind i sagen og kan skære igennem det værste nonsens. Jeg anbefaler ovenstående Cory Doctorow, forfatter og journalist Ed Zitron (med podcasten Better Offline) og datalog (og opfinder af Virtual Reality) Jaron Lanier. Alle tre er også gode til at henvise til andre skribenter med forstand på emnet.

Så held og lykke derude. AI-apokalypsen er indtil videre aflyst.