Kunstig intelligens bliver mere kapabel hurtigere, end mange eksperter havde forventet, men vores evne til at måle de risici, teknologien medfører i den virkelige verden, holder ikke trit. Dette er det centrale spændingsfelt i International AI Safety Report 2026 – en videnskabelig vurdering, der er ledet af Yoshua Bengio og udarbejdet med vejledning fra mere end 100 uafhængige eksperter, som er blevet indstillet af over 30 lande og internationale organisationer.
Rapporten er ikke en forudsigelse om, at et bestemt dramatisk udfald er uundgåeligt. Den er et kort over, hvad forskere ved, hvad de ikke ved, og hvorfor selve usikkerheden spiller en rolle, når generel kunstig intelligens tages i brug i stor skala.
Tre risikokategorier
Rapporten grupperer nye risici i tre overordnede områder:
- Skadelig anvendelse, herunder svindel, bedrageri, cyberoperationer og misbrugspræget syntetisk indhold.
- Funktionsfejl, hvor et system opfører sig upålideligt, forfølger et forkert mål eller frembringer skadelige resultater.
- Systemiske risici, hvor udbredt anvendelse påvirker arbejdsmarkedet, informationsmiljøer, markedskoncentrationen eller kritiske institutioner.
Bevisgrundlaget er ujævnt. Visse skadevirkninger, såsom AI-understøttet svindel og deling af intime billeder uden samtykke, er allerede dokumenterede. Andre scenarier er fortsat usikre, især når de afhænger af fremtidige teknologiske muligheder eller komplekse sociale hændelsesforløb. Ansvarlig formidling må tydeliggøre denne skelnen.
Evalueringskløften
En benchmark-score kan vise, at en model klarer sig godt i en defineret test. Den kan ikke i sig selv forudsige, hvordan det samme system vil opføre sig på en ustruktureret arbejdsplads, under fjendtlig påvirkning eller når det er forbundet med værktøjer og følsomme data.
Rapporten betegner dette som et evalueringsgab. Modeller kan være følsomme over for prompts og kontekst, tests kan blive forældede, og et laboratorieresultat kan ikke nødvendigvis uden videre overføres til praktisk anvendelse. Det gør ikke evaluering overflødig. Det betyder derimod, at evaluering bør foregå i flere lag: Kapacitetstests, red-team-øvelser, overvågning af implementering, hændelsesrapportering og menneskelig gennemgang besvarer hver især forskellige spørgsmål.
Sikkerhedsforanstaltningerne bliver bedre – men er ikke afgørende
Udviklere og forskere har udvidet arbejdet med modelevaluering, træning i afvisning af forespørgsler, adgangskontrol, værktøjer til sporing af ophav samt sikkerhedsrammer for avancerede modeller. Rapporten fremhæver også begrænsningerne ved disse tiltag. Dygtige angribere kan omgå sikkerhedsforanstaltningerne, vandmærkning kan være sårbar, og effektiviteten af mange kontrolmekanismer i praksis er stadig vanskelig at kvantificere.
Den fornuftige tilgang er ikke at opgive sikkerhedsforanstaltningerne. Det handler om at undgå at betragte en enkelt kontrolforanstaltning som en garanti. Lagdelt sikkerhed er afgørende: Begræns rettigheder, isoler følsomme systemer, log handlinger med væsentlige konsekvenser, test scenarier for systemsvigt, og sørg for mulighed for at rulle ændringer tilbage.
Hvad praktiske teams kan gøre
- Afpas tilsynsniveauet efter opgavens konsekvenser.
- Lad mennesker stå til ansvar for økonomiske, medicinske, juridiske og sikkerhedskritiske beslutninger.
- Giv AI-værktøjer de minimale data og tilladelser, de har brug for.
- Mål ydeevnen efter implementering, ikke kun før lancering.
- Registrér svigt og nærved-hændelser, så vidensgrundlaget kan forbedres.
- Oplys brugerne om, hvornår indhold eller beslutninger i væsentlig grad involverer kunstig intelligens.
Den Mythic Mode perspektiv
Den vigtigste lære er af kulturel karakter: Tillid bør baseres på dokumentation. AI kan sætte skub i forskning, design og drift, men hastighed er ikke det samme som pålidelighed. Et system bliver mere troværdigt, når dets begrænsninger er synlige, dets handlinger kan efterprøves, og de, der betjener det, er villige til at sige: ”Det ved vi endnu ikke.”
Rapporten afgør ikke enhver debat. Den tilbyder et fælles videnskabeligt grundlag for at træffe bedre beslutninger, samtidig med at kapaciteter og risici løbende ændrer sig.