Artificiell intelligens blir alltmer kapabel i en snabbare takt än vad många experter förväntat sig, men vår förmåga att mäta dess risker i verkligheten håller inte jämna steg. Detta utgör kärnan i International AI Safety Report 2026 – en vetenskaplig utvärdering som leds av Yoshua Bengio och har tagits fram med vägledning från fler än 100 oberoende experter, nominerade av över 30 länder och internationella organisationer.
Rapporten är inte en förutsägelse om att ett visst dramatiskt utfall är oundvikligt. Den utgör en kartläggning av vad forskare vet och inte vet, samt varför själva osäkerheten är av betydelse när generell AI tas i bruk i stor skala.
Tre riskkategorier
Rapporten grupperar framväxande risker i tre övergripande områden:
- Skadlig användning, inklusive bedrägerier, cyberoperationer och kränkande syntetiskt innehåll.
- Funktionsfel, där ett system uppträder opålitligt, strävar efter fel mål eller genererar skadliga resultat.
- Systemrisker, där omfattande användning påverkar arbetsmarknaden, informationsmiljöer, marknadskoncentration eller kritiska institutioner.
Underlaget är ojämnt. Vissa skadeverkningar, såsom AI-understödda bedrägerier och spridning av intima bilder utan samtycke, är redan dokumenterade. Andra scenarier är fortfarande osäkra, i synnerhet när de beror på framtida förmågor eller komplexa sociala händelseförlopp. Ansvarsfull rapportering måste tydliggöra denna skillnad.
Utvärderingsgapet
Ett referensvärde kan visa att en modell presterar väl i ett specifikt test. Det kan däremot inte på egen hand förutsäga hur samma system kommer att bete sig i en stökig arbetsmiljö, under fientlig påverkan eller när det är kopplat till verktyg och känsliga data.
Rapporten kallar detta för ett utvärderingsgap. Modeller kan vara känsliga för instruktioner och kontext, tester kan bli föråldrade och laboratorieresultat är inte alltid direkt överförbara till verklig användning. Detta gör dock inte utvärdering meningslös. Det innebär snarare att utvärderingen bör ske i flera skikt: kapacitetstester, ”red-teaming”-övningar, övervakning vid driftsättning, incidentrapportering och mänsklig granskning besvarar alla olika frågor.
Skyddsåtgärderna förbättras – men är inte avgörande
Utvecklare och forskare har utökat arbetet med modellutvärderingar, träning i att neka förfrågningar, åtkomstkontroller, verktyg för ursprungsspårning och ramverk för säkerhet kring banbrytande modeller. Rapporten betonar också begränsningarna hos dessa åtgärder. Skickliga angripare kan kringgå skyddsmekanismer, vattenmärkning kan vara sårbar, och den faktiska effekten av många kontrollåtgärder är fortfarande svår att kvantifiera.
Det förnuftiga tillvägagångssättet är inte att överge skyddsåtgärder, utan att undvika att betrakta en enskild kontrollmekanism som en garanti. Försvarsdjup är avgörande: begränsa behörigheter, isolera känsliga system, logga kritiska åtgärder, testa felscenarier och möjliggör återställning.
Vad praktiska team kan göra
- Anpassa nivån av tillsyn efter uppgiftens konsekvenser.
- Låt människor fortsatt ansvara för finansiella, medicinska, juridiska och säkerhetskritiska beslut.
- Ge AI-verktyg den minsta mängd data och de behörigheter de behöver.
- Mät prestandan efter driftsättning, inte bara före lansering.
- Registrera misslyckanden och tillbud så att kunskapsunderlaget kan förbättras.
- Informera användare när innehåll eller beslut i väsentlig utsträckning involverar AI.
Den Mythic Mode perspektiv
Den viktigaste lärdomen är av kulturell art: tilltron bör vila på belägg. AI kan påskynda forskning, design och drift, men snabbhet är inte detsamma som tillförlitlighet. Ett system blir mer tillförlitligt när dess begränsningar är tydliga, dess handlingar kan granskas och de som hanterar det är beredda att säga: ”vi vet inte än.”
Rapporten avgör inte varje debatt. Den utgör en gemensam vetenskaplig grund för att fatta bättre beslut i takt med att förmågor och risker förändras.