När försvaret måste bekämpa AI med AI

De hackare som tidigare behövde veckor för att kartlägga ett system kan i dag låta en AI-modell göra jobbet på timmar. Det är kärnan i den varning som en arbetsgrupp vid Kungl. Ingenjörsvetenskapsakademien (IVA) lade fram tidigare i år: AI-drivna cyberhot hittar och utnyttjar sårbarheter i en skala som vida överskrider mänsklig förmåga. Enkelt förklarat betyder det att de manuella försvar många svenska organisationer förlitat sig på inte längre hinner med. Motmedlet som pekas ut är att integrera AI även på försvarssidan.

Pontus Johnson, professor vid KTH och ordförande för arbetsgruppen, sammanfattar problemet rakt:

”Våra mänskliga försvarare hinner inte med.”

AI blev bra på att hacka som en bieffekt av att lära sig programmera

Det här är vad som faktiskt händer. Stora språkmodeller tränas på enorma mängder kod för att kunna skriva och felsöka program. Samma förmåga som gör en modell duktig på att bygga mjukvara gör den duktig på att hitta hål i den. Att läsa kod och förstå var den brister är två sidor av samma sak.

Resultatet är att AI-modeller visat sig överraskande skickliga på att hacka, trots att ingen uttryckligen byggt dem för det. En angripare behöver inte längre vara en erfaren programmerare. Tekniken gör det enklare för i princip vem som helst att genomföra storskaliga angrepp, eftersom modellen sköter det tekniska tunga arbetet.

Det senare är det verkligt oroande. Cyberbrott har historiskt krävt kunskap. När den kunskapen flyttar in i en modell som vem som helst kan använda, ökar antalet potentiella angripare dramatiskt.

Traditionellt försvar bygger på att en människa hinner reagera

De flesta känner till brandväggar och antivirus men färre tänker på att mycket av det klassiska cyberförsvaret vilar på mänsklig respons. En larmnotis dyker upp, en säkerhetsanalytiker tittar på den, bedömer och agerar. Den kedjan fungerar så länge angreppen kommer i mänskligt tempo.

Problemet uppstår när angriparen automatiserar. En AI-driven attack kan testa tusentals ingångar, byta metod när en blockeras och skala upp snabbare än någon analytiker kan följa med. Johnson pekar särskilt på vad som händer när Kinas AI-modeller blir brett tillgängliga:

”Kanske kan vi få ett år på oss.”

Efter det varnar han för risken för massiva cyberkriminella angrepp som i värsta fall kan slå ut delar av samhällsinfrastrukturen, enligt rapporteringen från Omni. Ett år är ingen lång tid för organisationer som brukar räkna säkerhetsprojekt i budgetår.

En detalj i sammanhanget är illa vald timing. Många svenska företagare går på semester utan färdig incidentberedskap, samtidigt som IT-avdelningarna är tunt bemannade under sommaren. Angriparna tar ingen ledighet.

IVA vill bekämpa AI med AI men på ett kontrollerat sätt

IVA-rapporten landar i fem prioriterade åtgärder och den femte har fått mest uppmärksamhet: AI måste in i själva cyberskyddet. Tanken är att en försvarande AI kan sikta av larm, upptäcka avvikelser och reagera i samma tempo som angriparen. En människa hinner inte men en maskin kan möta en maskin. Rapporten är tydlig med att detta ska ske testat, kontrollerat och ansvarsfullt. Att slänga in en oprövad AI i sitt försvar kan skapa nya sårbarheter i stället för att täppa till gamla.

De övriga åtgärderna är mindre dramatiska men minst lika viktiga. Grunderna blir viktigare, inte mindre viktiga: flerfaktorsautentisering, behörighetskontroll, patchning, loggning och incidenthantering. Det handlar också om att fatta beslut i högre tempo, veta vilka system och leverantörer som faktiskt är kritiska och dela hotinformation snabbare mellan myndigheter, företag och forskare. För den som vill börja i rätt ände är grundläggande skydd mot dataintrång fortfarande den bästa investeringen, oavsett hur avancerade angreppen blir.

FRA och NCSC fick huvudansvaret sommaren 2026

På myndighetssidan har mycket hänt under året. Den 1 juli 2026 flyttades cyberverksamheten från Myndigheten för civilt försvar till Försvarets radioanstalt (FRA). Där ligger Nationellt cybersäkerhetscenter, NCSC, som blivit navet i arbetet.

I ett regeringsbeslut i juli 2026, med Carl-Oskar Bohlin som ansvarig minister för civilt försvar, fick NCSC i uppdrag att samordna arbetet med AI-relaterad cybersäkerhet, enligt regeringens pressmeddelande. Konkret ska myndigheten analysera risker och beroenden kopplade till avancerade AI-modeller, fungera som kontaktpunkt för de företag som utvecklar sådana modeller och driva svensk samordning i europeiska och internationella forum. Uppdraget ska redovisas senast den 13 november 2026.

Parallellt trädde cybersäkerhetslagen i kraft i januari 2026. Den ställer krav på att företag och myndigheter inom samhällsviktig verksamhet håller en hög säkerhetsnivå och kompletteras med mer detaljerade föreskrifter den 1 oktober 2026.

Även privatpersoner är måltavlor för AI-drivna bedrägerier

Det mesta i rapporten riktar sig till organisationer men hotbilden når ända ner till enskilda konton. Automatiserade angrepp gör det billigt att rikta in sig på många samtidigt och AI gör bedrägerierna svårare att genomskåda. Ett mejl med perfekt svenska och rätt tonläge är inte längre ett tecken på att avsändaren är seriös.

I praktiken innebär det att samma grundvanor som experterna trycker på gäller även privat. Flerfaktorsautentisering på viktiga konton, uppdaterad mjukvara och en sund misstänksamhet mot brådskande uppmaningar. Om du vill förstå hur AI-genererade bedrägerier fungerar är vishing och catfishing bra ställen att börja, eftersom det är där generativ AI redan gör verklig skada mot vanliga användare.

FAQ

Vad menas med AI-drivna cyberhot?

Det syftar på cyberangrepp där artificiell intelligens gör en del av arbetet, till exempel att hitta sårbarheter, skriva skadlig kod eller formulera trovärdiga bedrägerimejl. Det som skiljer dem från vanliga attacker är hastigheten och skalan. En modell kan testa och anpassa sig snabbare än en människa, vilket gör att angreppen både blir fler och svårare att stoppa i tid.

Varför räcker inte vanligt antivirus?

Klassiskt skydd är byggt för att känna igen kända hot och bygger ofta på att en människa hinner bedöma larmen. När angreppen automatiseras och ständigt byter form hinner varken signaturdatabaser eller analytiker med. Därför pekar IVA-rapporten på att försvaret behöver egen AI som kan reagera i samma tempo.

Vad är NCSC?

Nationellt cybersäkerhetscenter är en samordnande funktion som sedan sommaren 2026 ligger under Försvarets radioanstalt. Centret koordinerar Sveriges arbete mot cyberhot och fick under 2026 ett särskilt uppdrag att samordna frågor kopplade till avancerade AI-modeller.

Hur lång tid har Sverige på sig att förbereda sig?

Pontus Johnson uppskattade att det kan handla om ungefär ett år innan de mest kraftfulla AI-modellerna blir brett tillgängliga och risken för storskaliga angrepp ökar. Det är en grov tidsuppskattning, inte ett bestämt datum men poängen är att marginalen är liten jämfört med hur långsamt säkerhetsarbete brukar röra sig.

Nästa hållpunkt är den 13 november 2026, då NCSC ska redovisa sitt uppdrag. Den redovisningen blir ett kvitto på hur snabbt Sverige faktiskt lyckas flytta från plan till handling.