Artificiell intelligens (AI) och maskininlärning (ML) har på senare år fått ett stort genomslag inom många teknikområden. Nu börjar dessa tekniker även integreras i trådlösa kommunikationssystem, såsom radiosystem. Forskare vid Totalförsvarets forskningsinstitut (FOI) har nyligen publicerat en rapport som analyserar de potentiella sårbarheter och hot som användningen av AI kan medföra i dessa system.
AI:s roll i trådlös kommunikation
I moderna radiosystem används en kedja av algoritmer för att bearbeta, sända och avkoda data. Traditionellt har detta hanterats av signalbehandling, men AI-teknik erbjuder nu alternativa metoder för dessa processer. Enligt Erik Axell, laborator på FOI:s avdelning för Telekrig i Linköping, kan AI-teknik ersätta traditionell signalbehandling helt eller delvis för att utföra dessa uppgifter.
Potentiella sårbarheter och hot
Trots de möjligheter AI erbjuder, finns det begränsad forskning om de hot och sårbarheter som AI kan introducera i trådlösa kommunikationssystem. Tidigare studier har främst fokuserat på bild- och språkbehandling, där AI-boomen varit mer framträdande. FOI:s rapport belyser att attacker mot AI i trådlösa system kan vara möjliga, men att många tidigare studier utgår från orealistiska antaganden, såsom att angriparen har fullständig kunskap om AI-modellen.
Kategorisering av attacker
I rapporten kategoriseras attacker baserat på olika egenskaper. En kategori, kallad “Domain” (domän), beskriver var attacken kan ske, från digitala till fysiska angrepp. Digitala attacker kräver tillgång till AI-modellens indata, medan fysiska attacker kan innebära att en motståndare sänder manipulerade radiosignaler genom luften. En annan kategori, “Knowledge” (kunskap), definierar angriparens insikt i AI-modellen, från fullständig kunskap (whitebox) till ingen kunskap alls (blackbox). FOI:s analys indikerar att det är osannolikt att en motståndare har fullständig insikt i AI-modellen, vilket gör många tidigare studier mindre relevanta.
Slutsatser och framtida forskning
FOI:s rapport understryker behovet av mer realistiska studier som tar hänsyn till radiokanalens komplexitet och de faktiska förhållandena i trådlösa kommunikationssystem. Det är avgörande att förstå hur AI-modeller kan påverkas av både digitala och fysiska attacker för att utveckla effektiva försvarsstrategier. Framöver kan AI komma att integreras i olika delar av Försvarsmaktens trådlösa kommunikationssystem, vilket gör denna forskning särskilt viktig för att säkerställa robusthet och säkerhet.
1. AI förbättrar men skapar också sårbarheter
• AI och maskininlärning (ML) kan effektivisera trådlösa kommunikationssystem genom optimerad signalbehandling.
• Samtidigt introducerar dessa teknologier nya säkerhetsrisker som ännu inte är tillräckligt utforskade.
2. Begränsad forskning om hot mot AI i trådlös kommunikation
• Till skillnad från AI inom bild- och språkbehandling är hot inom trådlös kommunikation mindre studerade.
• Många befintliga studier bygger på orealistiska scenarier, där angriparen antas ha fullständig insikt i AI-modellen.
3. Möjliga attackvektorer
• Digitala attacker: Kräver tillgång till AI-modellens indata.
• Fysiska attacker: Innebär att en angripare manipulerar radiosignaler för att vilseleda AI-baserade system.
• Black-box vs. White-box-attacker: Sträcker sig från ingen kunskap om systemet (black-box) till fullständig insyn (white-box).
4. Utmaningar vid attackgenomförande
• Trådlösa AI-system är svårare att attackera än digitala system eftersom radiokanalen skapar osäkerheter.
• Många forskningsstudier bortser från realistiska radiostörningar och nätverksdynamik, vilket gör resultaten svårapplicerade.
5. Behov av robust AI-säkerhet
• FOI betonar vikten av mer forskning för att utveckla skydd mot adversarial machine learning (AML)-attacker.
• Militär och civil AI-driven kommunikation bör byggas med säkerhetsåtgärder från början för att minska riskerna.
6. Strategiska implikationer för försvar och säkerhet
• AI används allt mer i militära och civila trådlösa nätverk, vilket gör det kritiskt att säkra dessa system mot cyber- och radiobaserade hot.
• Försvarsmakten och andra säkerhetsaktörer behöver prioritera AI-säkerhet i sina kommunikationssystem.
AI i trådlös kommunikation medför både möjligheter och risker. Även om AI kan öka effektiviteten, öppnar det också upp för nya hot. För att säkerställa tillförlitliga och säkra AI-baserade kommunikationssystem krävs mer realistiska studier och starkare säkerhetsstrategier.
Källförteckning
1. FOI: AI i trådlös kommunikation kan skapa risker
2. FOI:s rapport FOI-R–5646–SE
3. Voister: FOI:s senaste slutsatser om AI i trådlös kommunikation
4. Computer Sweden: Svårt att reda ut riskerna med AI i militär trådlös kommunikation