Search
Close this search box.

Kunskap: Vad är cybersäkerhet för AI?

Den ökade användningen av artificiell intelligens (AI) har en stor inverkan på cybersäkerheten i datorsystem. Den snabbt ökande användningen av ny AI-teknik medför nya cybersäkerhetsrisker som organisationer måste hantera på ett lämpligt sätt.

Eftersom AI-system är datorsystem utsätts de för samma typer av cybersäkerhetsrisker som vanliga datorsystem. På grund av den snabba införandetakten av ny AI-teknik är effektiviteten av befintliga åtgärder för cybersäkerhet emellertid begränsad. Samtidigt jobbar experter febrilt med att utveckla nya metoder för att hantera cybersäkerhetsrisker vid användning av AI-system. I samband med detta har ett nytt område skapats, cybersäkerhet för AI.

Cybersäkerhet för AI kombinerar traditionella metoder för cybersäkerhet med AI-forskning, kontradiktorisk maskininlärning och andra relevanta områden. Cybersäkerhet för AI syftar till att i första hand använda redan etablerade säkerhetsmetoder såvida detta är möjligt. Det finns dock flera AI-cybersäkerhetsrisker för vilka det varken finns testade säkerhetsmetoder eller specifika säkerhetsstandarder. De flesta av dessa risker är relaterade till användningen av nya typer av sårbarheter som uppstår vid användningen av ny AI-teknik. Exempel på sådana sårbarheter är evasionsattacker (evasion attacks), dataförgiftning (data poisoning), stöld av AI-modellen (model stealing), modellinversion (model inversion) eller bakdörrar (backdoors) inbäddade i AI-modeller.

För närvarande kan utmaningarna på området cybersäkerhet för AI grupperas i två huvudkategorier: organisatoriska utmaningar relaterade till processer samt forsknings- och utvecklingsutmaningar relaterade till tekniker och metoder. Det finns gott om exempel på sådana organisatoriska utmaningar som till exempel att upprätthålla cybersäkerheten för ett AI-system under hela dess livscykel och att hantera AI-specifika cybersäkerhetsrisker i hela leveranskedjan. Några exempel på forsknings- och utvecklingsutmaningar är att bedöma attacker mot maskininlärningsmodeller, utveckla AI-specifika säkerhetsåtgärder och härda AI-modeller för mer avancerade AI-metoder.

Mer information

Källa: Cybersecurity of Artificial Intelligence in the AI Act (JRC)

Relaterade nyheter

Områden

I fokus

Länder

Taggar

Populära kurser

Expertis

Gå kurs med oss

07 MAR

AI – Introduktion till artificiell intelligens

Kursen ger dig de rättsliga förutsättningarna för utveckling, upphandling och användning av AI.

14 MAR

Cybersäkerhet - Introduktion till NIS2-direktviet

En genomgång av de viktigaste reglerna i NIS2-direktivet och kompletterande svensk lagstiftning.

21 MAR

AI - Introduktion till AI-förordningen

En genomgång av de viktigaste reglerna i den nya AI-förordningen och hur du kan använda AI-system på ett lagenligt sätt.