ISO/IEC 27090 behandlar säkerhetshot och komprometteringar som är specifika för AI-system under hela deras livscykel. Den kan hjälpa organisationer att komplettera etablerad informationssäkerhet med AI-specifikt riskarbete.
Vad ISO/IEC 27090 omfattar
ISO/IEC 27090, Cybersecurity - Artificial Intelligence - Addressing security threats and compromises to artificial intelligence systems, är under publicering. Dess status bör kontrolleras igen före publicering eller användning i ett formellt program.
Standarden är avsedd att hjälpa organisationer att förstå konsekvenserna av AI-specifika säkerhetshot under ett AI-systems hela livscykel, inklusive hur sådana hot kan upptäckas och hanteras. Den gäller organisationer av alla storlekar och typer som utvecklar eller använder AI-system, inklusive företag, offentliga organ och ideella organisationer.
Fokus är medvetet avgränsat till AI-specifika säkerhetshot och komprometteringar. Den ersätter inte det säkerhetsarbete som krävs för den programvara, infrastruktur, de nätverk och tjänster som ett AI-system är beroende av.
Etablerad informationssäkerhet är fortfarande grunden
En AI-modell körs i en bredare teknisk miljö och ärver riskerna i den miljön. Åtkomstkontroll, säker arkitektur, sårbarhetshantering, incidenthantering och loggning är därför fortfarande väsentliga.
ISO/IEC 27001 definierar kraven för ett ledningssystem för informationssäkerhet. ISO/IEC 27002 kompletterar den med vägledning om informationssäkerhetskontroller och rekommendationer om bästa praxis. ISO/IEC 27090 kan användas för att lägga till AI-specifika överväganden i detta etablerade arbete, i stället för att skapa en separat säkerhetsorganisation.
Denna flerskiktsstrategi överensstämmer med ENISA:s ramverk för god praxis inom AI-cybersäkerhet, som skiljer mellan cybersäkerhetens grunder, AI-specifik cybersäkerhet och sektorsspecifik cybersäkerhet.
Utvidga styrning och riskarbete för AI
ISO/IEC 42001 ger ett ledningssystemsammanhang för ansvarsfull AI och styrning av livscykeln.
AI-riskarbete bör omfatta mer än applikationskod. Det kan behöva täcka träningsdata, förtränade komponenter, modeller, indata och operativ övervakning. Hotmodellering kan synliggöra dessa beroenden och attackvägar före driftsättning och när systemen förändras.
Säkring av leveranskedjan förtjänar särskild uppmärksamhet när systemen är beroende av leverantörer. ETSI EN 304 223 omfattar processer för säkra programvaruleveranskedjor vid utveckling av AI-modeller och AI-system.
AI-specifika hot behöver analyseras separat
ISO:s offentliga katalog bekräftar ISO/IEC 27090:s fokus på livscykeln, men återger inte standardens fullständiga text. Organisationer bör konsultera den slutliga ISO/IEC-texten när den finns tillgänglig för dess detaljerade behandling av hot och riskreducerande åtgärder.
Följande exempel illustrerar de typer av AI-specifika säkerhetsfrågor som bör beaktas i hotmodellering och riskbedömning.
| Säkerhetsfråga | Varför det är viktigt |
|---|---|
| Manipulering av träningsdata eller förtränade komponenter | Påverkade data eller komponenter kan förändra hur ett AI-system fungerar. |
| Indata som är avsedda att orsaka ett felaktigt resultat | Noggrant utformade indata kan få en modell att göra misstag. |
| Konfidentialitetsattacker och modellbrister | Känslig information eller systembeteende kan exponeras eller utnyttjas. |
| Modellinversion eller medlemskapsinferens | Detta är exempel på AI-specifika attacker som bör hanteras i hotmodellering. |
| Bristfällig övervakning och spårbarhet | Utan lämpliga register är det svårare att utreda incidenter och identifiera mönster av missbruk. |
Kontroller bör bedömas tillsammans, inte isolerat. Övervakning, granskning och validering är fortfarande viktiga när ett system, dess data och dess driftskontext förändras.
Förhållandet till EU:s AI-förordning
För AI-system med hög risk kräver artikel 15 i EU:s AI-förordning en lämplig nivå av noggrannhet, robusthet och cybersäkerhet under hela livscykeln. När så är lämpligt måste de tekniska åtgärderna hantera AI-specifika sårbarheter, inklusive dataförgiftning, modellförgiftning, antagonistiska exempel eller modellundvikande, konfidentialitetsattacker och modellbrister.
ISO/IEC 27090 kan stödja ingenjörsarbete och riskhanteringsarbete som är relevant för dessa frågor. Den visar inte i sig överensstämmelse med AI-förordningen.
Standarder är fortfarande frivilliga i detta sammanhang. En presumtion om överensstämmelse uppstår endast när en relevant harmoniserad standard har bedömts och hänvisats till i Europeiska unionens officiella tidning, och endast för de rättsliga krav som den omfattar. Europeiska kommissionens vägledning om standardisering enligt AI-förordningen förklarar processen.
Kompletterande standarder och vägledning
| Källa | Förhållande till AI-systemsäkerhet |
|---|---|
| ISO/IEC 27001 och ISO/IEC 27002 | Tillhandahåller ISMS-kraven och vägledningen om informationssäkerhetskontroller som ligger till grund för bredare säkerhetsarbete. |
| ISO/IEC 42001 | Tillhandahåller ett ramverk för AI-ledningssystem och ett sammanhang för styrning av livscykeln. |
| ETSI EN 304 223 | Fastställer grundläggande säkerhetskrav för säker design, utveckling, driftsättning, underhåll och avveckling, inklusive hotmodellering, säkerhet i leveranskedjan och loggning. |
| ENISA:s flerskiktsramverk | Stödjer en flerskiktsstrategi som kombinerar grundläggande, AI-specifika och sektorsspecifika cybersäkerhetsmetoder. |
Att använda standarden i praktiken
ISO/IEC 27090 förstås bäst som en källa till strukturerad vägledning för AI-specifik säkerhetsanalys. Den kan hjälpa team att använda ett gemensamt språk, utvidga befintliga hotmodeller och identifiera var vanliga informationssäkerhetskontroller behöver tillämpas med AI-medvetenhet.
Den är inte en checklista som eliminerar behovet av systemspecifika riskbeslut. Organisationer bör bedöma sina egna modeller, data, leverantörer, gränssnitt och användningsfall och sedan välja, testa och övervaka kontroller som står i proportion till de berörda riskerna.