Večina organizacij začne svojo pot upravljanja AI z ugodnim predpostavkom: že imamo ISMS, torej imamo strukturo za AI tveganje.
Ta predpostavka je razumljiva. ISO 27001, varnostne kontrole, registri tveganj, upravljanje dostopa, odziv na incidente in ocenjevanje dobaviteljev so znano ozemlje. Ko podjetje uvede interni AI asistent za iskanje po politikah, pripravo odgovorov za stranke ali analizo tveganj, je prvi instinkt pogosto obravnavati ga kot kateri koli drug nov informacijski sistem. Zavaruj dostop. Zaščiti podatke. Preglej ponudnika. Posodobi inventar sredstev. Dodaj nekaj kontrol. Naprej.
Ta instinkt ni napačen. Je le nepopoln.
Problem je v tem, da AI ne ustvarja samo tveganja informacijske varnosti. Ustvarja tudi tveganje odločitev, tveganje vedenja, tveganje modela in poti škode, ki jih konvencionalni ISMS ni bil nikoli zasnovan za jasno zaznavanje. ISMS ščiti informacije in sisteme. Upravljanje AI mora obravnavati tudi izhode, negotovost, razložljivost, pravičnost, drift, pretirano zanašanje ljudi in poslovne odločitve sprejete na podlagi probabilističnega strojnega vedenja.
Trdni ISMS je nujna osnova za upravljanje AI. A ni celotna struktura. Ščiti okolje, v katerem AI deluje, ne pa celotnega spektra škod, ki jih AI lahko povzroči.
Zakaj ekipe vztrajno delajo to napako
Razlog je preprost: organizacije instinktivno posežejo po okviru, ki mu že zaupajo.
Če je varnostna ekipa leta gradila zrel ISMS, se zdi učinkovito razširiti ta sistem namesto odprtja novega upravljalskega področja. In pošteno rečeno, ta razširitev pogosto zajame smiseln del slike: kontrola dostopa za AI sisteme, tveganje dobaviteljev, zaupnost podatkov, beleženje, upravljanje sprememb in odpornost.
To so resnične kontrole. So pomembne.
Ko pa AI začne vplivati na vsebino, priporočila, klasifikacije, določanje prioritet ali odločitve, se objekt tveganja spremeni. Vprašanje ni več samo, ali je bil sistem varno dostopan ali ali so bili podatki razkriti. Vprašanje postane, ali sistem ustvarja izhode, ki so napačni, pristranski, zavajajoči, neprozorni ali nevarno preveč zaupani.
Tam začne stari okvir pokati.
V čem je ISMS resnično dober
Tukaj velja biti natančen. ISMS ni zastarel. Dejansko zrelo upravljanje AI pogosteje odpove hitreje, ko je osnova ISMS šibka.
ISMS je zgrajen za upravljanje tveganj v zvezi z zaupnostjo, integriteto, razpoložljivostjo, lastništvom sredstev, učinkovitostjo kontrol, varnostnimi incidenti, izpostavljenostjo tretjim osebam in operativno odpornostjo.
Če vaš AI asistent izpostavlja zaupne dokumente napačnim uporabnikom, je to problem ISMS. Če procesna veriga modela pridobiva učne podatke iz neodobrenega vira, je to delno problem ISMS. Če integracija LLM odpira novo napadalno površino prek ponudnika ali API, je to prav tako problem ISMS.
To je pomembno, ker nekatere razprave o AI preveč zanihajo v drugo smer in ravnajo, kot da klasična varnostna disciplina ni več pomembna. To bi bil malomarno razmišljanje. Šibka varnost otežuje vsako AI tveganje.
Toda to še vedno ne pomeni, da ISMS pokriva celotno področje.
Kje AI spremeni objekt tveganja
Tradicionalno tveganje informacijske varnosti se ukvarja predvsem z zaščito sredstev, sistemov in informacij pred kompromitacijo, zlorabo, motnjo ali izgubo. AI tveganje uvaja drugačno kategorijo skrbi: sistem se lahko slabo obnaša, čeprav je tehnično varen.
Ko je to jasno izrečeno, se sliši očitno, a to skoraj vse spremeni.
Varen AI sistem lahko še vedno halucinira odgovor na politiko, ki se sliši avtoritativno, neenakopravno razvršča ljudi ali primere, priporoča nevarno dejanje, tiho degradira, ko se pogoji spremenijo, ustvarja nerazložljive izhode v reguliranem procesu ali sproži pretirano zaupanje ljudi, ker zveni bolj gotovo, kot bi smelo.
To ni stranski primer. To je bistvena razlika.
Enostaven scenarij razkriva vrzel
Predstavljajte si, da podjetje uvede interni AI asistent za iskanje po politikah, pripravo odgovorov za stranke in povzetke internih analiz tveganj.
Ekipa za ISMS opravi svojo nalogo dobro. Dostop temelji na vlogah. Dnevniki so shranjeni. Varnost ponudnika je pregledana. Prenos podatkov je šifriran. Model je nameščen v odobrenem okolju.
Z vidika informacijske varnosti je to videti zrelo.
Toda asistent zdaj začne početi naslednje:
- daje različne razlage politik glede na to, kako uporabnik postavi vprašanje
- sestavlja odgovore za podporo, ki se slišijo skladni, a izpuščajo ključne pridržke
- pretirava z gotovostjo v povzetku tveganj, zgrajenem iz nepopolnega izvornega gradiva
- vodje mu začnejo zaupati, ker je hiter, tekoč in dostopen
Nič od tega nujno ne izgleda kot konvencionalni varnostni incident. Ni vdora. Ni izsiljevalske programske opreme. Ni ukradenega poverilnice. Pa vendar je organizacija zdaj izpostavljena vse večjemu skupku AI-specifičnih tveganj, ki jih ISMS sam po sebi ne razvršča dobro, ne nadzira dobro in jim ne dodeljuje lastništva.
To je trenutek, ko ekipe spoznajo, da model ni le še eno sredstvo. Je drugačna vrsta akterja v sistemu.
Zakaj AI tveganja ni mogoče reducirati na CIA
Triada zaupnost-integriteta-razpoložljivost je še vedno pomembna. Toda upravljanje AI potrebuje širšo lečo.
Pri AI morajo voditelji prav tako vprašati, ali je izhod dovolj zanesljiv za primer uporabe, ali človek lahko razume ali izpodbija rezultat, ali je model pravičen do relevantnih skupin, kaj se zgodi, ko se pogoji spremenijo in model uide, koliko avtonomije je organizacija tiho dala sistemu in kakšna škoda nastane, če je odgovor verjeten, a napačen.
Ta vprašanja se nelagodno ujemajo v klasične kategorije ISMS, ker ne gre samo za zaščito informacij. Gre za upravljanje vedenja, presoje in vpliva.
Strateška napaka, ki jo delajo vodje
Največja napaka ni nezmožnost skrbi za AI tveganje. Je predpostavka, da obstoječa varnostna struktura to že pokriva.
Ta predpostavka ustvarja tri nadaljnje težave.
1. Lastništvo postane preozko
Če je AI tveganje obravnavano samo kot varnostna tema, breme pade na ekipe, ki ne imajo vseh relevantnih vprašanj. Pravni oddelek, skladnost, produkt, podatki, lastniki poslovnih procesov in izvršno vodstvo ostanejo predaleč stran predolgo.
2. Dokazi postanejo zavajajoči
Podjetje lahko poroča, da so kontrola dostopa, pregledi ponudnikov in nadzor vzpostavljeni, ter zaključi, da je upravljanje zrelo. Toda te kontrole ne dokazujejo, da je model zanesljiv, razložljiv, pravičen ali primeren za primer z večjim vplivom.
3. Škoda se pojavi pozno
Ker so napake AI videti kot slabi izhodi in ne kot varnostni incident, jih organizacije pogosto zaznajo šele potem, ko so bile poslovne odločitve, interakcije s strankami ali operativni procesi že prizadeti.
Kaj naj torej vodje storijo najprej?
Začnite z jasnejšim miselnim modelom.
Obravnavajte ISMS kot temeljno plast upravljanja AI, ne celoten upravljalski sklad.
V praktičnem smislu obdržite varnostne kontrole, obdržite preglede dobaviteljev, obdržite disciplino incidentov in sprememb, toda dodajte AI-specifična vprašanja o tveganju, preden se primer uporabe razširi.
To pomeni razvrščanje primerov uporabe AI po vplivu, definiranje sprejemljivih meja uporabe, odločanje, kje je človeški pregled obvezen, in ugotavljanje, kateri dokazi so potrebni poleg tehnične varnosti.
Organizacije, ki to dobro počnejo, ne opuščajo svojega ISMS. Zavračajo njegovo preobremenjevanje z odgovornostmi, za katere ni bil nikoli zasnovan, da bi jih sam nosil.
Zaključek
AI tveganje ni le še ena tema ISMS.
Prekriva se z ISMS. Odvisno je od ISMS. Na nekaterih mestih stoji neposredno na njem. Toda sega tudi v vedenje modela, kakovost izhoda, pravičnost, razložljivost, avtonomijo in škodo pri odločanju na načine, ki jih klasični okviri informacijske varnosti ne zajemajo v celoti.
To je resnični izziv upravljanja.
Dobra novica je, da organizacijam ni treba zavreči obstoječe varnostne discipline. Morajo jo inteligentno nadgraditi. ISMS ostaja bistven, le da sam po sebi ni več zadosten.
In to vodi do naslednjega vprašanja: če AI tveganje ni enako ISMS tveganju, kaj se točno razlikuje? Tam se začne 2. del.