Agentni AI se seli iz demonstracij v dejanske procese: raziskovalni asistenti načrtujejo iskanje dokazov, podporni agenti sprožajo transakcije, klinični pomočniki pripravljajo priporočila, operativni agenti pa povezujejo naloge med sistemi.
EU AI Act ne ustvarja posebne pravne kategorije z imenom agentni AI. Sistem regulira glede na to, kaj je, kdo ga daje na trg ali uporablja, za kateri namen se uporablja, kakšno tveganje ustvarja in ali zanj veljajo tudi MDR ali IVDR.
Začnite z definicijo
Člen 3(1) opredeljuje AI sistem kot strojni sistem z različnimi stopnjami avtonomije, ki ustvarja napovedi, vsebine, priporočila ali odločitve z vplivom na okolja. To že zajema večino agentnih sistemov.
Ločite model od sistema
GPAI model je ena plast. Agentna aplikacija doda navodila, orodja, pomnilnik, pravila, integracije, pravice dostopa in dnevnike. Podjetje, ki gradi agenta na zunanjem modelu, je lahko še vedno ponudnik reguliranega AI sistema.
Tveganje je odvisno od uporabe
Agentnost sama po sebi sistema ne naredi visoko tveganega. Visoko tveganje izhaja iz člena 6, Priloge III in zakonodaje o proizvodih. Zaposlovanje, bistvene storitve, kritična infrastruktura in klinična uporaba zahtevajo posebno previdnost.
Obveznosti postanejo kontrole
Potrebni so upravljanje tveganj, kakovost podatkov, dokumentacija, dnevniki, preglednost, človeški nadzor, robustnost, kibernetska varnost, QMS, monitoring in poročanje o incidentih. Pri agentih to pomeni dovoljene naloge, orodja, prepovedana dejanja, odobritve, eskalacije in stop-kontrole.
MedTech: možna je dvojna skladnost
Če AI programska oprema spada med medicinske pripomočke po MDR ali IVDR in zahteva oceno priglašenega organa, bo praviloma tudi visoko tvegan AI sistem po AI Act. Zahteve je treba povezati s tehnično dokumentacijo, klinično evalvacijo, PMS, vigilanco in kibernetsko varnostjo.
Praktičen seznam
- Razvrstite sistem zgodaj.
- Mapirajte pravne vloge.
- Zapišite namen in meje avtonomije.
- Omejite orodja in dostop.
- Vodite dnevnike celotne zanke.
- Validirajte realne scenarije.
- Vgradite človeški nadzor.
- Spremljajte sistem po uvedbi.
Zaključek
Agentni AI ne uide regulaciji zato, ker je nov, in ni samodejno visoko tvegan zato, ker je avtonomen. Odločilno je, kaj sistem dela, kdo ga uporablja in katera sektorska pravila veljajo.
Izbrani viri