EU AI ACT upravljanje umjetnom inteligencijom i regulatornim rizicima

EU AI Act uspostavlja prvi sveobuhvatni, obvezujući regulatorni okvir za razvoj, stavljanje na tržište i uporabu sustava umjetne inteligencije u Europskoj uniji. Njegova je temeljna svrha osigurati da se AI sustavi koriste na način koji je siguran, pouzdan, transparentan i u skladu s temeljnim pravima, uz jasno definirane obveze za subjekte ovisno o razini rizika.

Za razliku od klasičnih tehnoloških regulativa, AI Act ne promatra umjetnu inteligenciju isključivo kao IT rješenje, već kao socio-tehnički sustav koji može imati izravan utjecaj na pojedince, organizacije i društvo. U tom smislu, usklađivanje s AI Actom zahtijeva sustavno upravljanje, a ne ad-hoc tehničke mjere.

AI Act i uloga harmoniziranih standarda

Operativna provedba AI Acta oslanja se u velikoj mjeri na harmonizirane regulatorne standarde, čijom se primjenom ostvaruje pretpostavka sukladnosti s regulatornim zahtjevima. Razvoj tih standarda odvija se kroz europske standardizacijske organizacije, uključujući CEN i CENELEC, u suradnji s regulatornim tijelima i stručnim skupinama.

Naši stručnjaci su aktivno uključeni u tijela i radne skupine zadužene za razvoj harmoniziranih standarda za AI, što nam omogućuje dubinsko razumijevanje:

• regulatornih očekivanja prije njihove formalne primjene
• načina na koji će se zahtjevi AI Acta operacionalizirati kroz standarde
• praktičnih implikacija za proizvođače, implementatore i korisnike AI sustava

To znanje izravno prenosimo u projekte usklađivanja kod klijenata.

AI Act kao sustav upravljanja, a ne jednokratna usklađenost

AI Act zahtijeva da organizacije mogu dokazati da upravljaju umjetnom inteligencijom kroz cijeli njezin životni ciklus, od dizajna i razvoja, preko implementacije i uporabe, do nadzora, promjena i povlačenja sustava.

Usklađivanje stoga podrazumijeva uspostavu AI governance okvira koji uključuje:

• jasnu raspodjelu odgovornosti
• sustavno upravljanje AI rizicima
• transparentnost i sljedivost odluka
• kontrolu dobavljača i trećih strana
• kontinuirano praćenje i poboljšavanje

Što radimo u usklađivanju s AI Actom

Naš pristup temelji se na integraciji regulatornih zahtjeva AI Acta s međunarodno priznatim normama i najboljim praksama upravljanja AI rizicima, pri čemu se osobita pažnja posvećuje načinu implementacije sustava u kontekstu modularnosti i olakšane nadogradnje i adaptacije po izlasku novih standarda i smjernica koje će biti izdavane u tu svrhu od strane relevantnih europskih institucija.

Uspostava sustava upravljanja AI-jem

Pomažemo organizacijama u uspostavi i održavanju AI Management Systema (AIMS), usklađenog s ISO/IEC 42001, kao temeljnog okvira za upravljanje umjetnom inteligencijom. AIMS integriramo s postojećim sustavima upravljanja (ISMS, QMS, ERM), čime se osigurava konzistentnost i dugoročna održivost.

Upravljanje AI rizicima i rizicima trećih strana

Provode se strukturirane procjene AI rizika u skladu s ISO/IEC 23894, ISO 31000 / ISO 31010 i povezanim okvirima, uz integraciju:

• tehničkih rizika
• etičkih i društvenih rizika
• pravnih i regulatornih rizika
• rizika povezanih s dobavljačima, modelima i podatkovnim izvorima

Upravljanje rizicima trećih strana posebno je važno u kontekstu AI sustava koji se oslanjaju na vanjske modele, platforme ili podatkovne skupove.

High-risk AI sustavi prema AI Actu

Posebnu pažnju posvećujemo high-risk AI sustavima, za koje AI Act propisuje pojačane obveze. Pomažemo organizacijama u:

• identifikaciji i klasifikaciji AI sustava prema razinama rizika
• planiranju usklađenosti prije stavljanja na tržište ili u uporabu
• provedbi procjena i dokumentiranju sukladnosti
• uspostavi nadzornih i korektivnih mehanizama tijekom uporabe

High-risk AI ne promatramo izolirano, već u kontekstu poslovnih procesa, regulatornih obveza i stvarnog operativnog okruženja.

Stručna izvrsnost i standardizacijski uvid

Sve navedene aktivnosti provode naši stručnjaci koji su nositelji renomiranih međunarodno priznatih certifikata iz područja upravljanja AI-jem, rizicima i informacijske sigurnosti. Dodatno, njihova aktivna uključenost u krovna europska tijela zadužena za razvoj harmoniziranih standarda omogućuje nam da klijentima pružimo savjetodavne usluge u uspostavi rješenja koja su praktično provediva i auditno održiva.