AI Uredba
Uredba (EU) 2024/1689 o umjetnoj inteligenciji (AI Act) predstavlja prvi sveobuhvatni regulatorni okvir za umjetnu inteligenciju na razini Europske unije.
poboljšati funkcioniranje unutarnjeg tržišta uspostavom harmoniziranih pravila za razvoj, stavljanje na tržište, puštanje u rad i uporabu sustava umjetne inteligencije u Europskoj uniji, uz istodobno osiguravanje visoke razine zaštite zdravlja, sigurnosti i temeljnih prava.
- digitalnu suverenost
- tehnološku otpornost
- globalno vodstvo u području pouzdane umjetne inteligencije
U tom kontekstu, Uredba uspostavlja jasne obveze za različite aktere u AI vrijednosnom lancu – uključujući proizvođače, pružatelje, deployere, uvoznike i Ovlaštene predstavnike.
Uredba je stupila na snagu 1. kolovoza 2024., a njezina primjena odvija se fazno, ovisno o vrsti obveza.
POSLJEDICE NEUSKLAĐENOSTIKoje su posljedice neusklađenosti s AI Act-om?
Za zabranjene AI prakse kazne mogu iznositi do 35 milijuna eura ili 7 % ukupnog godišnjeg globalnog prometa, ovisno o tome koji je iznos veći. Za neispunjavanje obveza vezanih uz visokorizične AI sustave kazne mogu doseći 15 milijuna eura ili 3 % globalnog prometa.
Osim financijskih sankcija, nadzorna tijela mogu zabraniti stavljanje sustava na tržište ili naložiti njegovo povlačenje.
Nesukladni AI sustavi mogu dovesti do regulatornog nadzora, obveze povlačenja proizvoda te prekida poslovnih aktivnosti na EU tržištu. Organizacije su izložene i povećanom riziku od građanskopravne odgovornosti za štetu uzrokovanu AI sustavima, uključujući zahtjeve za naknadu štete pred nacionalnim sudovima. Dodatno, neispunjavanje zahtjeva transparentnosti i ljudskog nadzora može značajno narušiti povjerenje korisnika i poslovnih partnera, što ima dugoročne reputacijske i tržišne posljedice.
Za zabranjene AI prakse predviđena je novčana kazna do 35 milijuna eura ili 7 % globalnog prometa.
Za neispunjavanje obveza za visokorizične AI sustave predviđena je kazna do 15 milijuna eura ili 3 % globalnog prometa.
Operativni okvir usklađenosti AI sustava
AI Act uvodi obveze vezane uz razinu rizika, upravljanje tijekom cijelog životnog ciklusa AI sustava, tehničku dokumentaciju, transparentnost, nadzor i post-tržišno praćenje.
Što trebate znati o EU AI Act-u
EU Akt o umjetnoj inteligenciji (AI Act) prva je sveobuhvatna regulativa o umjetnoj inteligenciji koju je donio veliki regulator. Uredba dijeli AI sustave u tri kategorije rizika:
-
Neprihvatljiv rizik – sustavi poput državnog „socijalnog bodovanja” su zabranjeni.
-
Visok rizik – npr. alati za rangiranje kandidata pri zapošljavanju podliježu posebnim zakonskim zahtjevima.
-
Niski ili minimalni rizik – sustavi koji nisu zabranjeni ni klasificirani kao visokorizični uglavnom nisu regulirani.
Prijedlog predviđa odgodu primjene pravila za visokorizične AI sustave dok standardi i potporni alati ne budu dostupni. Ipak, rok je ograničen: pravila za zapošljavanje i provedbu zakona vrijedit će najkasnije 16 mjeseci kasnije, a za AI u medicinskim uređajima 12 mjeseci kasnije.
Također se predviđa 6 mjeseci prijelaznog razdoblja za prilagodbu generativnih AI sustava radi njihove detektabilnosti.
AI sustavi prema EU AI Actu klasificiraju se u četiri razine rizika:
-
Neprihvatljiv rizik – zabranjeni sustavi (npr. socijalno bodovanje).
-
Visok rizik – dopušteni uz stroge zahtjeve i nadzor (npr. zapošljavanje, provedba zakona).
-
Ograničeni rizik – podliježu obvezama transparentnosti.
-
Minimalni ili bez rizika – bez posebnih regulatornih obveza.
Prema Regulation (EU) 2024/1689 (AI Act), high-risk AI sustav je onaj koji može predstavljati znaajan rizik za zdravlje, sigurnost ili temeljna prava građana te zato podliježe strogim zahtjevima (upravljanje rizicima, kvaliteta podataka, dokumentacija, nadzor čovjeka, registracija itd.).
Sustav se smatra visokorizičnim ako:
-
Je ugrađen u određene regulirane proizvode (Prilog I.), ili
-
Se koristi u osjetljivim područjima navedenima u Prilogu III.
Tipični use caseovi (Prilog III AI Act)
-
Zapošljavanje i HR – npr. rangiranje kandidata, evaluacija zaposlenika
-
Obrazovanje – ocjenjivanje ispita, procjena pristupa obrazovanju
-
Kreditna sposobnost – odobravanje kredita, scoring građana
-
Provedba zakona – procjena rizika počinjenja kaznenog djela
-
Migracije i azil – procjena zahtjeva ili rizika
-
Pravosuđe – sustavi za potporu sudskim odlukama
-
Upravljanje kritičnom infrastrukturom – npr. promet, energij
Prema AI Actu (čl. 5) zabranjene su AI prakse koje predstavljaju neprihvatljiv rizik:
-
Manipulacija i iskorištavanje ranjivih osoba
-
Socijalno bodovanje
-
Prediktivno procjenjivanje kriminaliteta pojedinaca (na temelju profiliranja)
-
Masovno prikupljanje biometrijskih podataka
-
Prepoznavanje emocija u školama i na radnom mjestu
-
Biometrijska kategorizacija osjetljivih podataka
-
Real-time biometrijska identifikacija u javnim prostorima (uz vrlo ograničene iznimke)
Ključne obveze pružatelja (providers) visokorizičnih AI sustava prema Regulation (EU) 2024/1689 (AI Act) su:
-
Sustav upravljanja rizicima
-
Kvaliteta i upravljanje podacima (relevantni, reprezentativni i bez diskriminacije)
-
Tehnička dokumentacija i vođenje evidencija (logovi)
-
Transparentnost i upute za uporabu
-
Ljudski nadzor (human oversight)
-
Točnost, robusnost i kibernetička sigurnost sustava
-
Postupak ocjene sukladnosti (conformity assessment) prije stavljanja na tržište
-
Registracija u EU bazi podataka (za određene sustave)
EU AI Act uvodi posebna pravila za general-purpose AI modele.
Pružatelji moraju osigurati tehničku dokumentaciju, poštivanje autorskog prava i sažetak podataka za treniranje.
Ako model nosi sistemski rizik, primjenjuju se dodatne obveze upravljanja rizikom, evaluacije i nadzora pod okriljem AI Officea.
Za početak usklađivanja s EU AI Actom, organizacija bi trebala poduzeti sljedeće konkretne korake:
-
AI inventory (mapiranje sustava)
Identificirati sve AI sustave i modele koji se razvijaju, koriste ili nabavljaju. -
Klasifikacija rizika
Procijeniti spada li sustav u zabranjene, visokorizične, GPAI ili druge kategorije. -
Gap analiza
Usporediti postojeće procese (data governance, risk management, sigurnost) sa zahtjevima AI Acta. -
Uspostava AI governance strukture
Definirati odgovornosti (pravna služba, IT, compliance, DPO, risk funkcija). -
Plan usklađivanja i prioriteti
Posebno za visokorizične sustave: upravljanje rizikom, dokumentacija, human oversight.
Spremni za usklađivanje s EU AI Actom?Postanite naš partner