Provider general-purpose AI modela iz treće zemlje: obveza ovlaštenog predstavnika i kazne prema EU AI Actu

S razvojem velikih jezičnih modela, multimodalnih modela i drugih općih modela umjetne inteligencije, jedno od ključnih pitanja za međunarodne kompanije glasi: što mora učiniti provider general-purpose AI modela iz treće zemlje prije izlaska na EU tržište? Jedan od najvažnijih odgovora daje članak 54 EU AI Acta: provider izvan EU mora imenovati ovlaštenog predstavnika u Uniji. Za razliku od nekih općenitijih compliance obveza koje traže dodatnu interpretaciju, ovdje je pravilo vrlo jasno. Ako provider general-purpose AI modela nije osnovan ili lociran u Uniji, mora prije stavljanja modela na tržište EU imenovati predstavnika sa sjedištem u EU. Komisijine smjernice o GPAI modelima to izričito potvrđuju.

Što je general-purpose AI model prema AI Actu?

AI Act razlikuje AI sustave i general-purpose AI modele. Riječ je o modelima koji pokazuju značajnu općenitost i mogu se koristiti za širok raspon različitih zadataka. U recitalima 98 i 99 AI Act navodi da veliki generativni modeli tipično spadaju u tu kategoriju, osobito kada mogu generirati tekst, audio, slike ili video za širok raspon namjena. Komisijine smjernice dodatno pojašnjavaju pragove i indikativne kriterije, uključujući pristup temeljen na računalnim resursima za treniranje i modalitetima modela. To je važno jer se za GPAI modele primjenjuje poseban režim iz Poglavlja V AI Acta, a nadzor nad tim obvezama ima osobito Komisija, odnosno AI Office.

Mora li provider iz treće zemlje imenovati ovlaštenog predstavnika?

Da. Komisijine smjernice navode da provider koji stavlja general-purpose AI model na tržište EU može biti provider bez obzira na to je li osnovan u Uniji ili u trećoj zemlji. Međutim, kako bi se olakšala usklađenost, provider iz treće zemlje mora prije stavljanja modela na tržište Unije imenovati ovlaštenog predstavnika sa sjedištem u EU, u skladu s člankom 54 AI Acta. To znači da je obveza vremenski vezana uz trenutak tržišnog ulaska. Nije dovoljno imenovati predstavnika naknadno, tek kada se pojavi regulatorni problem. Predstavnik mora biti dio compliance strukture već prije samog stavljanja modela na tržište EU.

Zašto EU inzistira na ovlaštenom predstavniku?

Razlog je sličan kao i kod visokorizičnih AI sustava, ali ovdje je posebno važna složenost GPAI lanca vrijednosti. Provider general-purpose AI modela utječe na niz downstream aktera koji model integriraju u druge AI sustave. Zato AI Act nameće obveze dokumentacije, informiranja downstream providera, politike usklađenosti s autorskim pravom i, kada je primjenjivo, dodatne obveze za modele sa sistemskim rizikom. Ovlašteni predstavnik omogućuje da EU institucije i nadležna tijela imaju pravno i operativno dostupnu kontaktnu točku unutar Unije. To je osobito važno zato što Komisija i AI Office imaju ovlasti tražiti informacije, pristup modelu i mjere usklađivanja, a te obveze mogu izvršavati provider ili njegov predstavnik. AI Act izričito predviđa da informacije može dostaviti provider ili njegov predstavnik.

Postoje li iznimke?

Da, ali su ograničene. Komisijine smjernice pojašnjavaju da se određene obveze, uključujući članak 54 o ovlaštenom predstavniku, ne primjenjuju na određene open-source GPAI modele ako su ispunjeni strogi uvjeti: model mora biti objavljen pod free and open-source licencom, uz dostupne parametre, informacije o arhitekturi i uporabi, i pritom model ne smije biti GPAI model sa sistemskim rizikom. To znači da se provider iz treće zemlje ne može automatski pozvati na “open source” kao univerzalnu obranu. Potrebno je provjeriti jesu li ispunjeni svi uvjeti iz AI Acta i smjernica.

Koje kazne prijete ako provider ne imenuje ovlaštenog predstavnika?

Kod general-purpose AI modela sankcijski režim je poseban. Za ove povrede nadležna je Europska komisija, a ne primarno nacionalna tijela, jer Komisija ima ekskluzivnu nadležnost za provedbu obveza providera GPAI modela iz Poglavlja V AI Acta. To Komisijine smjernice izrijekom potvrđuju. Ako provider general-purpose AI modela iz treće zemlje ne ispunjava obvezu iz članka 54, Komisija može koristiti ovlasti nadzora i zahtijevati mjere usklađivanja. AI Act predviđa i novčane kazne prema članku 101. Maksimalna upravna novčana kazna može iznositi do 15 milijuna eura ili, ako je riječ o poduzetniku, do 3 % ukupnog svjetskog godišnjeg prometa, ovisno o tome što je više. To je ključan podatak za svakog međunarodnog providera koji planira distribuciju modela na tržištu EU. Drugim riječima, neimenovanje ovlaštenog predstavnika nije samo formalni nedostatak u dokumentaciji. To je povreda obveze iz AI Acta koja može aktivirati regulatorne zahtjeve Komisije, zahtjeve za korektivnim mjerama i financijske sankcije.

Kada se ta pravila stvarno počinju primjenjivati?

Komisijine smjernice za GPAI modele pojašnjavaju da se fokusiraju upravo na obveze čija je primjena vezana uz 2. kolovoza 2025., što je ključan datum za Poglavlje V AI Acta. Smjernice također objašnjavaju što provideri mogu očekivati u pogledu provedbe i nadzora nakon stupanja tih obveza u primjenu. To je važno za kompanije iz SAD-a, Ujedinjenog Kraljevstva, Švicarske, Izraela, Indije i drugih trećih zemalja: ako model stavljaju na tržište EU, usklađenost mora biti pripremljena unaprijed, a ne nakon prvog regulatornog upita.

Što provider GPAI modela treba napraviti prije izlaska na tržište EU?

Provider general-purpose AI modela iz treće zemlje trebao bi prije tržišnog ulaska najmanje:

potvrditi da njegov model ulazi u kategoriju general-purpose AI modela
provjeriti postoji li open-source iznimka i primjenjuje li se doista
imenovati ovlaštenog predstavnika u EU prije stavljanja modela na tržište
pripremiti dokumentaciju i informacije za downstream providere
uspostaviti politiku usklađenosti s pravom intelektualnog vlasništva i sažetak sadržaja korištenog za treniranje
procijeniti postoji li sistemski rizik i dodatne obveze.

Provider general-purpose AI modela iz treće zemlje koji želi plasirati model na tržište EU u pravilu mora imenovati ovlaštenog predstavnika u Uniji prema članku 54 AI Acta. Ta obveza je dio šireg compliance okvira za GPAI modele i usko je povezana s nadzornim ovlastima Komisije i AI Officea. Ako provider to ne učini, može se suočiti s regulatornim mjerama i novčanim kaznama do 15 milijuna eura ili 3 % ukupnog svjetskog godišnjeg prometa, ovisno o tome što je više.

Pravni izvori: Regulation (EU) 2024/1689 (EU AI Act), osobito članci 53, 54, 91, 93 i 101, te Komisijine smjernice o opsegu obveza za general-purpose AI modele.