Tko nadzire Akt o UI u Hrvatskoj?

Zamislite sljedeću situaciju. Vodite obiteljski hotel ili turističku agenciju na Jadranu, a prošle je sezone Vaš tim uveo chatbot za rezervacije ili alat koji automatski sažima i ocjenjuje recenzije gostiju. Jedan gost podnese pritužbu jer misli da ga je chatbot doveo u zabludu oko cijene, ili Vam partnerska platforma za online rezervacije pošalje upitnik o tome kako Vaša tvrtka upravlja sustavima umjetne inteligencije. Prvo pitanje koje si postavite jest kome se uopće obratiti. Agenciji za zaštitu osobnih podataka, koju već poznajete iz OUZP-a? Nekom novom tijelu za umjetnu inteligenciju o kojem još niste čuli? Ili možda turističkoj inspekciji? Iskren odgovor jest da u trenutku pisanja ovog članka Hrvatska, kao i većina država članica EU-a, još nije do kraja službeno potvrdila koje tijelo ili tijela imaju punu nadležnost prema Aktu o umjetnoj inteligenciji (Uredba (EU) 2024/1689). Zato je vrijedno znati što je već sigurno, što je još otvoreno, i kome se već sada možete obratiti ako Vam treba odgovor.

Što članak 70. Akta o UI zahtijeva od svake države članice

Članak 70. Akta o UI obvezuje svaku državu članicu da odredi barem jedno prijavljujuće tijelo, koje ocjenjuje i nadzire tijela za ocjenu sukladnosti za određene sustave umjetne inteligencije, i barem jedno tijelo za nadzor tržišta, koje kontinuirano provjerava jesu li sustavi umjetne inteligencije koji su stvarno stavljeni na tržište usklađeni s Uredbom. Tijelo za nadzor tržišta je ono s kojim će obična tvrtka u praksi najvjerojatnije doći u kontakt: ono može tražiti dokumentaciju, istražiti pritužbu, naložiti korektivne mjere ili, kod ozbiljnijih kršenja, izreći novčanu kaznu prema članku 99. Rok za određivanje tih tijela bio je 2. kolovoza 2025. Uredba ne propisuje jedinstveni model: svaka država članica može tu ulogu dodijeliti novom tijelu, rasporediti je među postojećim sektorskim regulatorima ili kombinirati oba pristupa.

Gdje Hrvatska stoji danas s određivanjem nadležnog tijela

Nacionalno provedbeno zakonodavstvo koje će precizno odrediti tko preuzima ulogu tijela za nadzor tržišta, a tko ulogu prijavljujućeg tijela prema članku 70., u trenutku pisanja ovog članka još nije do kraja finalizirano. AZOP (Agencija za zaštitu osobnih podataka) ističe se kao najvjerojatniji kandidat, s obzirom na svoju postojeću nadzornu ulogu u zaštiti osobnih podataka i činjenicu da velika većina sustava umjetne inteligencije koje koriste hrvatska mikro i mala poduzeća obrađuje osobne podatke. To se ipak ne smije shvatiti kao konačno ili potvrđeno. Ako Vam je za konkretnu odluku potreban siguran odgovor, provjerite izravno na azop.hr trenutno stanje umjesto da se oslanjate isključivo na ovaj članak.

Što je sigurno: AZOP i OUZP, te kazne prema članku 99.

Bez obzira na to kako će se konačno rasporediti nadležnost prema članku 70., jedno je već sigurno. AZOP ostaje neovisno nadzorno tijelo Hrvatske za OUZP (Opću uredbu o zaštiti podataka), i tu ulogu Akt o UI ne mijenja. Budući da sustavi umjetne inteligencije koje stvarno koriste hrvatski obrti i mikropoduzeća — chatbotovi za korisničku podršku, alati za automatsku selekciju kandidata, sustavi za dinamičko određivanje cijena ili ocjenu klijenata — gotovo uvijek obrađuju osobne podatke, AZOP je već tijelo s kojim ćete najvjerojatnije prvo doći u kontakt, neovisno o tome kako će se konačno oblikovati struktura prema članku 70. Sigurna je i struktura kazni: članak 99. propisuje više razina novčanih kazni ovisno o vrsti kršenja, a članak 99. stavak 6. izričito predviđa da se za mala i srednja poduzeća, uključujući startupove, primjenjuje niži od dva moguća praga kazne. To vrijedi neovisno o tome koje tijelo u konačnici provodi nadzor.

Koji sektorski regulatori mogu biti uključeni

Ako poslujete u reguliranom sektoru, moguće je da će uz AZOP biti uključen i regulator koji Vas već nadzire po drugoj osnovi — na temelju postojeće sektorske nadležnosti, a ne nekog novog "tijela za UI". Sljedeći primjeri su mogući, ne potvrđeni:

• Financijske usluge, kreditno bodovanje, algoritamsko upravljanje rizikom: moguća je uloga Hrvatske narodne banke (HNB), no točan mandat prema Aktu o UI još nije potvrđen.
• Zdravstvo i medicinski proizvodi, npr. dijagnostika uz pomoć UI: moguće je uključivanje nadležnog zdravstvenog tijela uz AZOP.
• Zaštita potrošača, npr. dinamičko određivanje cijena ili personalizirani marketing u turizmu i maloprodaji: moguća uloga Državnog inspektorata.
• Ništa od navedenog se ne odnosi na Vas? AZOP je i dalje najvjerojatnija početna točka kontakta.

Popis za provjeru za mikropoduzetnike i obrte

Neovisno o tome tko na kraju dobije formalnu nadležnost prema članku 70., ovo je ono što vrijedi provjeriti već sada:

• Obrađuje li sustav umjetne inteligencije koji koristite osobne podatke gostiju, klijenata ili zaposlenika, izravno ili neizravno? Ako da, AZOP Vas gotovo sigurno već nadzire kroz OUZP.
• Poslujete li u reguliranom sektoru poput financija, zdravstva ili nadzora zaposlenika? Očekujte da se uz AZOP uključi i odgovarajući sektorski regulator.
• Spada li neka od Vaših primjena u visokorizične prema Prilogu III, npr. automatska selekcija kandidata ili kreditno bodovanje? Pripremite se na strožu razinu nadzora, neovisno o tome koje tijelo je provodi.
• Znate li jeste li u ulozi ponuditelja (developera) ili subjekta koji uvodi (korisnika) sustava umjetne inteligencije? Obveze se razlikuju ovisno o ulozi.
• Imate li osnovnu evidenciju koji su sustavi umjetne inteligencije u upotrebi u Vašoj tvrtki i u koju svrhu? Ta evidencija Vam treba neovisno o ishodu određivanja tijela.
• Jeste li provjerili aktualno stanje izravno na azop.hr prije nego što konkretnu odluku temeljite isključivo na ovom članku?

Opća informacija, ne pravni savjet

Navedeno predstavlja opću informaciju, a ne pravni savjet prilagođen konkretnoj situaciji Vaše tvrtke. Postupak određivanja nadležnog tijela prema članku 70. u Hrvatskoj u trenutku pisanja ovog članka nije dovršen, a konačna struktura, kao i točan datum njezine finalizacije, mogu se promijeniti. Kada Komplya objavljuje sadržaj ove vrste, jasno razlikuje pravno pregledan materijal od sadržaja koji je još u fazi izrade, kako biste tu razliku mogli svjesno uzeti u obzir.

Najizravniji način da od pitanja "tko će nas u konačnici nadzirati" dođete do konkretne slike jest da sustave umjetne inteligencije u svojoj tvrtki popišete jedan po jedan. Ispunite kratki upitnik o primjenjivosti Akta o UI na Vašu tvrtku i dobijte jasan pregled gdje točno stojite.