Akt o umetni inteligenci: kaj resnično čaka slovenska MSP

Nekdo v vašem podjetju je pred kratkim začel uporabljati Copilot ali ChatGPT za pripravo ponudb, prevozniških listin ali odgovorov na povpraševanja strank. Nihče se ni posebej vprašal, ali je to sploh dovoljeno – orodje pač deluje in prihrani čas. Nato pride vprašalnik od nemškega ali avstrijskega naročnika, morda v okviru rednega dobaviteljskega avdita, in med vprašanji o kakovosti in dobavnih rokih se pojavi tudi rubrika 'skladnost z aktom o umetni inteligenci'. Nenadoma potrebujete odgovor, ki ga nimate pripravljenega.

Uredba EU, ki v Sloveniji že velja

Akt o umetni inteligenci (Uredba EU 2024/1689) je uredba, ne direktiva – velja neposredno, brez posebnega slovenskega zakona, ki bi jo prenašal v nacionalni pravni red. Uveljavlja se postopno: prepovedane prakse veljajo od 2. februarja 2025, obveznosti za ponudnike splošnonamenskih modelov UI od 2. avgusta 2025. Večina pravil za visokotvegane sisteme naj bi sicer veljala od 2. avgusta 2026, a je tako imenovani sveženj Digital Omnibus, ki je začel veljati 27. julija 2026, ta rok prestavil na 2. december 2027; pravila za sisteme, vezane na že regulirane proizvode iz Priloge I, pa zdaj veljajo šele od avgusta 2028. Zakon, ki bo v Sloveniji dokončno določil pristojne nadzorne organe, je bil ob pisanju tega članka še v pripravi – zato velja preveriti trenutno stanje na spletni strani pristojnega organa, preden se zanesete na katero koli navedbo iz leta ali dveh nazaj.

Za slovensko gospodarstvo to ni abstraktna evropska tema. Slovenija je tranzitno vozlišče med srednjo Evropo in Jadranom – skozi Koper, avtocestna križišča in železniške koridorje (baltsko-jadranski in sredozemski koridor TEN-T) dnevno teče blago za pol celine. Logistična in špediterska podjetja že uporabljajo algoritme za optimizacijo poti, napovedno vzdrževanje voznega parka in razporejanje dela v skladiščih. Proizvajalci avtomobilskih delov in bele tehnike, ki dobavljajo velikim evropskim znamkam, imajo strojni vid za kontrolo kakovosti in prediktivne modele za zastoje na proizvodni liniji. Prav zato akt o umetni inteligenci pogosto najprej pristane na mizi kot postavka v dobaviteljskem vprašalniku, ne kot pravna novica.

Kdo v Sloveniji nadzoruje izvajanje akta?

Za vsak sistem UI, ki obdeluje osebne podatke – kar velja za večino kadrovskih, prodajnih in logističnih orodij – je prvi naslov Informacijski pooblaščenec, ki že danes nadzoruje GDPR in bo imel vlogo tudi pri umetni inteligenci. Člen 70 akta od vsake države članice zahteva, da imenuje organe za nadzor trga, pristojne za posamezne sektorje. Ker končni slovenski zakon o izvajanju akta še ni bil sprejet v času nastanka tega članka, dokončna razdelitev pristojnosti med Informacijskim pooblaščencem in morebitnimi sektorskimi organi (na primer za trg dela, finance ali varnost proizvodov) še ni povsem znana. Priporočljivo je redno preverjati objave na strani Informacijskega pooblaščenca, saj se bo slika predvidoma razjasnila postopoma.

Stopnje tveganja na kratko

Akt deli sisteme UI v štiri skupine: nesprejemljivo tveganje (prepovedane prakse, na primer socialno točkovanje ali manipulativne tehnike), visoko tveganje (občutljiva področja iz Priloge III, kot so zaposlovanje, ocenjevanje delavcev, kreditno točkovanje in dostop do javnih storitev), omejeno tveganje (obveznosti preglednosti, na primer razkritje, da je vsebina generirana z UI ali da stranka govori s klepetalnim robotom) in minimalno tveganje, kamor sodi večina vsakdanjih orodij.

Za podjetja v proizvodnji in logistiki sta pomembna dva konkretna primera. Prvi: če je sistem UI vgrajen v stroj ali komponento, ki je že regulirana kot izdelek (na primer varnostni sistem v vozilu ali industrijski robot), se lahko visokotvegana klasifikacija po Prilogi I uporabi šele avgusta 2027 – kar podjetjem v avtomobilski in kovinsko-predelovalni panogi daje nekoliko več časa za pripravo. Drugi: orodja za razporejanje in ocenjevanje dela zaposlenih v skladiščih ali na terminalih (na primer algoritmi, ki dodeljujejo izmene ali ocenjujejo produktivnost) lahko že danes sodijo med visokotvegane sisteme iz Priloge III, ker gre za odločanje o delavcih.

Kazni: številke, ki jih morate poznati

Sankcijski režim iz člena 99 velja enotno po vsej EU, torej tudi v Sloveniji. Namen ni polnjenje državne blagajne, temveč preprečevanje škode, preden nastane – a zneski so dovolj visoki, da jih velja poznati:

• Do 35 milijonov evrov ali 7 % svetovnega letnega prometa, kar je višje, za prepovedane prakse.
• Do 15 milijonov evrov ali 3 % svetovnega letnega prometa za večino drugih kršitev, vključno z obveznostmi ponudnikov in uvajalcev visokotveganih sistemov.
• Do 7,5 milijona evrov ali 1 % svetovnega letnega prometa za posredovanje nepravilnih ali zavajajočih informacij nadzornim organom.

Kaj v praksi preveriti v podjetju

Namesto memoriranja členov je bolj koristno iti skozi konkretna vprašanja, ki jih lahko rešite v enem popoldnevu:

• Ali ste pri posameznem orodju UI ponudnik (razvijate ali bistveno prilagajate sistem) ali uvajalec (samo uporabljate tuj sistem) – večina MSP je uvajalec, kar prinaša ožji, a še vedno realen nabor obveznosti.
• Ali katera od vaših rab UI sodi med visokotvegane iz Priloge III – zaposlovanje, ocenjevanje delavcev, kreditno ali zavarovalno točkovanje, dostop do javnih storitev.
• Ali stranke ali sopogodbeniki vedo, kdaj govorijo s klepetalnim robotom ali kdaj prejmejo vsebino, ustvarjeno z UI – gre za obveznost preglednosti, ki jo je enostavno spregledati.
• Ali je kateri od obstoječih sistemov (ERP, sistem za kontrolo kakovosti, orodje za razporejanje dela) med nadgradnjo pridobil funkcijo UI, ki je nihče uradno ni ocenil.
• Ali ste pred podpisom pogodbe od ponudnika UI orodja zahtevali dokumentacijo o skladnosti, ali ste se zanesli zgolj na njegovo besedo.

Splošne informacije, ne pravni nasvet

Ta članek podaja splošne informacije in ne predstavlja pravnega nasveta za vaš konkreten primer – zlasti ker nacionalna izvedbena ureditev v Sloveniji še ni dokončno oblikovana. Pri Komplyi ločimo vsebino, ki je bila pravno pregledana, od osnutkov, ki še čakajo na potrditev, tako da vedno veste, na kaj se lahko zanesete.

Najhitrejša pot od nejasnega nelagodja do konkretnega odgovora je, da rabe UI v podjetju pregledate eno po eno, namesto da ugibate. Izpolnite kratek vprašalnik in v nekaj minutah dobite jasno sliko, katera od vaših orodij zahtevajo pozornost in kje ste že skladni.