Evropska unija usvojila je EU AI Act (Uredbu (EU) 2024/1689), prvi sveobuhvatni pravni okvir kojim se uređuje razvoj, stavljanje na tržište i korištenje sistema umjetne inteligencije. Cilj ove uredbe je uspostaviti jedinstvena pravila koja će omogućiti razvoj sigurnih i pouzdanih AI sistema, uz istovremenu zaštitu zdravlja, sigurnosti i temeljnih prava građana Evropske unije.
Iako se uredba primjenjuje u Evropskoj uniji, njen značaj daleko prevazilazi granice država članica jer će uticati na sve kompanije koje razvijaju ili koriste AI sisteme na evropskom tržištu.
Šta reguliše EU AI Act?
EU AI Act uvodi pravila zasnovana na procjeni rizika i uređuje:
- stavljanje na tržište, puštanje u upotrebu i korištenje određenih sistema umjetne inteligencije;
- zabranu određenih praksi u oblasti umjetne inteligencije;
- zahtjeve i obaveze za visokorizične AI sisteme;
- obaveze transparentnosti za određene AI sisteme;
- pravila transparentnosti i upravljanja rizicima za modele umjetne inteligencije opće namjene (General Purpose AI);
- nadzor tržišta, praćenje primjene propisa i njihovo provođenje;
- mjere podrške inovacijama, posebno za mala i srednja preduzeća i start-up kompanije.
Četiri kategorije rizika prema EU AI Act-u
Jedna od najvažnijih karakteristika Uredbe jeste podjela sistema umjetne inteligencije prema nivou rizika koji predstavljaju.
AI sistemi razvrstani su u četiri kategorije:
- neprihvatljiv rizik;
- visok rizik;
- ograničen rizik;
- minimalan ili bez rizika.
Što je nivo rizika veći, to su strožije obaveze za proizvođače, pružaoce i korisnike AI sistema.
Koji su AI sistemi zabranjeni?
Sistemi koji predstavljaju neprihvatljiv rizik smatraju se ozbiljnom prijetnjom sigurnosti, pravima i slobodama ljudi i njihova upotreba je zabranjena.
Od februara 2025. godine EU AI Act zabranjuje osam praksi:
- korištenje AI za štetnu manipulaciju i obmanu;
- iskorištavanje ranjivosti pojedinaca putem AI sistema;
- društveno ocjenjivanje (social scoring);
- procjenu ili predviđanje vjerovatnoće da će pojedinac počiniti krivično djelo;
- nekontrolisano prikupljanje fotografija i video materijala s interneta ili CCTV sistema radi kreiranja ili proširenja baza podataka za prepoznavanje lica;
- korištenje sistema za prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama;
- biometrijsku kategorizaciju radi utvrđivanja zaštićenih karakteristika pojedinaca;
- daljinsku biometrijsku identifikaciju u realnom vremenu na javnim mjestima u svrhe provođenja zakona, osim u izuzetnim slučajevima propisanim Uredbom.
Zašto je EU AI Act važan?
EU AI Act predstavlja prvi sveobuhvatni pravni okvir kojim se umjetna inteligencija reguliše na osnovu procjene rizika. Njegov cilj nije samo zaštita građana i njihovih temeljnih prava, već i stvaranje pravne sigurnosti za razvoj i primjenu AI tehnologija, uz podsticanje inovacija i konkurentnosti evropskog tržišta.
Kako se primjena Uredbe bude postepeno širila kroz različite rokove, kompanije koje razvijaju ili koriste AI sisteme moraće uskladiti svoje poslovanje sa novim pravilima kako bi izbjegle značajne regulatorne i finansijske posljedice.
Česta pitanja
Koje su četiri kategorije rizika prema EU AI Act-u?
AI sistemi razvrstani su na neprihvatljiv rizik, visok rizik, ograničen rizik te minimalan ili bez rizika. Što je nivo rizika veći, to su strožije obaveze za proizvođače, pružaoce i korisnike AI sistema.
Od kada se primjenjuju zabrane iz EU AI Act-a?
Od februara 2025. godine EU AI Act zabranjuje osam praksi, među kojima su društveno ocjenjivanje, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama te biometrijska kategorizacija radi utvrđivanja zaštićenih karakteristika pojedinaca.