Europska komisija (EK) 21. travnja predložila je niz pravila koja bi bila prvi svjetski projekt sveobuhvatne regulacije umjetne inteligencije (AI). Do sada su se pojedinačne norme usvajale samo na nacionalnoj razini (npr. definicija računalno generiranog djela u zakonodavstvu Ujedinjenog Kraljevstva ili zahtjev njemačkog zakona da vozač mora biti prisutan u autonomnom vozilu). Zemlje EU češće koriste političke dokumente, poput strategija za umjetnu inteligenciju (Francuska, Estonija, Poljska, Njemačka, između ostalih). Slijedom Opće uredbe o zaštiti podataka (GDPR), Unija ponovno ima priliku postaviti globalni normativni standard. Cilj je uredbe osigurati poštivanje etike, sigurnosti, vrijednosti EU-a i temeljnih prava u stvaranju umjetne inteligencije. Utvrđivanje pravne sigurnosti trebalo bi potaknuti ulaganja i razvoj umjetne inteligencije u EU, ojačati konkurentnost Unije i zaštititi njezinu digitalnu suverenost.
Nacrt predviđa usklađena pravila za razvoj, marketing i uporabu umjetne inteligencije u EU. Temelji se na podjeli sustava AI na neprihvatljive, visoke, niske i minimalne varijante rizika. Prva kategorija odnosi se na sustave koji koriste subliminalne tehnike namijenjene utjecaju na ponašanje osobe na štetan način ili koriste socijalno bodovanje. Projekt regulira najopsežnije sustave umjetne inteligencije s visokim rizikom, koji djeluju, na primjer, u područjima prometa, procjenu zahtjeva za zajam ili odluku o dodjeli socijalnih naknada. AI sustavi morat će ispuniti brojne zahtjeve, uključujući odgovarajuće ispitivanje, procjenu usklađenosti s EU standardima, registraciju u bazu podataka EU-a i pravilnu brigu o korisničkim podacima. Te će se obveze odnositi na proizvođače i dobavljače AI sustava, bez obzira imaju li sjedište u Uniji ili izvan nje, kao i na korisnike takvih sustava unutar EU. U slučaju ostalih AI sustava (npr. Chatbotova), prijedlog prvenstveno stvara obvezu informiranja korisnika da komuniciraju s AI.
Za nepoštivanje propisa predložiti će se još veća kazna nego u slučaju GDPR-a - do 6% ukupnog godišnjeg prometa tvrtke u svijetu. U državama članicama odgovornost za provedbu uredbe odredit će nacionalna tijela. Na razini EU-a, ti će nacionalni nadzornici formirati Europski odbor za umjetnu inteligenciju (EAIB) s Europskim nadzornikom za zaštitu podataka (EDPS), kojim će predsjedati Komisija. Zadatak EAIB-a bit će savjetovanje EK i koordinacija aktivnosti tijela AI država članica. Nacrt podržava EDPS, iako inzistira na još strožem pristupu. Iako se nekoliko država članica, na primjer, Njemačka, zalažu za široku regulativu, mnoge se plaše usporavanja tehnološkog razvoja. U EU 14 zemalja podržava ograničavanje propisa o inteligenciji na nužni minimum ili upotrebu neobvezujućih instrumenata.
Prijedlog sadrži mnoga izuzeća i neprecizne definicije. Na primjer, zabrana biometrijske identifikacije u stvarnom vremenu odnosi se samo na agencije za provođenje zakona u javnim prostorima. Stoga neće pokrivati privatne prostore i druga javna tijela ili privatne subjekte. Štoviše, neće se primjenjivati kada se sustav koristi za suzbijanje terorizma ili prijetnje životu ili sigurnosti ljudi, što ostavlja puno prostora za tumačenje.
Kategorizaciju rizika pripremila je EK, ali kriteriji nisu izričiti. Na primjer, metoda procjene rizika uključuje procjenu na temelju primjenjivosti, koja je nejasna. Budući da se modeli mogu prilagoditi bilo kojoj aplikaciji, ocjenjivači imaju puno sive zone kako bi opravdali svako mišljenje. To bi moglo stvoriti nestabilne uvjete za razvoj AI, jer EK može slobodno ažurirati kategorije rizika, što utječe na buduće primjene. Na primjer, takozvani sustavi crne kutije - koji funkcioniraju bez ljudskog unosa - kvalificirani su kao visoko rizični. U 'normalnim' modelima naveden je algoritam po kojem model treba učiti. U ovom slučaju, AI neovisno definira varijable i njihove težine, poput podataka koje treba izostaviti (dok sustav donosi vlastite odluke, teško je, ako ne i nemoguće, izvana odrediti koje su varijable korištene, kako, i zašto). Oni su vrlo učinkoviti (prikladni svrsi), ali ne udovoljavaju zahtjevima analize rizika. Njihova kvalifikacija značajno je ograničenje inovacija u EU. Iako prijedlog polaže primat pojedinaca nad tehnologijom, on ne uzima u obzir perspektivu korisnika AI sustava. Konkretno, ne postoje posebni pravni lijekovi, na primjer, poseban mehanizam za podnošenje zahtjeva za naknadu kao rezultat neovlaštenog ili nepredviđenog rada sustava AI.
Prijedlog bi postao najdalekosežnijom regulativom o umjetnoj inteligenciji na svijetu. Međutim, uklapa se u trendove vidljive u drugim zemljama, posebno s obzirom na naglasak na analizi rizika i prijetnji povezanim s umjetnom inteligencijom i pripremi akcijskih planova u slučaju kršenja. AI sustavi trebali bi se neovisno testirati u stvarnom vremenu, kako tijekom rada, tako i nakon njega, zbog povećanja i promjene rizika tijekom vremena. Ovaj je pristup usporediv s lokalnim propisima, poput američkih država Virginije i Kalifornije. Zajednička pravila pružaju potencijalnu osnovu za pregovaranje o propisima u transatlantskom formatu. Međutim, malo je vjerojatno da će Sjedinjene Države prihvatiti EU-ovu definiciju visokog rizika ili opsežni sustav nadzora tehnologije. Suradnja bi mogla imati koristi od već razvijenih praksi, poput međusobnog priznavanja propisa i prijema subjekata na oba tržišta. O spremnosti za suradnju svjedoči pozitivna američka recepcija EU projekta od strane savjetnika za nacionalnu sigurnost Jakea Sullivana.
Američke tehnološke tvrtke, uključujući Google i Microsoft, već su najavile da će na sudu osporiti prijedlog EK. Njihovi postojeći AI sustavi uglavnom su obučeni na podacima građana EU-a. Mnogi od njih također se izravno koriste u uslugama koje se nude na tržištu EU-a. To znači da će uredba prisiliti ove tvrtke na primjenu svih mehanizama analize rizika. Štoviše, neće biti moguće zaobići zahtjeve širenjem sustava umjetne inteligencije u zasebnim tvrtkama koje posluju izvan tržišta EU-a jer će to također biti obuhvaćeno uredbom.
Kao rezultat toga, neke se usluge možda neće nuditi u EU-u ili će se stvoriti posebni AI modeli posvećeni njezinom tržištu. Rezultirajuća prepreka ulasku bit će zastrašujuća, ali velike će je tvrtke svladati. Dodatne obveze mogu dodatno ometati razvoj i širenje umjetne inteligencije na strana tržišta jer će se značajni resursi dodijeliti za ispunjavanje novih zahtjeva, slično GDPR-u. Neke će se aplikacije za umjetnu inteligenciju, poput onih koje koriste biometriju, u potpunosti zabraniti u EU, a kao rezultat toga - pod pretpostavkom da nema slične globalne regulacije - američke i kineske tvrtke brzo će preći u prvi plan.
Propis EU-a o umjetnoj inteligenciji može slijediti uspjeh GDPR-a kao prvog sveobuhvatnog skupa pravila na svijetu koji uređuju tehnologiju u nastajanju. EK preuzima fleksibilnost, planirajući prilagodbu potencijalnom razvoju na polju umjetne inteligencije bez potrebe za redovitim izmjenama i dopunama. Međutim, uredba također može usporiti tempo razvoja umjetne inteligencije i smanjiti konkurentnost poduzeća iz EU-a. Unatoč pomoći država članica malim i srednjim poduzećima predviđenim u nacrtu (npr. Prioritet u pristupu posebnim testnim okruženjima, lakši pristup informacijama o primjeni novih propisa i niži troškovi ocjene usklađenosti), uredba može ometati pristup zajedničkom tržištu za tvrtke.
Predložena uredba potrebna je sa stajališta zaštite ljudskih prava, ali je treba prilagoditi stvarnim mogućnostima za provođenje poštivanja istih tih prava. Da bi maksimizirala svoju učinkovitost bez žrtvovanja konkurentskih prednosti Unije, tijekom konzultacija na razini cijele EU, EK bi istodobno trebala poticati strane partnere (npr. SAD) da usvoje slične standarde AI, uključujući i zaštitu ljudskih prava, i na forumu WTO-a ili OECD-a . Na razini Unije, dodatna podrška tvrtkama registriranim u EU mogla bi doći stvaranjem novih programa za financiranje istraživanja AI iz fondova Unije.
Poštovani, za čitanje cijelog ovog teksta morate biti pretplatnik.
