Preliminarni dogovor o ključnim pravilima Europske unije koja kontroliraju uporabu umjetne inteligencije, uključujući njezinu primjenu u biometrijskom nadzoru od strane vlade te regulaciju sustava poput ChatGPT-a, postignut je u petak navečer.
S ovim političkim sporazumom, EU se kreće prema postizanju uloge prvog velikog svjetskog aktera s zakonima koji reguliraju umjetnu inteligenciju. Dogovor između zemalja članica EU-a i članova Europskog parlamenta postignut je nakon gotovo 15 sati pregovora tijekom petka, slijedeći gotovo 24-satnu raspravu prethodnog dana.
Detalji ovog dogovora trebali bi se razraditi u nadolazećim danima, što bi moglo oblikovati konačni zakon.
Europa se istaknula kao pionir prepoznajući važnost svoje uloge kao postavljača globalnih standarda. Vjerujem da je ovo povijesni dan – izjavio je europski povjerenik Thierry Breton na konferenciji za novinare.
Prema sporazumu, osnovni modeli kao što su ChatGPT i opći sustavi umjetne inteligencije (GPAI) moraju zadovoljiti transparentnost prije nego što se plasiraju na tržište. To uključuje stvaranje tehničke dokumentacije, usklađivanje s EU zakonima o autorskim pravima te pružanje detaljnih sažetaka korištenih podataka za obuku.
Visokorizični modeli bazirani na osnovnim principima moraju provesti evaluacije, procijeniti i umanjiti sistemski rizik, provoditi kontradiktorne testove, izvještavati Europsku komisiju o ozbiljnim incidentima, osiguravati kibernetičku sigurnost i izvještavati o energetskoj učinkovitosti.
GPAI s visokim rizikom moći će koristiti kodekse prakse kako bi se uskladili s novim propisima.
Vladini entiteti moći će koristiti biometrijski nadzor u stvarnom vremenu u javnim prostorima samo u slučajevima žrtava određenih zločina, prevencije stvarnih, trenutačnih ili predviđenih prijetnji, poput terorističkih napada, te traženja osoba osumnjičenih za najteža kaznena djela.
Sporazum zabranjuje kognitivnu bihevioralnu manipulaciju, prikupljanje lica s interneta ili CCTV snimaka, sustave društvenog ocjenjivanja i kategorizaciju biometrijskih podataka prema političkim, vjerskim, filozofskim uvjerenjima, seksualnoj orijentaciji i rasi.
Potrošači će imati pravo podnijeti pritužbe i dobiti razumna objašnjenja, a kazne za prekršaje bit će od 7,5 milijuna eura ili 1,5 posto prometa do 35 milijuna eura ili 7 posto globalnog prometa.
Ova ambiciozna europska pravila o umjetnoj inteligenciji dolaze u vrijeme kada tvrtke poput OpenAI-a, koju podržava Microsoft, nastavljaju istraživati nove načine primjene svoje tehnologije, što izaziva pohvale i zabrinutost. U četvrtak je vlasnik Googlea, Alphabet, lansirao novi model umjetne inteligencije, Gemini, kao konkurenciju OpenAI-u.
Zakon EU-a mogao bi postati uzor drugim vladama te alternativa mekšem pristupu Sjedinjenih Država i strožim pravilima Kine.
