Namen zakonodaje je zagotoviti varnost sistemov umetne inteligence ter spoštovanje temeljnih pravic in vrednot, obenem pa spodbujati vlaganje in inovacije na tem področju.

Pogajalci držav članic, združenih v Svetu EU-ja, in parlamenta so dogovor dosegli v petek zvečer, po treh dneh intenzivnih pogajanj. V Svetu EU-ja, ki mu trenutno predseduje Španija, dogovor označujejo za zgodovinski, v Evropskem parlamentu pa poudarjajo, da je to prvi predlog tovrstne zakonodaje na svetu.

Podobno je v odzivu poudaril evropski komisar za notranji trg Thierry Breton. "Zgodovinsko! S političnim dogovorom o aktu o umetni inteligenci EU postaja prva celina, ki postavlja jasna pravila za njeno uporabo," je zapisal na družbenem omrežju X. Po njegovih besedah pa je to veliko več kot le pravilnik – "to je odskočna deska za zagonska podjetja in raziskovalce pri vodenju svetovne tekme na področju umetne inteligence".

Predsednica Evropske komisije Ursula von der Leyen je menila, da bo akt pripomogel k razvoju tehnologije, ki ne ogroža varnosti in pravic ljudi. V zapisu na omrežju X je dodala, da je to "edinstven pravni okvir za razvoj umetne inteligence, ki ji gre zaupati".

Predlogi vsebujejo varovala za uporabo umetne inteligence na območju EU-ja in tudi omejitve pri njeni uporabi, na primer pri organih pregona. Temeljijo na oceni tveganja za posamezne programske modele – večje kot je tveganje za pravice ali zdravje posameznika, več je obveznosti.

Posamezniki bi glede na dogovor imeli pravico do pritožb in smiselnih pojasnil. V primeru kršitev pa so predvidene kazni v razponu od 7,5 milijona evrov ali 1,5 odstotka prometa do 35 milijonov evrov ali sedem odstotkov svetovnega prometa.

Dogovor predvideva, da morajo biti temeljni modeli, kot sta jezikovni model ChatGPT in modeli za splošne namene GPAI, skladni z obvezo o preglednosti, preden pridejo na trg. To vključuje pripravo tehnične dokumentacije ter uskladitev z evropsko zakonodajo o avtorskih pravicah in širjenju podrobnih povzetkov o vsebini, ki se uporablja za izobraževanje.

Visoko učinkoviti modeli, ki so utemeljeni na osnovnih načelih z visoko stopnjo tveganja, bodo morali izvajati evalvacijo modela, ocenjevati in zmanjševati sistemsko tveganje, obveščati Evropsko komisijo o resnih incidentih, zagotavljati kibernetsko varnost ter poročati o energetski učinkovitosti.

Omejitev biometričnega nadzora

Oblasti lahko uporabljajo biometrični nadzor v realnem času v javnih prostorih samo v primerih žrtev določenih kaznivih dejanj, preprečevanja dejanskih, trenutnih ali predvidljivih groženj, kot so teroristični napadi in iskanje osumljencev za najhujša kazniva dejanja.

Dogovor prepoveduje kognitivno vedenjsko manipulacijo, zbiranje fotografij obrazov z interneta ali s posnetkov nadzornih kamer, sistem družbenega ocenjevanja in biometrične kategorizacije z namenom ugotavljanja političnih, verskih in drugih prepričanj, spolne usmerjenosti in rase.

O zakonodaji, ki jo je Evropska unija predlagala leta 2021, bosta morala zdaj o uradni potrditvi odločati tako Evropski parlament kot Svet EU-ja.