Evropski parlament je odobrio nacrt zakona koji će postati osnova budućeg zakona o pravilima regulacije AI. Hajde da pokušamo da shvatimo šta je to Zakon o veštačkoj inteligenciji EU.
Prije svega, Zakon EU o umjetnoj inteligenciji trebao bi postati prvi zakon u svijetu koji na sveobuhvatan način reguliše probleme vezane za AI. Do sada je odobren samo projekat, a ne i sam zakon. Sada će biti predstavljen parlamentima 27 zemalja članica EU na usvajanje konačne verzije. Odnosno, EU pokušava da postane svojevrsni regulator AI, da uspostavi određene okvire i ograničenja u razvoju i implementaciji AI algoritama i mašinskog učenja.
Također zanimljivo: Roboti budućnosti: hoće li umjetna inteligencija dobiti tijelo?
Evropska unija želi da reguliše veštačku inteligenciju
Evropska unija ima za cilj da stane na kraj haosu na tržištu za korišćenje algoritama veštačke inteligencije i preuzima regulaciju novih vrsta veštačke inteligencije. Evropski parlament je ubrzao rad na predloženom Zakonu o vještačkoj inteligenciji, koji bi trebao uvesti pravila za implementaciju novih AI programa, pa čak i zabraniti njihovu upotrebu u određenim oblastima života.
Trenutno se vode rasprave o obliku takve regulative s obzirom na trenutni razvoj AI. U suštini, europarlamentarci žele u zakon unijeti razliku između umjetne inteligencije opće namjene i fundamentalnih modela, a očekuje se da će se zakoni strože primjenjivati na potonje. Ova izmjena prethodno predloženih odredbi uzrokovana je brzim razvojem AI posljednjih mjeseci. Oba oblika vještačke inteligencije razlikuju se jedni od drugih po skali podataka o obuci, prilagodljivosti i vjerovatnoći upotrebe u nepredviđene svrhe.
Svi ovi parametri su viši upravo u fundamentalnim modelima, posebno u generativnoj AI, koja je osnova modela kao što su GPT-3 i GPT-4. Oni obrađuju ogromnu količinu podataka, koja se u procesu rada stalno širi. Stoga mogu brzo naučiti nove podatke koji se mogu koristiti na potpuno drugačiji način nego što su kreatori zamislili.
Na osnovu novih smjernica, biće razvijena trostepena klasifikacija grupa na osnovu potencijalnih prijetnji do kojih AI može dovesti. Najveći stepen rizika značiće ograničavanje upotrebe tehnologija mašinskog učenja u osetljivim sektorima, au nekim slučajevima čak i njihovu potpunu zabranu.
Nakon uvođenja Zakona o umjetnoj inteligenciji, programer tehnologije morat će ispuniti niz uslova prije nego što je pusti na tržište, kao što je testiranje na prijetnje demokraciji ili sigurnosti pod nadzorom nezavisnih stručnjaka, ispunjavanje zahtjeva za transparentnost, ili otkrivanje računarske snage modela. Istovremeno, osnovni modeli se ne mogu koristiti za kreiranje sistema društvenog bodovanja (kao u Kini) ili biometrijske identifikacije.
Također zanimljivo: Šta su 6G mreže i zašto su potrebne?
Šta je zakon EU o vještačkoj inteligenciji?
Zakon o umjetnoj inteligenciji EU je zakon o umjetnoj inteligenciji koji je predložila Evropska unija i prvi je zakon o umjetnoj inteligenciji koji je usvojilo veliko regulatorno tijelo. Zakon reguliše primenu AI prema tri kategorije rizika. Prvo, programi i sistemi koji stvaraju neprihvatljive društvene rizike biće zabranjeni, kao što je vladina socijalna procena koja se koristi u Kini. Drugo, postoje programi visokog rizika, kao što su alati za skeniranje životopisa koji rangiraju kandidate za posao, koji moraju ispuniti određene zakonske zahtjeve. Konačno, programi koji nisu izričito zabranjeni ili navedeni kao visokorizični i koji su uglavnom neregulisani.
Evropska unija radi na Zakonu o umjetnoj inteligenciji, odnosno zakonima i propisima za korištenje umjetne inteligencije, s ciljem ograničavanja štete koju ona može nanijeti ljudima.
Riječ je o pristupu koji se temelji na zajedničkim etičkim vrijednostima važnim za Uniju, koji ga suprotstavlja kineskim pristupom koji se temelji na potpunoj državnoj kontroli i malo poštivanja individualnih prava, te s američkim modelom koji zanemaruje prava najugroženijih građana.
Evropska komisija ima za cilj da stvori evropsko regulatorno okruženje za principe veštačke inteligencije. Svrha Zakona o umjetnoj inteligenciji je regulirati tržište tehnologije ne po vrsti usluge ili proizvoda, već prema nivou rizika koji AI može uzrokovati.
Također zanimljivo: Dnevnik mrzovoljnog starog štrebera: Bing protiv Googlea
Zašto su nam potrebna pravila o AI?
Predložena regulativa AI osigurava da Evropljani mogu vjerovati onome što AI može ponuditi. Dok većina sistema umjetne inteligencije predstavlja mali ili nikakav rizik i može doprinijeti rješavanju mnogih društvenih problema, određeni sistemi umjetne inteligencije predstavljaju prijetnje koje moramo uzeti u obzir kako bismo izbjegli neželjene ishode.
Na primjer, često je nemoguće otkriti zašto je sistem umjetne inteligencije donio određenu odluku, dao predviđanje ili poduzeo odgovarajuću akciju. Stoga može postati teško procijeniti da li je osoba bila nepravedno u nepovoljnom položaju u, na primjer, odluci o zapošljavanju ili prijavi za socijalni program.
Iako trenutno zakonodavstvo pruža određenu zaštitu, ono je nedovoljno za rješavanje specifičnih problema koje AI sistemi mogu stvoriti.
Predložena su sljedeća pravila:
- eliminisati rizike koje stvaraju posebno AI programi
- predložiti listu programa visokog rizika
- postaviti jasne zahtjeve za AI sisteme za visokorizične aplikacije
- definirati posebne obaveze za korisnike umjetne inteligencije i dobavljače softvera visokog rizika
- ponuditi ocjenu usklađenosti prije nego se AI sistem stavi u rad ili stavi na tržište
- predložiti područja primjene nakon što se takav AI sistem stavi na tržište;
- predložiti strukturu upravljanja na evropskom i nacionalnom nivou.
Također zanimljivo: Najbolji alati zasnovani na vještačkoj inteligenciji
Četiri nivoa rizika u AI
Pravnici Evropske unije definisali su pravni okvir koji definiše 4 nivoa rizika u AI:
- Neprihvatljiv rizik
- Visokog rizika
- Ograničeni rizik
- Rizik minimalan ili nikakav
Analizirajmo svaki od njih detaljnije.
Neprihvatljiv rizik
Kao što naziv govori, ovaj stepen rizika je neprihvatljiv kada se razvijaju i koriste AI algoritami. Odnosno, svi sistemi umjetne inteligencije za koje se smatra da predstavljaju jasnu prijetnju sigurnosti, egzistenciji i pravima ljudi bit će zabranjeni, od društvenih procjena vlada do igrački s glasovnom pomoći koje potiču opasno ponašanje.
Visokog rizika
Sistemi veštačke inteligencije koji se koriste u sledećim oblastima klasifikovani su kao visokorizični:
- kritičnu infrastrukturu (npr. transport), koja može ugroziti život i zdravlje građana
- obrazovna ili stručna obuka koja može odrediti pristup obrazovanju i profesionalni put osobe (na primjer, obračun rezultata ispita)
- komponente sigurnosti proizvoda ili primjena umjetne inteligencije, na primjer, u hirurgiji
- zapošljavanje, upravljanje radnom snagom i pristup samozapošljavanju (npr. softver za provjeru životopisa za procedure zapošljavanja)
- osnovne privatne i javne usluge (na primjer, kreditna procjena, koja građanima uskraćuje mogućnost da dobiju kredit)
- radnje za provođenje zakona koje mogu ograničiti osnovna prava ljudi u oblasti pravosuđa (na primjer, procjena vjerodostojnosti dokaza)
- upravljanje migracijama, azil i granična kontrola (npr. provjera vjerodostojnosti putnih isprava)
- sprovođenje pravde i demokratski procesi (na primjer, primjena zakona na određeni skup činjenica).
Utvrđeno je da će visokorizični AI sistemi ispuniti stroge zahtjeve prije nego što budu stavljeni na tržište:
- adekvatnu procjenu rizika i sisteme ublažavanja
- skupovi podataka visokog kvaliteta koji hrane sistem kako bi se minimizirali rizici i diskriminatorni rezultati
- evidentiranje aktivnosti kako bi se osiguralo praćenje rezultata
- detaljnu dokumentaciju koja sadrži sve potrebne informacije o sistemu i njegovoj namjeni, kako bi nadležni mogli ocijeniti njegovu usklađenost sa zahtjevima
- jasne i adekvatne informacije za korisnika
- odgovarajuće mjere ljudskog nadzora kako bi se rizici sveli na minimum
- visok nivo pouzdanosti, sigurnosti i tačnosti.
Sada o jednom od najvažnijih aspekata koji je uplašio gotovo sve. Svi daljinski biometrijski sistemi identifikacije smatraju se visokorizičnim i podložni su strogim zahtjevima. Upotreba daljinske biometrijske identifikacije na javnim mjestima u svrhu provođenja zakona je u principu zabranjena.
Predviđeni su strogo definisani i regulisani izuzeci, na primer, kada je potrebno tražiti nestalo dete, sprečiti konkretne i neposredne terorističke pretnje ili otkriti, locirati, identifikovati ili procesuirati počinilac ili osumnjičeni za teško krivično delo.
Takvo korištenje zahtijeva odobrenje sudskog ili drugog nezavisnog organa i ima odgovarajuća ograničenja u pogledu vremena, geografske pokrivenosti i pretraživanih baza podataka.
Ograničeni rizik
Ograničeni rizik se odnosi na AI sisteme sa određenim obavezama transparentnosti. Kada koriste sisteme umjetne inteligencije kao što su chatbotovi, korisnici moraju znati da su u interakciji s mašinom kako bi mogli donijeti informiranu odluku da nastave ili odustanu.
Odnosno, to znači da niko neće zabraniti ChatGPT, ali programeri moraju otkriti detalje svog rada i buduće planove. Korisnici bi trebali razumjeti rizike koji ih očekuju ako se pouzdaju u pouzdanost informacija primljenih od chatbotova.
Rizik minimalan ili nikakav
Evropska komisija dozvoljava besplatno korištenje AI uz minimalan rizik. Ovo uključuje aplikacije kao što su video igrice sa omogućenom umjetnom inteligencijom ili filteri za neželjenu poštu. Velika većina AI sistema koji se trenutno koriste u EU spada u ovu kategoriju.
Kada sistem veštačke inteligencije uđe na tržište, vlasti su odgovorne za nadzor tržišta, korisnici obezbeđuju ljudski nadzor i praćenje, a dobavljači imaju postmarketinški sistem praćenja. Dobavljači i korisnici će također prijaviti ozbiljne incidente i kvarove.
Pročitajte također: 7 najboljih upotreba ChatGPT-a
Zašto bi te bilo briga?
Programi umjetne inteligencije utječu na informacije koje vidite na mreži, predviđaju koji sadržaj vas zanima, prikupljaju i analiziraju podatke za provođenje zakona ili personaliziranje oglasa, a koriste se za dijagnosticiranje i liječenje stvari poput raka. Drugim riječima, AI utječe na mnoga područja vašeg života.
Slično EU Općoj uredbi o zaštiti podataka (GDPR) iz 2018. godine, zakon EU o umjetnoj inteligenciji mogao bi postati globalni standard koji određuje hoće li AI imati pozitivan, a ne negativan utjecaj na vaš život, gdje god da se nalazite. Regulacija umjetne inteligencije u EU već izaziva određeni međunarodni odjek. Krajem septembra 2021. Brazilski Kongres usvojio je i nacrt zakona kojim se stvara pravni okvir za korištenje umjetne inteligencije. Još uvijek ga mora odobriti Senat zemlje.
Zakonodavstvo orijentirano na budućnost
Budući da je umjetna inteligencija tehnologija koja se brzo razvija, prijedlog ima pristup usmjeren prema budućnosti koji omogućava da se pravila prilagode tehnološkim promjenama. AI aplikacije moraju ostati pouzdane čak i nakon što su stavljene na tržište. To zahtijeva kontinuirano upravljanje kvalitetom i rizikom od dobavljača.
Takav zakon bi trebao natjerati proizvođače i dobavljače AI algoritama da budu odgovorniji za svoj razvoj. Da budemo društveniji, a ne samo da razmišljamo o rastu prihoda i nekontrolisanim eksperimentima.
Zakon o umjetnoj inteligenciji EU je prva regulativa o umjetnoj inteligenciji
Zakon EU o umjetnoj inteligenciji postat će prvi zakon u svijetu koji na sveobuhvatan način reguliše pitanja vezana za umjetnu inteligenciju.
Ovo je revolucionarno rješenje za reguliranje umjetne inteligencije na temelju njenog potencijala da nanese štetu. Biće zabranjeno da se koristi, na primer, u sistemima društvenog bodovanja, biometrijskoj identifikaciji u realnom vremenu ili podsvesnoj manipulaciji. Identificirana je i grupa programa visokog rizika, na primjer, u medicinskoj dijagnostici ili pravosudnom sistemu. U grupi sistema sa ograničenim rizikom treba uspostaviti samo obaveze transparentnosti.
U predloženom zakonu postoji nekoliko rupa i izuzetaka. Ovi nedostaci ograničavaju sposobnost zakona da osigura da AI ostane snaga dobra u vašem životu. Trenutno je, na primjer, prepoznavanje lica od strane policije zabranjeno osim ako se slika ne snimi sa zakašnjenjem ili ako se tehnologija koristi za pronalaženje nestale djece.
Osim toga, zakon je nefleksibilan. Ako se, nakon dvije godine, opasna AI aplikacija koristi u nepredviđenom polju, zakon ne predviđa mehanizam da je označi kao "visoko rizičnu".
AI čin je prvenstveno transparentnost, sposobnost objašnjavanja događaja i sposobnost da se za njih snosi odgovornost, odnosno sposobnost da se utvrdi ko je ili šta je odgovoran za ovaj ili onaj događaj. Zakon o umjetnoj inteligenciji također će postati pravna osnova za stvaranje novog tijela za umjetnu inteligenciju kako bi se pomoglo državama članicama u tehničkim pitanjima.
Pročitajte također: Od CUDA do AI: Tajne uspjeha NVIDIA
Tehnološki giganti će skupo platiti kršenje zakona EU o umjetnoj inteligenciji
Predložena direktiva primjenjivala bi se samo na zahtjeve za odštetu koja je rezultat upotrebe AI, ili kada sistem AI nije mogao proizvesti rezultat zbog krivice osobe, kao što je dobavljač ili korisnik. Međutim, Direktiva se ne primjenjuje na zahtjeve za građanskopravnu odgovornost ako je šteta nastala ljudskom procjenom i kasnijim radnjama ili propustima, dok je AI sistem davao samo informacije ili savjete koje je relevantni akter uzeo u obzir. U potonjem slučaju, štete nastale ljudskim djelovanjem ili nedjelovanjem mogu se pratiti jer izlaz AI sistema nije umetnut između ljudskih radnji ili neaktivnosti i štete.
Kršenje zabrane će rezultirati finansijskim sankcijama za dobavljače određenih tehnologija. Oni mogu dostići 30 miliona eura ili 6 posto godišnjeg globalnog prihoda kompanije.
Naravno, donošenje ovakvih odluka zavisiće od odluka država članica Evropske unije, ali već sada možemo reći da je ovo zaista istorijski korak. Tehnologija umjetne inteligencije ima ogroman potencijal koji se može pozitivno iskoristiti za razvoj ekonomije. Istovremeno, postoji mnogo rizika. Stoga ih zakonodavstvo pokušava ograničiti, ali ne i zabraniti.
Osim usvajanja novog zakona o umjetnoj inteligenciji, EU također namjerava raditi sa SAD na dobrovoljnom kodeksu ponašanja u vezi s tehnologijom, za koji se očekuje da će uskoro biti gotov i mogao bi biti ponuđen drugim zemljama koje slijede slične principe.
Zakon o umjetnoj inteligenciji također bi trebao biti osnova za stvaranje Ureda za umjetnu inteligenciju. Namijenjen je pružanju podrške državama članicama i njihovim vlastima u implementaciji nove regulative kroz tehničku ekspertizu, kao i olakšavanju koordinacije rješenja u slučaju problema koji će uticati na više od jedne zemlje.
Pročitajte također: