EU najavljuje zakon o veštačkoj inteligenciji

Korišćenje veštačke inteligencije u EU regulisaće Zakon o veštačkoj inteligenciji, prvi sveobuhvatni zakon o veštačkoj inteligenciji na svetu. Saznajte kako će vas zaštititi.

Kao deo svoje digitalne strategije, EU želi da reguliše veštačku inteligenciju (VI) kako bi obezbedila bolje uslove za razvoj i upotrebu ove inovativne tehnologije. VI može doneti mnoge koristi, kao što su bolja zdravstvena zaštita, sigurniji i čišći transport, efikasnija proizvodnja i jeftinija i održivija energija.

U aprilu 2021. godine, Evropska komisija je predložila prvi regulatorni okvir EU za VI u kome je je navedeno da će se VI sistemi koji se mogu koristiti u različitim aplikacijama analizirati i klasifikovati prema riziku koji predstavljaju za korisnike. Različiti nivoi rizika značiće više ili manje regulacije. Kada bude odobrena, ovo će biti prva regulativa o veštačkoj inteligenciji na svetu.

Šta Parlament želi da postigne kroz zakon o VI

Prioritet Parlamenta je da osigura da AI sistemi koji se koriste u EU budu sigurni, transparentni, proverljivi, nediskriminišući i ekološki prihvatljivi. Kontrolu i nadzor VI sistema treba da vrše ljudi, a ne mašine, kako bi se sprečile štetne posledice. Parlament takođe želi da uspostavi tehnološki neutralnu, jedinstvenu definiciju za VI koja bi se mogla primeniti na buduće VI sisteme.

Zakon o VI: različita pravila za različite nivoe rizika

Nove regulative uspostavljaju obaveze za pružaoce usluga i korisnike u zavisnosti od nivoa rizika koje veštačka inteligencija može imati. Iako mnogi VI sistemi nose minimalan rizik, oni moraju biti pažljivo procenjeni.

Neprihvatljiv rizik

VI sistemi neprihvatljivog rizika smatraju se pretnjom ljudima i biće zabranjeni. To uključuje:

• Kognitivno ponašanje manipulacije ljudima ili određenim ranjivim grupama: na primer, igračke koje reaguju na glas i podstiču opasno ponašanje kod dece.
• Društveno ocenjivanje: klasifikacija ljudi na osnovu ponašanja, socijalno-ekonomskog statusa ili ličnih karakteristika.
• Identifikacioni sistemi u realnom vremenu i na daljinu, kao što je prepoznavanje lica. Neki izuzeci od ovog pravila mogu biti dozvoljeni. Na primer, "post" sistemi identifikacije na daljinu gde se identifikacija vrši nakon značajnog odlaganja biće dozvoljeni prilikom procesuiranja ozbiljnih krivičnih dela, ali samo uz odobrenje suda.

Visok rizik

VI sistemi koji negativno utiču na bezbednost ili osnovna ljudska prava smatraće se visoko rizičnim i biće podeljeni u dve kategorije:

1. VI sistemi koji se koriste u proizvodima obuhvaćenim zakonodavstvom EU o bezbednosti proizvoda. To uključuje igračke, avijaciju, automobile, medicinske uređaje i liftove.
2. VI sistemi koji spadaju u osam specifičnih oblasti koje će morati biti registrovane u EU bazi podataka:

• Biometrijska identifikacija i kategorizacija prirodnih lica.
• Upravljanje i održavanje kritične infrastrukture.
• Obrazovanje i stručna obuka.
• Zapošljavanje, upravljanje radnicima i pristup samozapošljavanju.
• Pristup i korišćenje osnovnih privatnih usluga i javnih usluga i beneficija.
• Sprovođenje zakona.
• Migracija, azil i upravljanje kontrolom granica.
• Pomoć u tumačenju i primeni zakona.

Svi VI sistemi visokog rizika će biti procenjenivani pre nego što budu pušteni na tržište i tokom celog njihovog životnog ciklusa.

Generativna Veštačka Inteligencija

Generativna VI, poput ChatGPT-a, morala bi da se pridržava zahteva za transparentnost:

• Jasno naznačivanje da je sadržaj generisan od strane VI.
• Dizajniranje modela kako bi se sprečilo generisanje nelegalnog sadržaja.
• Objavljivanje referenci autorskih zaštićenih podataka koji su korišćeni za obuku.

Ograničeni rizik

AI sistemi ograničenog rizika trebalo bi da se pridržavaju minimalnih uslova transparentnosti koji bi omogućili korisnicima da donose informisane odluke. Nakon interakcije sa aplikacijama, korisnik može odlučiti da li želi da nastavi sa korišćenjem. Korisnici treba da budu obavešteni kada dolaze u interakciju sa veštačkom inteligencijom, uključujući VI sisteme koji generišu ili manipulišu slikama, audio ili video sadržajem (npr. Deepfake-ovi).

Sledeći koraci

U junu 2023. godine, poslanici Evropskog parlamenta usvojili su pregovarački položaj Parlamenta o Zakonu o veštačkoj inteligenciji. Sada će pregovori početi sa državama članicama EU u Savetu o konačnom obliku zakona. Cilj je postizanje sporazuma do kraja ove godine.