Evropska regulativa za odgovornu veštačku inteligenciju

Nakon trodnevnih ‘maratonskih‘ rasprava, Savet Evrope i Parlament postigli su privremeni dogovor o zakonu 9. decembra 2023. godine. Zakon o veštačkoj inteligenciji usklađuje pravila o AI sistemima, obezbeđujući da se pridržavaju osnovnih prava i vrednosti EU. Konačni tekst još uvek treba formalno usvojiti i trebalo bi da se primenjuje od 2026. godine. 

💬 We have a message for you, and rest assured, it is not #AI-generated.

Welcome to the world’s first-ever rules on #ArtificialIntelligence!

✅ Today’s political agreement on the 🇪🇺 #AIAct will ensure AI develops in a human-centric, transparent & responsible way.

Read more ↓

— Digital EU 🇪🇺 (@DigitalEU) December 9, 2023

Novi zakon je jedan od prvih pokušaja na svetu da se ograniči upotreba ove brzo evoluirajuće tehnologije sa širokim ekonomskim i društvenim posledicama. Glavni cilj Zakona o veštačkoj inteligenciji je da ojača poziciju Evrope u globalnom AI poslovanju, od laboratorije do tržišta, i iskoristi potencijal ove tehnologije za industrijsku upotrebu. 

Glavna novost koju donosi Zakon o veštačkoj inteligenciji je klasifikacioni sistem koji utvrđuje stepen rizika koji AI sistem može predstavljati za ljudsko blagostanje. Okvir obuhvata četiri glavna nivoa rizika – neprihvatljiv, visok, ograničen i umeren. 

 

Definisanje AI sistema 

Da bismo definisali AI, koristićemo široko prihvaćenu definiciju koju je pružila Nezavisna ekspertska grupa Evropske komisije za veštačku inteligenciju (AI) – AI se odnosi na sisteme koji pokazuju razumno, inteligentno ponašanje analizirajući svoje okruženje i preduzimajući akcije – sa određenim stepenom autonomije – kako bi postigli određene ciljeve. AI bazirani sistemi mogu biti isključivo softverski (softver za analizu slika, pretraživači, sistemi za prepoznavanje lica, govorni asistenti) ili ugrađeni u hardverske uređaje (autonomna vozila, bespilotne letelice, IoT aplikacije, napredni roboti). 

Regulativa o AI obuhvata širok spektar tema. Objavićemo seriju članaka koji će istražiti različite aspekte ovog predmeta. U ovom konkretnom članku, istraživaćemo odnos između veštačke inteligencije i korporativne usklađenosti, uzimajući u obzir postojeći zakonodavni okvir i preporuke u Republici Srbiji.

 

Strategija za razvoj veštačke inteligencije u Republici Srbiji za period 2020-2025

Strategija razvoja veštačke inteligencije za period od 2020. do 2050. postavila je ciljeve i mere za razvoj AI koji bi trebaloPodrška za startape i MSP (mala i srednja preduzeća) da rezultiraju ekonomskim rastom, razvojem novih veština i unapređenjem javnih usluga. 

Strategija ima nekoliko ciljeva. Kada je reč o poslovnom sektoru, određeno je da se prilagodi novim radnim modelima i dinamici tržišta uz razvoj poslovnih entiteta zasnovanih na upotrebi AI. Pravilnici treba da se prilagode novim okolnostima i zahtevima novih poslovnih modela, razvoja proizvoda i usluga zasnovanih na AI, uzimajući u obzir ukupnu bezbednost. 

Hajde da pregledamo nekoliko mera koje su od značaja za poslovni sektor. 

 

Podrška za startape i MSP (mala i srednja preduzeća) 

Ove mere imaju za cilj postizanje nekoliko ključnih ciljeva. Prvenstveno, njihova svrha je da postave mehanizme za komunikaciju, razmenu iskustava i unapređenje znanja startapa i MSP u oblasti veštačke inteligencije. 

Osim pružanja stručnih usluga u različitim sferama kao što su ekonomija i pravo startapima i MSP, ova mera ima za cilj omogućavanje startapima i MSP da koriste tehnološku infrastrukturu pod povoljnim uslovima, kao što su računarski sistemi pogodni za mašinsko učenje.

Strategija dodaje da cilj ovih mera jeste povezivanje startapa i MSP u oblasti veštačke inteligencije sa institucijama u javnom sektoru koje mogu biti izvor podataka za projekte mašinskog učenja. 

 

Kontinuirano praćenje i analiza stanja veštačke inteligencije 

Strategija ističe da je veštačka inteligencija deo raznovrsnih aktivnosti unutar različitih kompanija i stoga je važno uspostaviti stalnu analizu i praćenje kako bismo dobili jasnu sliku o tome kako kompanije, na koji način i sa kojim resursima rade sa veštačkom inteligencijom. 

Ovo bi trebalo postići prikupljanjem podataka putem upitnika popunjenih od strane privrednih subjekata i dostavljenih Republičkom zavodu za statistiku Republike Srbije radi zvaničnih statističkih istraživanja. Ova vrsta obaveznih podataka uključuje informacije da li kompanija koristi veštačku inteligenciju u svom poslovanju, da li razvija proizvode zasnovane na veštačkoj inteligenciji i koje metode se primenjuju u tu svrhu.

 

Etički principi i standardi bezbednosti veštačke inteligencije 

Strategija ističe da primena sistema zasnovanih na veštačkoj inteligenciji nosi nekoliko etičkih i bezbednosnih izazova. Etika i standardi bezbednosti trebaju biti obezbeđeni u vezi sa zaštitom ličnih podataka, zaštitom od diskriminacije prilikom primene metoda mašinskog učenja i uspostavljanjem odgovornog razvoja u skladu sa relevantnim međunarodnim principima. 

Kao glavni cilj, Strategija ističe uvođenje preventivnih mehanizama koji će omogućiti odgovorno kreiranje veštačke inteligencije i metode provere da li sistemi zasnovani na mašinskom učenju ispunjavaju propisane etičke i bezbednosne standarde. 

 

Etičke smernice za razvoj, implementaciju i upotrebu snažne i odgovorne veštačke inteligencije 

Vlada Republike Srbije usvojila je zaključak ove godine kojim podržava Etičke smernice za razvoj, implementaciju i upotrebu pouzdane i odgovorne veštačke inteligencije. Srpske smernice odražavaju osnovne principe utvrđene u UNESCO preporuci o etici veštačke inteligencije iz 2021. godine i relevantnim pravnim dokumentima EU. 

 

Glavni akteri obuhvaćeni smernicama 

Smernice imaju za cilj uspostavljanje horizontalnog pristupa primeni pravila, te stoga obuhvataju sledeće aktere: 

• Osobe koje rade na razvoju i/ili implementaciji sistema veštačke inteligencije 
• Osobe koje koriste sisteme veštačke inteligencije pretežno u svom radu, što uključuje interakciju sa drugim osobama (na primer, učesnici na tržištu) 
• Osobe koje koriste sisteme veštačke inteligencije koje su direktno pogođene sistemima (na primer, koriste sisteme za pristup javnim uslugama) ili indirektno pogođene sistemima (na primer, deo su istraživačke grupe za retke bolesti gde se obrađuju medicinski podaci kao deo strategije Srbije za unapređenje javnog zdravlja) 
• Opšta javnost 

 

Glavne komponente obuhvaćene Smernicama 

 

Visokorizični sistemi veštačke inteligencije 

Nakon opisa pojmova i koncepata korišćenih u smernicama, dokument objašnjava opseg i upotrebu visokorizičnih sistema veštačke inteligencije (setite se klasifikacije propisane Regulativom EU o veštačkoj inteligenciji). Visokorizični sistem veštačke inteligencije odnosi se na sistem koji ima tendenciju da direktno ili indirektno krši principe i uslove utvrđene ovim smernicama, iako to nije nužno. Prema ovom dokumentu, visokorizični sistemi se ne smatraju nepoželjnim, ali ih treba posebno oceniti. 

Da bi se odredio određeni sistem veštačke inteligencije kao visokorizičan, nije važno da li se sistem koristi, kao ni da li predstavlja samostalan proizvod i/ili uslugu ili je sastavni deo drugog proizvoda/usluge.

 

Zaštita podataka 

Drugo, smernice naglašavaju važnost zaštite podataka. Objasnićemo odnos između zaštite podataka i sistema veštačke inteligencije u jednom od naših budućih članaka zbog kompleksnosti teme.  

Na primer, kada je reč o B2B kontekstu, faktori koji doprinose kompleksnosti i nesigurnosti mogu se navesti kao potencijalna primenljivost različitih pravnih režima (npr. podaci prolaze kroz različita pravna područja), broj strana uključenih u lanac vrednosti podataka i dostupnost odgovarajućih mehanizama sprovođenja. 

Interakcija između veštačke inteligencije i GDPR-a uključuje nekoliko pravnih i tehničkih pitanja koja zahtevaju niz procena. U većini slučajeva, procena može biti dokumentovana putem procena uticaja na zaštitu podataka ili procena legitimnih interesa. 

Ukratko, Smernice postavljaju obavezu sprovođenja procene uticaja na obradu podataka u određenim okolnostima koje se odnose na profilisanje i pravni položaj fizičkog lica, aktivnosti sprovođenja zakona i praćenje javno dostupnih područja. 

 

Zahtevi za odgovorne AI sisteme 

Nakon što su navedeni osnovni principi obuhvaćeni Smernicama, dokument postavlja zahteve za odgovorne i bezbedne AI sisteme, praveći razliku između tehničkih i netehničkih metoda. Dok se tehničke metode pružaju u formi preporuka, netehničke metode koriste se za ispitivanje organizacionih i sličnih netehničkih elemenata ključnih za razvoj i upotrebu AI sistema i pružaju se u formi upitnika kako bi se pomoglo pojedincima i organizacijama. 

 

Šta je Politika prihvatljive upotrebe veštačke inteligencije (AUP)? 

Zakon o veštačkoj inteligenciji razrađuje niz odgovornosti za pružaoce AI sistema, posebno one koji se kategorizuju kao visokorizični. Za sada, zanemarićemo zahteve koje je utvrdio Zakon o veštačkoj inteligenciji usmeren ka pružaocima i distributerima AI sistema koji ćemo detaljno obraditi u jednom od narednih tekstova. 

Ispitivanje poslovnih praksi brojnih kompanija otkriva široku usvajanje generativne veštačke inteligencije. Posmatrajući globalne trendove, postaje očigledno da postoji rastuća potreba za formulisanjem politika prihvatljive upotrebe veštačke inteligencije kako bi se definisala očekivanja za upotrebu ovakve dokumentacije. 

Pre nego što stvorite bilo kakav tip politike, potrebno je razumeti šta takav dokument predstavlja. Politika se odnosi na vrstu dokumenta koji komunicira zahtevano i zabranjeno ponašanje i aktivnosti, odražavajući šire ciljeve i korporativnu kulturu. Pre sprovođenja politike, treba da se stekne određeni nivo razumevanja u vezi generativne veštačke inteligencije i organizacionih potreba vaše kompanije, zajedno sa relevantnim regulatornim okvirom. 

Politika bi trebalo da bude posebno prilagođena da zadovolji jedinstvene potrebe vaše kompanije, ali postoje neki delovi koji bi trebalo istaći. Na primer, važno je objasniti na koga se dokument odnosi, da li je uspostavljen postupak upravljanja odgovornošću, prihvatljivi uslovi korišćenja, kao i pravna i etička usaglašenost i ostali bitni podaci. 

Kao i druge politike koje kompanije koriste u svom poslovanju, Politika prihvatljive upotrebe veštačke inteligencije je takođe živući dokument. Jednostavno rečeno, treba je ažurirati u skladu sa novim slučajevima upotrebe, očekivanjima tržišta i novitetima u regulativi. 

 

 

Napomena: Ovaj tekst ne pruža pravni savet, već predstavlja stav autora.