Komisija predlaže nova pravila i mjere za izvrsnost i povjerenje u području umjetne inteligencije

Izvršna potpredsjednica za Europu spremnu za digitalno doba Margrethe Vestager izjavila je: Povjerenje u umjetnu inteligenciju je imperativ, a ne tek zgodna opcija. Ovo su važni propisi kojima Unija predvodi razvoj novih globalnih normi koje će biti jamstvo povjerenja u umjetnu inteligenciju. Postavljajući standarde možemo otvoriti put razvoju etične tehnologije u svijetu i pritom očuvati Unijinu konkurentnost. Naša su pravila spremna za budućnost i okrenuta inovacijama te će se primjenjivati samo kad je to doista nužno: kad budu ugrožena temeljna prava i sigurnost građana Unije.

Povjerenik za unutarnje tržište Thierry Breton izjavio je: Umjetna inteligencija je sredstvo, a ne cilj. Postoji već desetljećima, ali zahvaljujući računalnoj snazi dosegla je nove mogućnosti. To znači golem potencijal u najrazličitijim područjima kao što su zdravlje, promet, energetika, poljoprivreda, turizam ili kibersigurnost. Donosi, međutim, i rizike. Današnjim se prijedlozima nastoji učvrstiti položaj Europe kao svjetskog centra izvrsnosti u području umjetne inteligencije od laboratorija do tržišta, osigurati da umjetna inteligencija u Europi bude u skladu s našim vrijednostima i pravilima te iskoristiti njezin potencijal za industrijsku primjenu. 

Nova Uredba o umjetnoj inteligenciji Europljanima će biti jamstvo povjerenja u ono što umjetna inteligencija nudi. Pravilima, koja su razmjerna i fleksibilna, obuhvatit će se specifični rizici koje donose sustavi umjetne inteligencije te postaviti najviši svjetski standardi. U koordiniranom planu u glavnim se crtama iznose promjene u politici i ulaganja potrebna u državama članicama da bi se učvrstio vodeći položaj Europe u razvoju antropocentrične, održive, sigurne, uključive i pouzdane umjetne inteligencije.

Europski pristup pouzdanoj umjetnoj inteligenciji

Nova će se pravila izravno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima. U njihovoj je izradi korišten pristup koji se temelji na riziku.

Neprihvatljiv rizik: sustavi koji se smatraju jasnom prijetnjom sigurnosti, sredstvima za život i pravima ljudi bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju „društveno vrednovanje”.

Visok rizik: visokorizični sustavi umjetne inteligencije obuhvaćaju tehnologiju koja se upotrebljava u:

• kritičnoj infrastrukturi (npr. prometnoj) koja može ugroziti život i zdravlje građana
• strukovnom obrazovanju ili osposobljavanju koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita)
• sigurnosnim dijelovima proizvoda (npr. primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima)
• zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja)
• osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti mogućnost da podignu kredit)
• provođenju zakona koje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza)
• upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava)
• pravosuđu i demokratskim procesima (npr. primjena zakona na konkretan skup činjenica).

Za visokorizične sustave vrijedit će stroge obveze koje moraju ispuniti prije stavljanja na tržište:

• odgovarajući sustavi procjene i smanjenja rizika
• visoka kvaliteta ulaznih podataka kako bi se smanjili rizici i diskriminatorni rezultati
• evidentiranje aktivnosti radi sljedivosti rezultata
• podrobna dokumentacija sa svim informacijama o sustavu i njegovoj namjeni koje su potrebne tijelima za ocjenjivanje sukladnosti
• jasne i primjerene informacije za korisnike
• odgovarajuće mjere ljudskog nadzora radi minimiziranja rizika
• visoka razina stabilnosti, sigurnosti i točnosti.

Konkretno, strogim uvjetima podliježu svi sustavi daljinske biometrijske identifikacije jer ih se smatra visokorizičnima. Njihova je upotreba u stvarnom vremenu u javnim prostorima u načelu zabranjena. Iznimke su strogo definirane, regulirane i ograničene na najnužnije situacije, npr. kad se koriste u potrazi za nestalim djetetom, za sprečavanje konkretne i neposredne terorističke prijetnje ili za otkrivanje, lociranje, identificiranje ili istragu protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo. Takvu upotrebu mora odobriti sudsko ili drugo neovisno tijelo i mora biti ograničena vremenski, zemljopisno i na određene baze podataka.

Ograničen rizik: sustavi umjetne inteligencije s posebnim obvezama u pogledu transparentnosti: Korisnici sustava kao što su chatbotovi trebali bi znati da je riječ o interakciji sa strojem kako bi mogli utemeljeno odlučiti žele li se upustiti u nju ili odustati.

Minimalan rizik: prijedlog propisa omogućuje neograničeno korištenje umjetne inteligencije u videoigrama ili filtrima za neželjenu e-poštu. U tu kategoriju spada većina sustava umjetne inteligencije. Nacrt uredbe ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana.

Komisija predlaže da nova pravila budu pod nadzorom nacionalnih tijela nadležnih za nadzor tržišta. Provedbu pravila i izradu standarda za umjetnu inteligenciju olakšat će osnivanje Europskog odbora za umjetnu inteligenciju. Usto, za umjetnu inteligenciju koja nije visokorizična predlažu se dobrovoljni kodeksi ponašanja i regulatorni okviri za testiranje i poticanje odgovornih inovacija.

Europski pristup izvrsnosti u umjetnoj inteligenciji

Koordinirano djelovanje učvrstit će vodeći položaj Europe u području antropocentrične, održive, sigurne, uključive i pouzdane umjetne inteligencije. Kako bi Europa ostala globalno konkurentna, Komisija se obvezala poticati inovacije u razvoju i korištenju tehnologije umjetne inteligencije u svim sektorima i svim državama članicama.

Koordinirani plan o umjetnoj inteligenciji, kojim su 2018. definirani instrumenti financiranja i mjere za razvoj i korištenje umjetne inteligencije, omogućio je stvaranje dinamičnog okruženja nacionalnih strategija i financijskih sredstava EU-a za javno-privatna partnerstva i istraživačko-inovacijske mreže. U cjelovito ažuriranom Koordiniranom planu predlažu se zajedničke mjere s ciljem usklađivanja svih aktivnosti s europskom strategijom za umjetnu inteligenciju i europskim zelenim planom, vodeći pritom računa o novim izazovima koje je donijela pandemija koronavirusa. Iznosi se vizija za ubrzanje ulaganja u umjetnu inteligenciju jer to može pridonijeti oporavku. Želi se i potaknuti provedba nacionalnih strategija umjetne inteligencije, ukloniti rascjepkanost i poduzeti mjere za globalne izazove. Za ažurirani Koordinirani plan koristit će se sredstva dodijeljena u okviru programa Digitalna Europa i Obzor Europa, kao i Mehanizma za oporavak i otpornost, s predviđenih 20 % rashoda za troškove digitalizacije, te programa kohezijske politike.

Cilj toga je:

• stvaranje poticajnih uvjeta za razvoj i primjenu umjetne inteligencije razmjenom uvida u politiku, razmjenom podataka i ulaganjima u kritične računalne kapacitete
• poticanje izvrsnosti u umjetnoj inteligenciji od laboratorija do tržišta uspostavljanjem javno-privatnog partnerstva, organizacijom i primjenom istraživanja, razvojnim i inovacijskim kapacitetima te stavljanjem centara za testiranje i eksperimentiranje i centara za digitalne inovacije na raspolaganje MSP-ovima i javnim upravama
• stavljanje umjetne inteligencije u službu građana i društva predvođenjem razvoja i primjene pouzdane umjetne inteligencije, razvojem talenata i vještina poticanjem stažiranja, umrežavanja doktoranada i postdoktorskih stipendija u digitalnim područjima, uvrštavanjem povjerenja u politike umjetne inteligencije te promicanjem europske vizije održive i pouzdane umjetne inteligencije u svijetu
• strateško vodstvo u sektorima i tehnologijama s velikim utjecajem, primjerice u području okoliša fokusiranjem na doprinos umjetne inteligencije održivoj proizvodnji, u zdravstvu širenjem međunarodne razmjene informacija te u javnom sektoru, prometu, unutarnjim poslovima, poljoprivredi i robotici.

Europski pristup novim strojevima

Strojevi obuhvaćaju raznovrsne proizvode za osobnu i profesionalnu upotrebu: robote, kosilice, 3D pisače, građevinske strojeve, industrijske proizvodne linije itd. Direktiva o strojevima, koju će zamijeniti nova Uredba o strojevima, definirala je zdravstvene i sigurnosne uvjete za strojeve. Novom će se uredbom zajamčiti sigurnost nove generacije strojeva za korisnike i potrošače te potaknuti inovacije. Sigurnosni rizici sustava umjetne inteligencije obuhvaćeni su Uredbom o umjetnoj inteligenciji, a novom Uredbom o strojevima uredit će se sigurna integracija tih sustava u strojeve općenito. Poduzeća će morati provesti samo jedno ocjenjivanje sukladnosti.  Usto, nova je Uredba o strojevima odgovor na potrebe tržišta: unijet će veću pravnu jasnoću u postojeće odredbe te smanjiti administrativni teret i troškove poduzećima jer će dokumentacija moći biti u digitalnim formatima, a MSP-ovi će plaćati prilagođene naknade za ocjenjivanje sukladnosti. Ujedno će osigurati usklađenost s pravnim okvirom EU-a za proizvode.

Idući koraci

Europski parlament i države članice Komisijine će prijedloge europskog pristupa umjetnoj inteligenciji i strojevima morati donijeti u redovnom zakonodavnom postupku. Nakon donošenja uredbe će se izravno primjenjivati u cijeloj Uniji. Komisija će istodobno nastaviti surađivati s državama radi provedbe mjera najavljenih u Koordiniranom planu.

Kontekst

Komisija godinama podupire i jača suradnju u području umjetne inteligencije u Uniji kako bi se povećala konkurentnost i osiguralo povjerenje utemeljeno na vrijednostima EU-a.  Na temelju Europske strategije za umjetnu inteligenciju iz 2018. i nakon opsežnog savjetovanja s dionicima, Stručna skupina na visokoj razini za umjetnu inteligenciju izradila je 2019. Smjernice za pouzdanu umjetnu inteligenciju i 2020. popis za ocjenjivanje pouzdane umjetne inteligencije. U suradnji s državama članicama u prosincu 2018. objavljen je prvi Koordinirani plan o umjetnoj inteligenciji. U Komisijinoj Bijeloj knjizi o umjetnoj inteligenciji iz 2020. izložena je jasna vizija za umjetnu inteligenciju u Europi: ekosustav izvrsnosti i povjerenja. Na tome se temelji današnji prijedlog. Javno savjetovanje o Bijeloj knjizi privuklo je velik broj sudionika iz cijelog svijeta. Bijela knjiga bila je popraćena Izvješćem o utjecaju umjetne inteligencije, interneta stvari i robotike na sigurnost i odgovornost u kojem je zaključeno da postojeći propisi o sigurnosti proizvoda, ponajprije Direktiva o strojevima, imaju mnogo nedostataka koje je trebalo ukloniti.

Više informacija

Nova pravila o umjetnoj inteligenciji – pitanja i odgovori

Nova pravila o umjetnoj inteligenciji – Činjenice

Komunikacija o poticanju europskog pristupa umjetnoj inteligenciji

Uredba o europskom pristupu umjetnoj inteligenciji

Novi Koordinirani plan o umjetnoj inteligenciji

Uredba o strojevima

Projekti u području umjetne inteligencije koje financira EU