30.06.2021.
Ukratko:
- Zastupnici
zahtijevaju ljudski nadzor nad sustavima umjetne inteligencije,
otvorenim algoritmima i javnim revizijama
- Zabraniti
privatne baze podataka o prepoznavanju lica,
u ponašanju i bodovanje građana
- Automatizirani
sustavi temeljeni na prepoznavanju ne bi se trebali koristiti za kontrolu granica
U nacrtu izvješća usvojenog s 36 glasova za, 24 i 6 suzdržanih,
europarlamentarci ističu potrebu za demokratskim jamstvima i odgovornošću za
upotrebu umjetne inteligencije (AI) u provođenju zakona.
Mjere protiv diskriminacije
Zastupnici u Europskom parlamentu brinu se da bi uporaba AI
sustava u policiji mogla dovesti do masovnog nadzora, kršeći ključna načela
EU-a o proporcionalnosti i potrebi. Odbor upozorava da bi se u protivnom
umjetna inteligencija mogla prenamijeniti u masovni nadzor.
Nacrt rezolucije naglašava potencijal pristranosti i
diskriminacije u algoritmima na kojima se temelje AI i sustavi strojnog
učenja. Budući da rezultati sustava ovise o ulaznim podacima, važno je
uzeti u obzir pristranost algoritma.
Trenutno su sustavi za identifikaciju temeljeni na AI netočni i
mogu pogrešno identificirati manjinske etničke skupine, LGBTI osobe, starije
osobe i žene, među ostalim skupinama. Osim toga, predviđanja na temelju
umjetne inteligencije mogu pojačati postojeću diskriminaciju, što je predmet za
zabrinutost u kontekstu provedbe zakona i sudstvu.
Korištenje prepoznavanja lica i drugih biometrijskih podataka od
strane policije i sudstva
Obraćajući se specifičnim tehnikama dostupnim policiji i
sudstvu, odbor primjećuje da se umjetna inteligencija ne smije koristiti za
predviđanje ponašanja na temelju prošlih radnji ili karakteristika grupe. Što
se tiče prepoznavanja lica, europarlamentarci primjećuju da različiti sustavi
imaju različite implikacije. Traže trajnu zabranu upotrebe biometrijskih detalja
poput hoda, otisaka prstiju, DNK ili glasa za prepoznavanje ljudi u javno
dostupnim prostorima.
Odbor želi zabraniti provođenju zakona upotrebu privatnih
baza podataka o prepoznavanju lica, poput već korištene Clearview
AI. Zastupnici u Europskom parlamentu također traže zabranu dodjeljivanja
ocjena građanima na temelju umjetne inteligencije, ističući da bi to kršilo
načela osnovnog ljudskog dostojanstva. Konačno, prepoznavanje lica ne bi
se trebalo koristiti za identifikaciju dok takvi sustavi nisu u skladu s
temeljnim pravima, kažu europarlamentarci.
Korištenje biometrijskih podataka za daljinsku identifikaciju
posebno zabrinjava europarlamentarce. Primjerice, automatizirana vrata za kontrolu granice
temeljena na prepoznavanju i projekt iBorderCtrl ("pametni sustav za
otkrivanje laži" za putnike u EU) problematični su i trebali bi se
ukinuti, kažu zastupnici u Europskom parlamentu, koji pozivaju Komisiju da
otvori postupke za kršenje zakona protiv članova navodi ako je potrebno.
Izvjestitelj Petar Vitanov (S&D, BG) rekao
je: „Korištenje umjetne inteligencije eksponencijalno raste, a stvari za koje
smo mislili da su moguće samo u znanstveno-fantastičnim knjigama i filmovima -
predviđanje policije, masovni nadzor korištenjem biometrijskih podataka -
stvarnost su u nekim zemljama. Zadovoljan sam što većina Odbora za
građanske slobode prepoznaje urođenu opasnost takvih praksi za našu
demokraciju. Tehnički napredak nikada ne smije ići na štetu temeljnih
prava ljudi. "
Sljedeći koraci
Nezakonodavno izvješće bit će dostupno za raspravu i glasanje tijekom plenarne
sjednice u rujnu.