Uniunea Europeană interzice anumite utilizări „inacceptabile” ale AI începând cu 2 februarie, stabilind un precedent global în ceea ce privește restricțiile asupra acestei tehnologii emergente.
Cu toate acestea, criticii susțin că interdicțiile au prea multe „scăpări” care permit poliției și autorităților de migrație din Europa să folosească AI — inclusiv tehnologia care poate identifica rapid fețele prin camerele de securitate — pentru a urmări autori ai unor crime grave, precum atacuri teroriste.
Actul AI al Uniunii Europene interzice acum utilizarea AI pentru a profila cineva în funcție de probabilitatea de a comite o infracțiune, „policing-ul predictiv” fiind una dintre cele șapte categorii de utilizare a AI interzise.
Deși interdicțiile au intrat în vigoare duminică, guvernele încă au timp până în august pentru a desemna autoritățile care vor pune în aplicare aceste reglementări.
Actul AI, premieră mondială
Actul AI este o premieră mondială în stabilirea unor reguli clare privind utilizarea noii tehnologii. Șefa tehnologică a Comisiei Europene, Henna Virkkunen, a lăudat legea anul trecut, spunând că aceasta va „proteja cetățenii” și va fi, de asemenea, un „factor care va încuraja inovația”. Crearea unor măsuri de protecție pentru această tehnologie emergentă este văzută ca esențială pentru a permite utilizarea pe scară largă. Alte părți ale legii vor fi implementate treptat în următorul an și jumătate.
Regulile diferențiază Uniunea Europeană de alte părți ale lumii unde există puține reglementări similare pentru a guverna tehnologia, subliniind poziția sa de lider în materie de reglementare. Președintele american Donald Trump a adoptat o abordare opusă, abrogând un ordin executiv referitor la siguranța AI semnat de predecesorul său, președintele Joe Biden.
Brando Benifei, un deputat italian care a contribuit la negocierea regulilor, a spus că interdicțiile urmăresc să evite ca AI să fie folosită pentru „controlul societății” sau „restrângerea libertăților noastre”.
„Interdicțiile sunt concentrat pe o zonă de preocupare, legată de protecția democrațiilor noastre,” a spus el.
Punerea în aplicare a acestora ar putea fi dificilă. Poliția și autoritățile de migrație din Europa folosesc deja mai multe practici AI, cum ar fi recunoașterea facială în timp real în spațiile publice, și au reușit să obțină liste lungi de excepții în regulament pentru a continua să le folosească.
Academicieni și activiști sunt îngrijorați și urmăresc îndeaproape modul în care legea va fi aplicată.
„Poți chiar să te întrebi dacă mai poți vorbi despre o interdicție, dacă există atât de multe excepții,” a spus Nathalie Smuha, profesor asociat și cercetător în etica AI la Universitatea KU Leuven.
Hollywood sau China
Inițial, interzicerea unor utilizări ale AI nu era prevăzută atunci când Comisia Europeană a solicitat experților să pregătească o strategie AI în 2018.
Experții și oficialii de top și-au schimbat rapid opinia, a spus Smuha, care a coordonat grupul de experți, pe măsură ce și-au dat seama că legislația existentă ar putea fi insuficientă pentru a aborda anumite practici.
Prima schiță a Comisiei pentru noile reglementări AI, din aprilie 2021, sugera deja interzicerea unor practici, cum ar fi cele care „distorsionează comportamentul unei persoane” prin tehnici subliminale sau exploatează grupuri vulnerabile.
Când proiectul de lege a ajuns în Parlamentul European pentru discuții, deputații au adăugat la acea listă pe măsură ce au negociat cu oficialii guvernamentali. Forma finală a legii a fost convenită în decembrie 2023.
Kim Van Sparrentak, o deputată olandeză din partea Verzilor, implicată în negocierile Actului AI, a spus că interdicțiile din lista finală se împart în trei categorii.
„Lucruri care existau deja și despre care știam că nu le dorim, [și] lucruri care le-am putea imagina fie din filmele de la Hollywood, fie din China,” a spus ea.
Un caz care a influențat redactarea a fost un scandal în Olanda în 2019, când autoritățile fiscale din Olanda au folosit un algoritm pentru a detecta fraudele la beneficiile pentru îngrijirea copiilor, o măsură care a dus la acuzații greșite de fraudă pentru aproximativ 26.000 de persoane.
Astfel de practici ar putea acum să fie interzise, fiind incluse în categoria de „policing predictiv”.
„Dacă vrei o societate bazată pe statul de drept, nu poți trata oamenii constant ca și cum ar fi deja criminali,” a spus Van Sparrentak, potrivit POLITICO.
