Revista >> Mai 2023 [Nr. 254] >> IT&C

AI Act: mai aproape de prima lege pentru inteligența artificială

Alexandra Cernian - Conferentiar universitar, Facultatea de Automatica si Calculatoare

17 Mai 2023

AI Act este o propunere de lege europeană privind inteligența artificială (AI) – prima lege privind AI propusă de către un organism de reglementare major la nivel global. Pentru reglementarea AI legea clasifică nivelul de risc pe care îl prezintă sistemele, obligațiile și sancțiunile pentru acestea fiind proporționale cu gradul de risc identificat. La fel ca Regulamentul general al UE privind protecția datelor (GDPR) din 2018, AI Act ar putea deveni un standard global, determinând în ce măsură IA are un efect pozitiv, mai degrabă decât negativ, asupra vieții oamenilor. Regulamentul UE privind AI face deja valuri la nivel internațional, astfel că și alte guverne au intensificat măsurile luate în privința utilizării inteligenței artificiale. Astfel, în septembrie 2021, Congresul Braziliei a adoptat un proiect de lege care creează un cadru legal pentru inteligența artificială, care încă nu a fost adoptat de Senatul țării, iar autoritățile de reglementare chineze au lansat proiecte de reguli menite să gestioneze modul în care companiile dezvoltă produsele de inteligență artificială generativă precum ChatGPT.

AI Act a fost propus inițial de Comisia Europeană în aprilie 2021. O așa-numită poziție de abordare generală a legislației a fost adoptată de Consiliul European la sfârșitul anului 2022, iar la începutul lunii mai 2023 Comisia pentru Piața Internă și Comisia pentru Libertăți Civile au adoptat un proiect de mandat de negociere privind primele reguli pentru inteligența artificială, cu 84 de voturi pentru, 7 împotrivă și 12 abțineri.

Ce este AI Act și de ce este important?
AI Act este prima propunere de lege europeană privind inteligența artificială (AI), care se aplică dezvoltării, implementării și utilizării inteligenței artificiale în UE. Legea împarte aplicațiile AI în trei categorii de risc:
1) Aplicațiile și sistemele care creează un risc inacceptabil sunt interzise. În această categorie sunt incluse: sistemele de tip scor social ca cele utilizate de guvernul din China, sistemele bazate pe tehnici subliminale, manipulative sau exploatatoare, sisteme de identificare biometrică.
2) Aplicațiile cu risc ridicat sunt supuse unor cerințe legale specifice. În această categorie sunt incluse: instrumentele de scanare a CV-urilor care clasifică solicitanții de locuri de muncă, sisteme care evaluează bonitatea clienților, sisteme care ar pune în pericol sănătatea cetățenilor, orice sistem utilizat în administrarea justiției.
3) Aplicațiile cu risc limitat sau minimal, care nu sunt interzise în mod explicit sau enumerate ca fiind cu risc ridicat sunt în mare parte lăsate nereglementate. În această categorie sunt incluse: chatboti, jocuri cu componenta AI, filtre spam, sisteme de management al inventarului, sisteme de segmentare a pieței şi a clienților, majoritatea sistemelor AI.
AI Act a făcut încă un pas important pentru a deveni prima lege de reglementare a domeniului. Proiectul a fost aprobat de două comisii parlamentare cu sprijin puternic. Cea mai recentă versiune a proiectului de lege include un set de reguli mai strict și interzice sistemele cu risc inacceptabil, precum: utilizarea programelor de recunoaștere facială în public, a sistemelor AI predictive folosite de poliție și recunoașterea emoțiilor.
În plus, noile modificări includ cerințe specifice pentru modelele de bază și măsuri de transparență pentru aplicațiile AI generative. Deputații au convenit asupra unui amendament care impune furnizorilor de modele de bază obligații de a aplica controale de siguranță, măsuri de guvernare a datelor și atenuarea riscurilor înainte de a-și pune modelele pe piață. De asemenea, trebuie să ia în considerare riscurile potențiale pentru sănătate, siguranță, drepturile fundamentale, mediu, democrație și statul de drept.
Creatorii de modele de bază trebuie, de asemenea, să reducă consumul de energie și utilizarea resurselor și să își înregistreze sistemele într-o bază de date a UE. De asemenea, se urmărește stabilirea unei definiții uniforme pentru AI, neutră din punct de vedere tehnologic, care să se poată aplica sistemelor AI din prezent și viitor.

Reglementările prevăzute de AI Act
Sistemele de inteligență artificială cu un nivel inacceptabil de risc pentru siguranța oamenilor vor fi strict interzise, inclusiv sistemele care utilizează tehnici subliminale sau manipulative intenționate, exploatează vulnerabilitățile oamenilor sau calculează scorul social pentru clasificarea persoanelor în funcție de comportamentul lor social, statutul socio-economic și caracteristicile personale.
Legea include interzicerea utilizării intruzive și discriminatorii ale sistemelor AI, cum ar fi:
● Sisteme de identificare biometrică la distanță „în timp real” în spații accesibile publicului;
● Sisteme de identificare biometrică la distanță „post-factum”, cu singura excepție a organelor de drept pentru urmărirea penală a infracțiunilor grave și numai după autorizarea judiciară;
● Sisteme de clasificare biometrică care utilizează caracteristici sensibile (de exemplu: gen, rasă, etnie, statut de cetățenie, religie, orientare politică);
● Sisteme de supraveghere predictivă (bazate pe profilare, locație sau comportament criminal din trecut);
● Sisteme de recunoaștere a emoțiilor la forțele de ordine, în managementul frontierelor, la locul de muncă și instituțiile de învățământ;
● Extragerea fără discernământ a datelor biometrice de pe rețelele de socializare sau din imagini CCTV pentru a crea baze de date de recunoaștere facială (încălcarea drepturilor omului și a dreptului la confidențialitate).
În plus, versiunea noua a legii extinde zona aplicațiilor AI cu risc ridicat pentru a include daune aduse sănătății oamenilor, siguranței, drepturilor fundamentale ale omului sau mediului, precum și sisteme de inteligență artificială care pot influența alegătorii în campaniile electorale și în sistemele de recomandare utilizate de platformele de social media (cu peste 45 de milioane de utilizatori conform Digital Services Act).
De asemenea, sunt incluse măsuri de transparență care vizează AI de uz general, care includ obligații pentru furnizorii de modele de fundație („foundation models”), precum modelele de limbaj mari și AI generativă (ca ChatGPT), care ar trebui să garanteze o protecție solidă a drepturilor fundamentale, a sănătății și siguranței umane și a mediului, a democrației și a statului de drept.

Înainte de a-și face modelele publice, dezvoltatorii acestor modele vor fi obligați să facă verificări de siguranță, să aplice măsuri de guvernare a datelor, cum ar fi examinarea surselor de date și eliminarea posibilelor discriminări/părtiniri, și pentru a evalua și a atenua riscurile pentru drepturile fundamentale, sănătatea și siguranța umană și mediul înconjurător, democrația și statul de drept. De asemenea, li se va cere să se asigure că datele de instruire utilizate pentru a antrena sistemele nu încalcă legea drepturilor de autor.
După vot, co-raportorul Dragoș Tudorache (vice-președinte Renew Europe Group), a declarat: „Având în vedere impactul profund transformator pe care AI îl va avea asupra societăților și economiilor noastre, Actul AI este foarte probabil cel mai importantă act legislativ din acest mandat. Este primul act legislativ de acest fel la nivel mondial, ceea ce înseamnă că UE poate deschide calea în a face AI centrată pe om, demnă de încredere și sigură. Am lucrat pentru a sprijini inovarea AI în Europa și pentru a oferi start-up-urilor, IMM-urilor și industriei spațiu pentru a crește și a inova, protejând în același timp drepturile fundamentale, consolidând supravegherea democratică și asigurând un sistem matur de guvernare și aplicare a AI.”

Ce se va întâmpla în continuare?
● Înainte de a începe negocierile cu Consiliul European privind forma finală a legii, acest proiect de mandat de negociere trebuie să fie avizat de întregul Parlament în sesiunea 12-15 iunie. Aprobarea finală este așteptată înainte de primăvara anului 2024.
● Organizațiile ar avea o perioadă de grație de ~2 ani pentru a se conforma.
● Legea Inteligenței Artificiale propune sancțiuni severe pentru nerespectare. Pentru companii, amenzile pot ajunge până la 30 de milioane de euro sau 6% din venitul global. Pentru giganții tehnologici precum Meta sau Google, acest lucru s-ar putea traduce în miliarde de dolari.

Interesul față de AI crește în România
SearchAds, agenție de marketing online, a monitorizat evoluția interesului pentru Inteligența Artificială în România și a identificat o creștere exponențială a explorării și utilizării acestui domeniu. Cuvinte cheie precum „chat GPT" sau „Open AI" au ajuns la un volum de cca. 1,5 milioane de căutări lunare. Termenul cel mai căutat este „chat GPT”, cu aproximativ 1,3 milioane de căutări în luna martie. Un alt instrument de Inteligență Artificială căutat de utilizatorii români este Midjourney, o soluție care generează imagini pe baza datelor introduse de utilizator - cu aproximativ 33.000 de căutări pe luna.
În acest context, autoritățile propun inițiative noi. Sebastian Burduja, ministrul Cercetării, Inovării și Digitalizării, a semnat Ordinul privind înființarea, organizarea și funcționarea Comitetului Român pentru Inteligență Artificială, ca urmare a Memorandumului privind înființarea acestui Comitet aprobat în ședința Guvernului din noiembrie 2022. Comitetul pentru AI face parte din setul de propuneri pentru reorganizarea ministerului, cu o extindere a atribuțiilor, necesară în contextul eforturilor „de a accelera digitalizarea serviciilor publice, creşterea investiţiilor în cercetare şi dezvoltare şi promovarea tehnologiilor viitorului”.
Comitetul are misiunea de a sprijini MCID în exercitarea atribuțiilor sale de autoritate de stat în domeniul cercetării-dezvoltării, inovării și digitalizării, prin propuneri privind reglementarea, coordonarea, monitorizarea şi evaluarea activităților privind inteligența artificială, precum și dezvoltarea acesteia în România. Principalul obiectiv al Comitetului este crearea unui ecosistem de inteligență artificială bazat pe excelență, încredere și respectarea principiilor etice, care să susțină cercetarea-dezvoltarea-inovarea și educația în acest domeniu, să crească numărul de specialiști locali, astfel încât să stimuleze adoptarea pe scară largă a inteligenței artificiale în România și să genereze valoare adăugată în plan social și economic.
Sebastian Burduja, ministrul Cercetării, Inovării și Digitalizării, a declarat: „Inteligența Artificială este foarte importantă pentru că schimbă viitorul omenirii. Avem un mod de lucru în ceea ce privește strategia în domeniul inteligenței artificiale și cadrul strategic. Ne propunem ca în câteva luni strategia să fie completă. Comitetul acesta reunește marile minți ale României din țară și din diaspora, de la matematicieni, filosofi la oameni de știință, care vor seta limitele acestui sector, inclusiv cele etice, și va stabili cât de departe vom putea merge cu inteligența artificială”.