Noi norme pentru inteligenţa artificială

Comisia europeană a propus pe 21 aprilie noi norme și măsuri menite să transforme Europa în polul mondial al unei inteligenței artificiale (IA) de încredere. Îmbinarea primului cadru juridic privind IA cu un nou plan coordonat cu statele membre va garanta siguranța și drepturile fundamentale ale cetățenilor și ale întreprinderilor, con­solidând totodată adoptarea IA, precum și investițiile și inovarea în domeniul IA în întreaga UE.

Această abordare va fi completată de noile reglementări privind echipamentele tehnice, care, prin adaptarea normelor de siguranţă, urmăresc să sporească încrederea utilizatorilor în noua generaţie versatilă de produse.

Datorită noului Regulament privind IA, europenii vor putea avea încre­dere în oportunităţile pe care le oferă IA. Normele proporţionale și flexibile vor aborda riscurile specifice pe care le prezintă sistemele de IA și vor stabili cele mai înalte standarde pe plan mondial. Planul coordonat prezintă schimbările de politică și investiţiile necesare la nivelul statelor membre pentru a consolida poziţia de lider a Europei în dezvoltarea unei IA centrate pe factorul uman, durabile, sigure, favorabile incluziunii și de încredere.

Abordarea europeană privind o IA de încredere

Noile norme vor fi aplicate direct în același mod în toate statele membre, pe baza unei definiţii a IA adaptate exigenţelor viitorului, și urmează o abor­dare bazată pe riscuri:

Risc inacceptabil: Vor fi interzise sistemele de IA considerate o ameninţare clară la adresa siguranţei, a mijloacelor de subzistenţă și a drep­turilor persoanelor. Printre acestea se numără sis­temele sau aplicaţiile de IA care manipulează com­portamentul uman pentru a împiedica utilizatorii să își exercite liberul arbitru (de exemplu, jucării care utilizează asistenţa vocală încurajând un compor­tament periculos din partea minorilor) și sistemele care permit guvernelor să efectueze o evaluare a comportamentului social („social scoring”).

Risc ridicat: Sunt considerate ca prezentând un grad ridicat de risc sistemele în care tehnologia IA este utilizată în:

• infrastructurile critice (de exemplu, transportu­rile), care ar putea pune în pericol viaţa și sănătatea cetăţenilor;
• formarea educațională sau profesională, care poate determina accesul la educaţie și traiectoria profesională a unei persoane (de exemplu, sistemul de notare utilizat în cadrul examenelor);
• componentele de siguranță ale produselor (de exemplu, o aplicaţie a IA utilizată în chirurgia robotică);
• ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente (de exemplu, software de selecţie a CV-urilor pentru procedurile de recrutare);
• serviciile publice și private esențiale (de exemplu, evaluarea bonităţii care îi împiedică pe cetăţeni să aibă posibilitatea de a obţine un împru­mut);
• activitatea de asigurare a respectării legii care poate aduce atingere drepturilor fundamentale ale cetăţenilor (de exemplu, evaluarea fiabilităţii probelor);
• gestionarea migrației, a azilului și a controlu­lui la frontiere (de exemplu, verificarea autenticităţii documentelor de călătorie);
• administrarea justiției și procesele demo­cratice (de exemplu, aplicarea legii în cazul unui set concret de date factuale).

Înainte de a putea fi introduse pe piaţă, sistemele de IA care prezintă un grad ridicat de risc vor face obiectul unor obligații stricte, astfel încât să se asigure următoarele:

• sisteme adecvate de evaluare și reducere a riscurilor;
• calitatea ridicată a seturilor de date care alimentează sistemul, pentru a se reduce la minimum riscurile și rezultatele discriminatorii;
• înregistrarea activității pentru a asigura trasabilitatea rezultatelor;
• documentația detaliată care să furnizeze toate informaţiile necesare privind sistemul și scopul acestuia, pentru ca autorităţile să poată evalua conformitatea sistemului în cauză;
• informații clare și adecvate pentru utilizatori;
• măsuri care să garanteze o supraveghere umană corespunzătoare, în vederea reducerii la minimum a riscului;
• un nivel ridicat de robustețe, securitate și precizie.

În special, se consideră că toate sistemele de identificare biometrică la distanță prezintă un grad ridicat de risc și fac obiectul unor cerinţe stricte. În principiu, este interzisă utilizarea lor în timp real în spaţii accesibile publicului în scopuri de asigurare a respectării legii. Sunt prevăzute câteva excepţii limitate, strict definite și reglementate (cum ar fi utilizarea în cazurile în care este strict necesar pentru a căuta un copil dispărut, pentru a preveni o ameninţare teroristă specifică și iminentă sau pen­tru a detecta, a localiza, a identifica sau a urmări în justiţie persoane care au comis ori sunt suspectate că au comis infracţiuni grave). O astfel de utilizare este condiţionată de obţinerea unei autorizaţii din partea unui organism judiciar sau a unui alt organism independent și de termene adecvate, de acoperirea geografică și de bazele de date în care se efectuează căutări.

Risc limitat, și anume sistemele de IA care fac obiectul unor obligaţii specifice în materie de transparenţă: Atunci când utilizează sisteme de IA, cum ar fi roboţii de chat, utilizatorii ar trebui să fie conștienţi de faptul că interacţionează cu un aparat, astfel încât să aibă posibilitatea de a lua o decizie în cunoștinţă de cauză: fie să folosească în continuare respectivul sistem de IA, fie să renunţe la serviciile acestuia.

Risc minim: Propunerea legislativă permite utilizarea gratuită a unor aplicaţii cum ar fi jocurile video bazate pe IA sau filtrele antispam. Marea majoritate a sistemelor de IA se încadrează în această categorie. Proiectul de regulament nu intervine aici, întrucât aceste sisteme de IA prezintă doar un grad de risc minim sau nu prezintă niciun risc pentru drepturile sau siguranţa cetăţenilor.

În ceea ce privește guvernanţa, Comisia pro­pune ca autorităţile naţionale competente de supraveghere a pieţei să asigure respectarea noilor norme. Instituirea Comitetului european pentru inteligența artificială va facilita punerea în aplicare a noilor norme și va stimula elaborarea de stan­darde în domeniul IA. În plus, se propun coduri de conduită voluntare pentru sistemele de IA care nu prezintă un grad ridicat de risc, precum și spaţii de testare în materie de reglementare pentru a facilita inovarea responsabilă.

Abordarea europeană privind excelenţa în domeniul IA

Publicat pentru prima dată în 2018, cu scopul de a defini măsuri și instrumente de finanţare pentru dezvoltarea și adoptarea IA, Planul coordo­nat privind IA a permis dezvoltarea unor strategii naţionale dinamice și acordarea de finanţare din partea UE pentru parteneriatele public-privat și pentru reţelele de cercetare și inovare. Actualizarea cuprinzătoare a Planului coordonat propune măsuri comune concrete de colaborare, care să asigure că toate eforturile sunt aliniate la Strategia europeană privind IA și la Pactul verde european, ţinând seama totodată de noile provocări generate de pandemia de COVID-19. Actualizarea menţionată prezintă o viziune de accelerare a investiţiilor în domeniul IA, care poate contribui la redresare. De aseme­nea, actualizarea vizează să stimuleze punerea în aplicare a strategiilor naţionale privind IA, să elimine fragmentarea și să se abordeze provocările mondiale.

Planul coordonat actualizat va utiliza fondu­rile alocate prin intermediul programelor Europa digitală și Orizont Europa, precum și prin interme­diul Mecanismului de redresare și reziliență, care prevede un obiectiv de 20% pentru cheltuielile din domeniul digital și prin programele politicii de coeziune, în următoarele scopuri:

• crearea unor condiții propice pentru dez­voltarea și adoptarea IA prin schimbul de informaţii privind politicile, partajarea de date și investiţiile în capacităţile informatice critice;

• promovarea excelenței în domeniul IA, „din laborator pe piaţă”, prin instituirea unui parteneriat public-privat, construirea și mobilizarea capacităţilor de cercetare, dezvoltare și inovare și punerea la dispoziţia IMM-urilor și a administraţiilor publice a infrastructurilor de testare și experimen­tare, precum și a centrelor de inovare digitală;
• asigurarea faptului că IA este în serviciul cetățenilor și constituie o forţă pozitivă pentru societate, fiind în avangarda dezvoltării și a implementării unei IA de încredere, stimulând talentele și competenţele prin sprijinirea stagiilor, a reţelelor de studii doctorale și a burselor de studii postdoctorale în domeniile digitale, integrând încrederea în politicile din domeniul IA și promovând la nivel mondial viziunea europeană privind o IA durabilă și de încredere;
• consolidarea poziției de lider strategic în sectoarele și tehnologiile cu un impact puternic, inclusiv în domeniul mediului, punând accentul pe contribuţia IA în ceea privește producţia durabilă, sănătatea – prin extinderea schimbului transfrontalier de informaţii –, sectorul public, mobilitatea, afacerile interne, agricultura și robotica.

Abordarea europeană privind noile echipa­mente tehnice

Echipamentele tehnice acoperă o gamă largă de produse de consum și profesionale, de la roboţi la mașini de tuns iarba, imprimante 3D, utilaje de construcţii și linii de producţie industrială. Directiva privind echipamentele tehnice, înlocuită de noul Regulament privind echipamentele tehnice, a definit cerinţele de sănătate și siguranţă pentru echipamentele tehnice. Acest nou Regulament privind echipamentele tehnice va asigura fap­tul că noua generaţie de echipamente tehnice garantează siguranţa utilizatorilor și a consuma­torilor și încurajează inovarea. În timp ce noul Regulament privind IA va aborda riscurile în materie de siguranţă ale sistemelor de IA, Regulamentul pri­vind echipamentele tehnice va asigura integrarea în siguranţă a sistemelor de IA în toate echipamentele tehnice. Întreprinderile vor trebui să efectueze doar o singură evaluare a conformităţii.

În plus, noul Regulament privind echipamentele tehnice va răspunde nevoilor pieţei prin sporirea clarităţii juridice a dispoziţiilor actuale, prin redu­cerea sarcinii administrative și a costurilor supor­tate de întreprinderi prin autorizarea formatelor digi­tale pentru documentaţie și prin adaptarea taxelor achitate de IMM-uri pentru evaluarea conformităţii, asigurând totodată coerenţa cu cadrul legislativ al UE pentru produse.