Considerații privind Regulamentul (UE) 2024/1689
- Introducere
Inteligența artificială reprezintă una dintre cele mai dinamice și influente tehnologii contemporane, având un impact direct asupra domeniilor care reglementează economia, administrația și viețile sociale.
În acest context, Uniunea Europeană a adoptat Regulamentul (UE) 2024/1689, cunoscut și sub denumirea de AI Act, primul act normativ cuprinzător la nivel global care reglementează dezvoltarea și utilizarea sistemelor de inteligență artificială. Scopul principal al acestui regulament este de a crea un echilibru între promovarea inovației tehnologice și protecția drepturilor fundamentale ale persoanelor.
AI Act este prima lege cuprinzătoare care reglementează utilizarea inteligenței artificiale, adoptată de Uniunea Europeană pentru a se asigura că sistemele utilizate sunt sigure, transparente și respectă drepturile fundamentale ale cetățenilor.
Discută cu un avocat chiar astăzi.
Oferă-ne câteva detalii și primești răspuns rapid de la un avocat specializat.
- Natura juridică și aplicabilitatea regulamentului
AI Act are natura juridică a unui regulament european, ceea ce înseamnă că este direct aplicabil în toate statele membre, inclusiv în România, fără a fi necesară transpunerea prin legislație națională.
Regulamentul a intrat în vigoare la data de 1 august 2024, însă aplicarea sa este una etapizată, din februarie 2025 fiind interzise practicile inacceptabile, până în august 2026 urmând a intra pe deplin în vigoare regulile pentru sistemele cu risc înalt.
Scopul aplicării regulamentului în mod treptat este pentru a permite adaptarea operatorilor economici și a autorităților publice.
În România, implementarea practică a AI Act presupune desemnarea unor autorități competente și crearea unor mecanisme de supraveghere. Un rol important îl poate avea Autoritatea Națională de Supraveghere a Prelucrării Datelor cu Caracter Personal , în special în cazurile în care sistemele de inteligență artificială implică prelucrarea datelor personale, dar și alte instituții cu atribuții în domeniul digitalizării și reglementării pieței.
- Abordarea bazată pe risc
Elementul central al AI Act este reprezentat de clasificarea sistemelor de inteligență artificială în funcție de nivelul de risc pe care îl prezintă pentru drepturile și libertățile fundamentale. Această regulă permite aplicarea unor reguli diferențiate , proporționale cu impactul potențial al tehnologiei.
- Risc inacceptabil
Această categorie include sistemele considerate incompatibile cu valorile Uniunii Europene și care sunt interzise. Exemple relevante sunt sistemele care manipulează comportamentul uman prin intermediul tehnicilor subliminale sau cele care realizează ‘social scoring’, care presupune evaluarea cetățenilor pe baza comportamentului lor social, ducând la tratamente discriminatorii sau nefavorabile în contexte nespecifice sau disproporționate în raport cu gravitatea comportamentului. Aceste practici sunt complet interzise, fără posibilitate de autorizare.
- Risc ridicat
Sistemele de inteligență artificială încadrate în această categorie sunt permise, dar supuse unor cerințe stricte de conformitate. Aceste sisteme includ, de exemplu, utilizarea AI în domenii precum justiția, recrutarea personalului, educația sau sistemele medicale.
Operatorii care se ocupă de aceste sisteme trebuie să respecte obligații precum evaluarea riscurilor, asigurarea calității datelor, transparența algoritmilor, documentarea proceselor și menținerea unui control uman.
De asemenea, aceste sisteme pot fi supuse unor proceduri de certificare înainte de introducerea pe piață.
- Risc limitat
Sistemele cu risc limitat sunt acele aplicații de inteligență artificială care nu prezintă un pericol semnificativ privind drepturile fundamentale, dar care pot influența interacțiunea utilizatorilor.
În această categorie intră, în mod evident, chatbot-urile, asistenții virtuali și sistemele de generare de conținut. Pentru aceste sisteme, AI Act impune în principal obligații de transparență, în sensul că utilizatorul trebuie informat în mod clar că interacționează cu un sistem de inteligență artificială și nu cu o persoană reală.
Regimul juridic este unul relativ flexibil, tocmai pentru a nu împiedica dezvoltarea tehnologică, dar suficient pentru a asigura o minimă protecție a utilizatorilor.
- Risc minim
Sistemele de inteligență artificială cu risc minim reprezintă majoritatea aplicațiilor utilizate în prezent. Acestea includ sisteme de recomandare, filtre foto, aplicații de divertisment sau alte instrumente digitale uzuale.
Privind această categorie, AI Act nu impune obligații specifice, întrucât impactul asupra drepturilor fundamentale este considerat a fi nesemnificativ. Totuși, aceste sisteme trebuie să respecte legislația generală aplicabilă, inclusiv regulile privind protecția datelor și concurența.
- Aplicarea AI Act în România
În România, Guvernul a adoptat un memorandum la data de 12 martie 2026 având în prim plan desemnarea autorităților naționale competente și stabilirea punctului național unic de contact pentru aplicarea AI Act.
Prin urmare, Autoritatea Națională pentru Administrare și Reglementare în Comunicații (ANCOM) a fost desemnată drept autoritate de supraveghere a pieței și punct unic de contact.
Aplicarea AI Act este directă, având în vedere natura sa de regulament european. Totuși, implementarea sa practică presupune o serie de ajustări instituționale și operaționale.
Companiile și instituțiile publice care utilizează sisteme de inteligență artificială au obligația de a evalua nivelul de risc al acestora și de a implementa măsurile corespunzătoare prevăzute de regulament. Privind sistemele cu risc ridicat, aceste obligații sunt extinse și includ documentație tehnică și mecanisme de control uman.
Autoritățile competente desemnate vor avea rolul de supraveghere și control, precum și de aplicare a sancțiunilor în cazul încălcării prevederilor regulamentului. În acest sens, cooperarea între autoritățile române și instituțiile europene va fi esențială pentru asigurarea unei aplicări unitare a normelor.
- Regimul sancționator
AI Act introduce un sistem sancționator sever, menit să asigure respectarea efectivă a obligațiilor impuse. În funcție de gravitatea încălcării, amenzile pot ajunge până la procente semnificative din cifra de afaceri globală a operatorilor economici.
Pentru folosirea unor practici interzise, amenzile pot ajunge până la 35 de milioane de euro sau 7% din cifra de afaceri anuală globală.
În legături cu alte încălcări, plafonul amenzilor poate ajunge până la 15 milioane de euro sau 3%, iar furnizarea de informații incorecte sau înșelătoare poate a fi sancționată separat, cu până la 7,5 milioane de euro sau 1%.
Acest regim reflectă importanța protecției drepturilor fundamentale în contextul utilizării inteligenței artificiale și rolul preventiv al regulamentului privind evitarea abuzurilor tehnologice.
- Concluzie
AI Act reprezintă un moment de referință în evoluția dreptului digital european, introducând un cadru juridic unitar, coerent și modern pentru reglementarea inteligenței artificiale.
Prin intermediul structurii sale complexe, AI Act reușește să creeze un echilibru între două obiective. Pe de o parte, protecția efectivă a drepturilor fundamentale ale persoanelor, inclusiv demnitatea umană, nediscriminarea, protecția vieții private și accesul echitabil la servicii, iar pe de altă parte, menținerea unui cadru favorabil inovației tehnologice și dezvoltării economice în domeniul digital.
Pentru practicienii domeniului juridic, AI Act nu reprezintă doar un text normativ, ci un nou domeniu de practică, aflat la intersecția dintre dreptul Uniunii Europene, protecția datelor, dreptul consumatorului și reglementarea pieței digitale.
În acest sens, Regulamentul (UE) 2024/1689 deschide o nouă etapă în evoluția profesiei juridice, în care înțelegerea tehnologiei devine cel puțin la fel de importantă ca interpretarea normei juridice, având în vedere evoluția cotidiană a sistemelor de inteligență artificială.