România are termen, până la data de 2 august 2026, pentru a elabora cadrul național de aplicare a prevederilor incluse în Regulamentul (UE) 2024/1689 de stabilire a unor norme armonizate privind inteligența artificială (IA).
Deși mai sunt doar câteva luni până la momentul de la care regulile comunitare devin pe deplin aplicabile în fiecare stat membru, țara noastră și-a adus aminte abia în martie 2026 că trebuie să facă ceva, astfel că a fost emis de către Guvern un memorandum prin care au fost desemnate autoritățile naționale competente pentru exercitarea atribuțiilor de reglementare și control în domeniul IA. Există însă și alți pași importanți care trebuie făcuți, fiind nevoie de normele necesare implementării acestui regulament.
Până când statul se va trezi și va reuși să elaboreze întregul cadru legal de aplicare a Regulamentului (UE) 2024/1689, companiile trebuie să aibă în vedere că încălcarea regulilor comunitare în domeniul IA le poate costa foarte mult, amenzile putând ajunge și până la 6% din cifra de afaceri realizată la nivel global.
Inteligența artificială a devenit o constantă a zilelor noastre, numărul firmelor private și autorităților publice care utilizează instrumente bazate pe IA fiind în continuă creștere.
În anul 2024, a fost elaborat, la nivelul Uniunii Europene, Regulamentul 1689 de stabilire a unor norme armonizate privind inteligența artificială. Documentul reprezintă prima reglementare legală din domeniul IA și are aplicabilitate la nivel comunitar.
Statele membre au avut la dispoziție doi ani pentru implementarea la nivel național a acestor reguli, data de 2 august 2026 fiind termenul de la care Regulamentul va fi integral aplicabil.
În cazul țării noastre, situația este destul de încurcată, având în vedere că România nu a reușit ca, până acum, să facă pași importanți în vederea elaborării normelor de aplicare a acestui regulament.
„Prima și singura măsură pe care România a luat-o până în prezent a fost aceea de a desemna autoritățile naționale competente pentru exercitarea atribuțiilor de reglementare și control în domeniul IA, respectiv aceea de a stabili punctul național unic de contact în vederea aplicării prevederilor Regulamentului (UE) 2024/1689. Măsura a fost luată de-abia în data de 12 martie 2026, când Guvernul a adoptat un memorandum pe această temă. Acesta este, însă, doar primul pas și ne putem aștepta ca momentul la care autoritățile desemnate să aibă capacitatea efectivă de a-și exercita atribuțiile de reglementare și control să fie unul destul de îndepărtat în timp, lipsind la acest moment normele necesare implementării.”, atrage atenția Diana Dobrin, avocat partener în cadrul Legal Dots.
Prima definiție legală a noțiunii de „sistem de inteligență artificială”
Expertul menționează faptul că, fiind vorba despre o tehnologie inovatoare, până la apariția acestui Regulament nu au existat reguli care să fie aplicabile dezvoltării (producerii), distribuirii sau utilizării de sisteme de inteligență artificială, în ciuda faptului că astfel de sisteme erau utilizate de mai mulți ani, unele dintre ele fiind chiar destinate utilizării libere de către publicul larg.
„Scopul declarat al Regulamentului este acela de a asigura un cadru juridic uniform în domeniul IA, de a oferi protecție sănătății, siguranței și drepturilor fundamentale ale cetățenilor, de a proteja democrația și statul de drept, de a preveni eventuale efecte dăunătoare ale IA în cadrul Uniunii și de a sprijini inovarea.
În realizarea acestui scop, Regulamentul oferă prima definiție legală a noțiunii de „sistem de inteligență artificială” și impune reguli stricte cu privire la dezvoltarea, punerea în funcțiune și utilizarea anumitor sisteme de IA, interzicerea anumitor practici potențial periculoase, impunerea de cerințe de transparență și instituirea unor mecanisme de control.”, adaugă interlocutoarea Ordinea Zilei.
România nu a respectat niciun termen
În Regulamentul UE era stabilit faptul că România trebuia să ia măsuri parțiale de punere în aplicare până la data de 2 august 2025, în special în ceea ce privește stabilirea structurii de guvernanță la nivel național, cu scopul de a urmări respectarea obligațiilor de către furnizorii de modele de IA de uz general și aplicarea sancțiunilor.
„Organismele de reglementare și control ar fi trebuit să fie funcționale încă de la acea dată, însă observăm că de-abia acum se iau primele măsuri pentru numirea acestor organisme.”, amintește avocatul partener Legal Dots.
Mai mult, începând cu data de 2 august 2026, Regulamentul va fi integral aplicabil. „Nu putem decât să sperăm că vom avea cadrul necesar pentru aplicarea în concret a prevederilor Regulamentului.”, subliniază Diana Dobrin.
Regulamentul este unul extrem de important, având în vedere că îi vizează pe actorii din sectorul privat (firme și antreprenori), cât și pe cei din sectorul public (instituții ale statului) care dezvoltă, pun în funcțiune sau utilizează în activitatea lor sisteme bazate pe inteligență artificială, în special sisteme considerate cu risc conform criteriilor stabilite de Regulament.
De asemenea, în egală măsură și persoanele fizice pot beneficia de pe urma prevederilor Regulamentului, având dreptul de a fi informate în mod transparent despre posibilele riscuri pe care le implică sistemul IA pe care îl utilizează.
În plus, le oferă posibilitatea de a formula plângeri cu privire la sisteme IA sau mecanisme care au potențial periculos și care le pot încălca drepturile. „Spre exemplu, persoanele fizice pot semnala faptul că întreaga interacțiune cu un furnizor de servicii este intermediată de un sistem IA fără ca acest lucru să le fie adus la cunoștință în prealabil, pot semnala conținutul generat artificial (Deep Fake) care nu poartă un marcaj corespunzător de material realizat cu IA sau pot semnala breșe de securitate a datelor cu caracter personal generate de utilizarea unui sistem IA.”, explică expertul Legal Dots.
Industriile cu cel mai mare risc. Sancțiunile pot ajunge până la 6% din cifra de afaceri
În opinia avocatului, intrarea în vigoare a Regulamentului privind inteligența artificială are cel mai mare impact asupra industriei IT care dezvoltă sisteme de IA considerate de risc ridicat (în special sisteme destinate interacțiunii directe cu consumatorii), asupra industriei medicale (în special cea a dispozitivelor medicale care folosesc o formă de IA), asupra prestărilor de servicii din domeniul de resurse umane și recrutare, mai ales cele care utilizează sisteme IA pentru filtrarea sau selecționarea candidaților, dar și asupra domeniului financiar-bancar, în privința căruia Regulamentul stabilește un set de reguli speciale.
„De asemenea, aș dori să atrag atenția și firmelor care se folosesc de sisteme de IA pentru a interacționa cu consumatorii și pentru a identifica sau aplica strategii de marketing special gândite în funcție de anumite trăsături sau vulnerabilități ale publicului țintă. Acești actori trebuie să se asigure că mecanismele pe care le folosesc nu pot fi considerate manipulatoare, pentru a evita aplicarea de sancțiuni.”, completează specialistul.
Totodată, Diana Dobrin precizează faptul că stabilirea nivelului concret al sancțiunilor aplicabile trebuie să se facă prin acte normative adoptate la nivel național, acte care la acest moment lipsesc. „Cu toate acestea, Regulamentul stabilește câteva reguli de bază în ceea ce privește sancțiunile aplicabile, care vor consta în principal în amenzi calculate la cifra de afaceri a persoanelor juridice.
Spre exemplu, nerespectarea oricăreia dintre obligațiile stabilite în sarcina firmelor care utilizează sisteme de IA cu grad de risc ridicat poate fi sancționată cu amenzi de până la 6% din cifra de afaceri realizată la nivel global de compania respectivă.
Alte abateri, precum refuzul de a furniza informații autorităților cu rol de supraveghere sau control, poate fi sancționată cu amenzi de până la 2% din cifra de afaceri înregistrată la nivel global.”, avertizează interlocutoarea Ordinea Zilei.
Măsurile pe care firmele trebuie să le ia imediat
Pentru a evita orice pericol, primul pas pe care firmele trebuie să îl parcurgă este acela de a verifica gradul sau categoria de risc în care se încadrează sistemul IA pe care îl dezvoltă, distribuie sau utilizează în activitatea lor. „Criteriile sunt variate și structurate pe diferite paliere, însă ele pot fi verificate împreună cu specialiști în domeniul legislației privind IA, astfel încât încadrarea într-un anumit grad de risc să fie corect efectuată.”, susține avocatul.
Odată ce gradul de risc a fost determinat, firmele trebuie să verifice obligațiile care corespund acestui grad de risc și să implementeze măsurile prevăzute de Regulament.
„În cazul unor sisteme IA cu risc ridicat, firmele trebuie, printre altele, să implementeze proceduri de gestionare a riscurilor, să aibă documentații tehnice detaliate, să se asigure că sistemul este antrenat pe date corecte, relevante, să asigure securitatea și gestionarea corectă a datelor sensibile, să asigure supravegherea umană a proceselor, să implementeze sisteme de înregistrarea automată a evenimentelor („jurnale” sau logs), să se asigure că sistemul este unul robust și sigur, care conferă garanții de acuratețe și de securitate cibernetică permanente, precum și să asigure informarea corectă și transparentă a utilizatorilor cu privire la mecanismele de funcționare ale sistemului.
În cazul sistemelor care nu se încadrează la un grad de risc ridicat, alte obligații pot fi incidente, precum obligația de a semnala utilizatorilor că interacționează cu un sistem IA și nu cu o ființă umană, sau obligația de a marca în mod corespunzător conținutul generat.”, detaliază expertul.
Diana Dobrin apreciază că avocații reprezintă un ajutor indispensabil pentru înțelegerea și navigarea reglementării complexe oferite prin Regulamentul UE. Ei pot ajuta firmele să stabilească dacă sistemele de IA pe care le dezvoltă sau le folosesc se încadrează la un anumit grad de risc din perspectiva Regulamentului, pot explica obligațiile care le revin acestor actori și pot oferi sprijin în pregătirea și implementarea procedurilor interne de conformare cu obligațiile din Regulament.
De asemenea, avocații pot asista societățile în cadrul unor eventuale proceduri de control din partea autorităților.
În egală măsură, avocații pot oferi asistență și reprezentare persoanelor fizice care consideră că au fost prejudiciate în orice fel prin utilizarea unui sistem de IA, urmărind protejarea drepturilor fundamentale ale acestora.
„La acest moment, solicitările venite din partea mediului de afaceri vizează în principal înțelegerea obligațiilor care le revin firmelor conform Regulamentului privind inteligența artificială.
Având în vedere că ne putem aștepta ca în viitorul apropriat să existe și un cadru legislativ complet la nivel național, precum și acțiuni de control cu privire la implementarea prevederilor Regulamentului, firmele trebuie să ia măsuri rapide de conformare cu obligațiile care le revin în funcție de gradul de risc identificat.”, nuanțează interlocutoarea Ordinea Zilei.
Legal Dots reunește o echipă multidisciplinară de avocați cu peste 15 ani de experiență profesională și cu formare în marile case de avocatură.Serviciile companiei se adresează în special mediului de afaceri, pentru care oferă asistență juridică complexă, începând de la înființare și pe tot parcursul derulării activității comerciale.Principalele arii de activitate sunt dreptul societar, fuziuni și achiziții, dreptul comercial, dreptul fiscal, dreptul imobiliar, achiziții publice și proceduri administrative, litigii și soluționarea disputelor, protecția datelor și conformitate legislativă.
Autor: Ștefania Enache
Foto: Ordinea Zilei
 2024/1689 privind inteligența artificială. Av. Diana Dobrin prezintă riscurile care pot apărea de aici și măsurile pe care firmele trebuie să le ia urgent){kind=link}