Un atac cibernetic de amploare asupra unui producător important de aluminiu a generat pierderi de aproape 750.000 EUR în 2019. Compania norvegiană Hydro, victima atacului, a avut nevoie de sprijinul Serviciului Național Norvegian de Investigații și al Autorității Naționale Norvegiene de Securitate pentru a gestiona incidentul și a relua producția la nivel global. Un atac cibernetic nu trebuie însă să vizeze direct un jucător mare pentru a opri producția, ci poate afecta chiar și un singur element al lanțului de producție. De exemplu, Kojima Industries, care produce componente din plastic și electronice pentru industria auto, a suferit în 2022 un atac cibernetic care a dus la oprirea, pentru o zi, a 14 fabrici Toyota, afectând producția a aproximativ 13.000 de vehicule.
Securitatea cibernetică și vulnerabilitățile în sistemele de producție
În ultimii ani, atacurile de tip ransomware au afectat producători industriali inclusiv din România, Polonia și Cehia. Complexul Energetic Oltenia a pierdut în 2025 accesul la sistemele ERP și de management al documentelor, în timp ce alți producători din Polonia au fost obligați să revină la procese manuale. În Cehia, companii industriale precum LAGUS s.r.o. și K2 Machine s.r.o. au fost incluse, în 2026, pe listele publicate de grupări ransomware. Aceste includeri reprezintă revendicări ale atacatorilor, monitorizate de platforme de threat intelligence, dar nu confirmă, în lipsa unor comunicări ale companiilor, amploarea sau efectele incidentelor.
Toate aceste incidente au avut însă un element comun: atacatorii au vizat infrastructura digitală care susținea producția. Cum arată însă acum infrastructura digitală a acestor companii, în contextul adopției sistemelor de inteligență artificială? Un raport al Băncii Europene de Investiții din 2025 arată că 48% dintre firmele europene de producție foloseau AI și big data și că 55% dintre producătorii europeni utilizau deja robotică. Pentru completarea contextului, Agenția Uniunii Europene pentru Securitate Cibernetică arăta, în raportul său din 2025, că principalul vector de acces folosit de atacatori este deja alimentat frecvent de inteligența artificială.
Ce e special la un atac asupra unui model de inteligență artificială
Sunt două certitudini de la care pornim: există un apetit crescut de adopție a sistemelor de inteligență artificială în industrie și o creștere generală a raportărilor de incidente de securitate. În acest context, întrebarea naturală este să vedem dacă nu cumva într-o fabrică digitalizată, o vulnerabilitate este acum și un model de inteligență artificială, nu neapărat doar un server și un ERP.
Un atac asupra unui software tradițional are, de cele mai multe ori, ca efect indisponibilizarea unui sistem, furtul unor date sau blocarea accesului, ceea ce poate conduce la oprirea producției. Un atac asupra unui sistem de inteligență artificială se poate manifesta însă diferit: sistemele software și de producție pot continua să funcționeze, dar rezultatele lor pot deveni incorecte. Acest lucru ține chiar de natura inteligenței artificiale, deoarece comportamentul unui model nu depinde doar de codul software, ci și de datele pe care a fost antrenat și de cele pe care le primește în exploatare. Dacă luăm exemplul unui sistem de mentenanță predictivă dintr-o fabrică, acesta poate continua să estimeze durata de viață a unui echipament, dar rezultatele sale pot fi complet greșite.
În aceeași situație se află și sistemele de control al calității pieselor bazate pe învățare automată (machine learning) și vedere artificială (computer vision). În practică, procesul de control al calității pieselor dintr-o fabrică poate fi automatizat, piesele putând fi măsurate prin înregistrarea lor cu ajutorul unei serii de camere video bazate pe inteligență artificială. Studiile (J. Johansson, 2026) arată însă că utilizarea unui model popular de detectare a obiectelor, antrenat pe un set de date cu imagini din industria siderurgică, ar putea prezenta vulnerabilități la metode de otrăvire a etichetelor asociate imaginilor. Mai exact, un asemenea atac poate altera performanța controlului calității prin otrăvirea datelor, având drept rezultat clasificarea eronată a gradului de severitate a defectului, estimarea incorectă a dimensiunii acestuia și chiar nedetectarea defectului.
Potrivit aceluiași studiu, alterarea imaginilor în sine a avut un efect redus asupra modelului, în timp ce falsificarea a mai puțin de 12% din datele de antrenare, prin modificarea etichetelor, a fost suficientă pentru a compromite rezultatele. Practic, este mult mai eficientă modificarea clasificărilor care indică, pentru fiecare imagine, unde se află defectul, cât de mare este și cât de grav este. Acest tip de atac mai are și particularitatea că, dacă trece neobservat pentru o zi, fabrica va consuma inclusiv resurse de energie și de materie primă doar pentru a produce rebuturi, comparativ cu tradiționala blocare de acces la niște sisteme care doar i-ar suspenda producția, fără a sacrifica materie primă și energie.
Posibilitatea de a manipula comportamentul unui sistem fără a compromite neapărat disponibilitatea acestuia reprezintă un nivel suplimentar de risc pe care inteligența artificială îl poate introduce în arhitectura digitală a unei fabrici. Taxonomia NIST privind învățarea automată adversarială și analizele ENISA privind securitatea algoritmilor de machine learning identifică otrăvirea datelor și a modelelor printre atacurile specifice sistemelor predictive de AI. Aceste resurse descriu manipularea seturilor de date de antrenare sau a componentelor preantrenate, manipularea datelor de intrare pentru a determina modelul să facă o greșeală, atacurile la adresa confidențialității și exploatarea defectelor modelului.
Vulnerabilitatea în contextul legislativ european. AI Act și Cyber Resilience Act.
Să continuăm exemplul fabricii care introduce inteligență artificială pentru controlul automat al calității. Camerele inspectează fiecare piesă și modelul decide dacă există un defect, însă modelul respectiv se antrenează pe date compromise. Aici există mai multe răspunsuri pe care fabrica trebuie să le dea, pornind de la intersecția unor regulamente europene care se pot aplica la această situație specifică.
În primul rând Regulamentul (UE) 2024/1689 privind inteligența artificială (AI Act) include explicit otrăvirea datelor în categoria riscurilor de securitate cibernetică specifice inteligenței artificiale care trebuie abordate, acolo unde este relevant, în cazul sistemelor de inteligență artificială cu risc ridicat. Trebuie precizat că nu toate sistemele de inteligență artificială prezintă risc ridicat și că nu toate obligațiile aferente din AI Act se aplică în prezent, termenele fiind amânate până în decembrie 2027 și august 2028. Simplul fapt că acest sistem de control al calității este „riscant” din punct de vedere comercial nu îl transformă într-un sistem cu risc ridicat în terminologia AI Act, care delimitează destul de clar ce poate constitui și ce nu poate constitui, cel puțin din punct de vedere juridic, un sistem de inteligență artificială cu risc ridicat.
Cea mai ușoară cale de a clasifica un sistem de inteligență artificială ca fiind de risc ridicat într-o fabrică sub regulamentul AI Act va fi atunci când acel sistem va fi utilizat ca o componentă de siguranță, de exemplu, un braț robotic unde inteligența artificială are o funcție de siguranță pentru a preveni coliziunea dintre un robot și un operator. Aici obligațiile de la art. 15 alin. (5) din AI Act pentru sisteme cu risc ridicat vor deveni aplicabile, adică trebuie implementate obligatoriu „soluții tehnice pentru abordarea vulnerabilităților specifice ale inteligenței artificiale” care „includ, după caz, măsuri de prevenire, depistare, răspuns, soluționare și control” pentru tipurile de atacuri descrise mai sus.
În al doilea rând, Regulamentul (UE) 2024/2847 privind reziliența cibernetică (CRA) prevede și el cerințe de securitate pentru „produsele cu elemente digitale”, chiar și dacă produsul respectiv integrează un sistem de inteligență artificială care nu e neapărat clasificat ca sistem de risc ridicat sub AI Act. CRA prevede explicit că producătorul unui produs cu elemente digitale trebuie să „protejeze integritatea datelor stocate, transmise sau prelucrate în alt mod” împotriva oricărei manipulări și să le proiecteze astfel încât „să se limiteze suprafețele de atac”.
Principala responsabilitate în temeiul AI Act și al CRA revine furnizorului sistemului de inteligență artificială cu risc ridicat și producătorului bunului cu elemente digitale, adică entității de la care fabrica ar achiziționa camerele împreună cu software-ul de detectare. În practică, fabrica poate reantrena sistemul, iar o modificare substanțială o poate transforma din implementator în furnizor al sistemului AI și producător al bunului cu elemente digitale, transferând asupra sa responsabilitatea juridică.
Răspunderea contractuală a fabricii atacate, în contextul legislației de securitate cibernetică
Dacă fabrica ar livra piese clienților săi și ar fi ținta unui atac cibernetic care îi întârzie sau îi oprește producția, ori care îi otrăvește sistemul de control al calității și o determină să livreze produse defecte, se ridică problema răspunderii sale față de clienți.
În primul rând, nici AI Act, nici CRA nu reglementează forța majoră ca element de exonerare de răspundere. Aceasta ține de regimul răspunderii contractuale din dreptul aplicabil contractului din fiecare stat. Cele două regulamente pot influența doar aprecierea diligenței așteptate de la fabrică și, indirect, a condițiilor forței majore. Dacă clienții ar introduce o acțiune în răspundere contractuală și, de exemplu, dreptul român ar fi incident, atunci posibilitatea fabricii de a se exonera prin invocarea forței majore ar depinde de mai mulți factori:
a cumpărat fabrica produsul și sistemul AI de la un terț producător?
Sub CRA, marcajul și declarația UE de conformitate vor deveni obligatorii după data de 11.12.2027 pentru „bunurile cu elemente digitale”. Astfel, prin aplicarea unui marcaj CE, producătorul camerelor și software-ului integrat devine cel care își asumă răspunderea pentru conformitatea legală a acestora, deci inclusiv cu îndeplinirea cerințelor de securitate cerute de CRA pentru acel produs. Achiziția unui produs care poartă marcajul CE poate arăta că fabrica a acționat diligent la achiziție. Ea nu dovedește însă măsurile proprii ulterioare ale fabricii, cum ar fi configurarea, actualizările, segmentarea rețelei, guvernanța datelor de antrenare etc. Diligența în achiziție i-ar permite chemarea în garanție sau acțiunea în regres împotriva acelui producător de camere cu software integrat pentru recuperarea prejudiciului, dar nu ar exonera-o automat de răspundere față de clienții săi și nu s-ar produce efectele forței majore.
reantrenează sau modifică fabrica acel sistem AI?
Conform CRA, cine modifică substanțial un produs cu elemente digitale după introducerea pe piață este tratat ca producător pentru partea afectată sau, dacă securitatea generală este afectată, pentru întregul produs. „Modificare substanțială” înseamnă o schimbare care afectează conformitatea cu cerințele esențiale de securitate cibernetică sau modifică destinația evaluată atunci când i s-a aplicat inițial marcajul CE. Prin operarea acestei modificări substanțiale, fabrica preia obligațiile producătorului cum ar fi, de proiectare, dezvoltare și producere conform cerințelor esențiale, iar regresul împotriva producătorului vânzător al acelor camere cu software integrat nu ar avea șanse de reușită.
În dreptul român, forța majoră este „orice eveniment extern, imprevizibil, absolut invincibil și inevitabil”. Un atac cibernetic rar va îndeplini toate aceste criterii simultan, deci atacul trebuie analizat în sensul:
este un eveniment extern ?
Atacul unui terț este, în mod evident, extern. Caracterul extern se poate pierde însă atunci când vulnerabilitatea ține de sfera fabricii, de exemplu în cazul unui set de date de antrenare compromis chiar în fluxul propriu sau al unei actualizări de securitate disponibile, dar neaplicate.
este un eveniment imprevizibil ?
Imprevizibilitatea atacului este un element pe care credem că în 2026 fabrica nu îl mai poate invoca în mod rezonabil, având în vedere că atacurile cibernetice asupra producătorilor sunt deja documentate statistic, iar otrăvirea datelor și a modelelor este menționată expres chiar în AI Act ca fiind un risc inerent al modelelor de inteligență artificială.
este un eveniment absolut invincibil și inevitabil?
Și acest lucru este greu de invocat, deoarece caracterul „absolut” ar însemna că nimeni în acea situație nu ar fi fost scutit de acel atac, iar neluarea acelor măsuri rezonabile de securitate care sunt specifice acestei tehnologii poate pune fabrica în culpă. Cu alte cuvinte, orice organizație diligentă ar lua măsurile necesare rezonabile care ar fi putut preveni evenimentul. Caracterul rezonabil va fi analizat tocmai prin reperele din AI Act (obligațiile de prevenire, depistare, răspuns, soluționare și control) dacă privesc sistemele cu risc ridicat și pe furnizorul lor, și din CRA care vizează cerințele de securitate. Pentru fabrică, ele funcționează ca standard de comparație pentru diligență, nu ca obligații directe, în afara cazurilor în care fabrica devine furnizor sau producător. Dacă fabrica a implementat măsuri la nivelul stadiului tehnicii și atacul a depășit totuși acest nivel, forța majoră ar putea fi însă invocată.
Etape înainte de integrarea AI într-o fabrică
Invocarea forței majore este dificilă în cazul unui atac cibernetic asupra unei fabrici digitalizate. Previzibilitatea acestui risc și standardul de diligență conturat de AI Act și CRA restrâng apărarea la situațiile în care fabrica dovedește atât aplicarea unor măsuri efective, conforme cu stadiul tehnicii, cât și caracterul imprevizibil al evenimentului concret. În anumite condiții, clauzele contractuale pot limita răspunderea fabricii. Însă înainte de integrarea unui sistem de inteligență artificială într-o fabrică, trebuie protejate datele din care învață modelul, modelul în sine, dar și infrastructura pe care rulează. Totodată, fabrica trebuie să fie pregătită să detecteze și să corecteze rapid o eventuală compromitere.
Concret, recomandăm următoarele măsuri tehnice înainte de integrarea acestor sisteme, pentru a minimiza riscurile:
securizarea datelor de antrenare:
controlul accesului la date și la platformele de adnotare (n.n. adnotarea este etapa în care specialiștii marchează manual datele, de exemplu defectele de pe imagini, și le atribuie etichete): acces pe bază de roluri, autentificare multifactor și separarea drepturilor, astfel încât persoana care adnotează să nu poată aproba singură setul final folosit la antrenare;
trasabilitatea datelor: versionarea seturilor de date, identificarea fiecărei versiuni printr-o amprentă criptografcă (hash) și jurnalizarea fiecărei modificări (cine, când, ce);
verificarea calității etichetelor: categoriile critice și rare sunt adnotate independent de două persoane, iar diferențele sunt verificate de un expert. Înainte de fiecare reantrenare, noua versiune a setului de date este comparată automat cu cea anterioară, iar modificările mari și neexplicate (de exemplu, scăderea bruscă a numărului de exemple dintr-o categorie critică) sunt verificate înainte ca datele să fie folosite.
validarea modelului AI înainte de punerea în funcțiune:
un set de date de control, păstrat separat, nemodificat și folosit doar pentru testare. Fiecare versiune nouă a modelului trebuie să obțină rezultate corecte pe fiecare categorie în parte (de exemplu, pe fiecare tip de defect), nu doar un scor bun în ansamblu;
rularea în paralel: modelul nou funcționează o perioadă alături de cel existent, fără să ia decizii, iar diferențele dintre ele sunt analizate;
proveniența modelului: modelele preantrenate sunt descărcate doar din surse verificate, cu verificarea integrității fișierelor, în formate care nu permit executarea de cod la încărcare.
securitatea infrastructurii
segmentarea rețelei: echipamentele sistemului AI (camere, servere, stații de lucru) sunt plasate în rețeaua de producție, separată de rețeaua de birou și fără acces direct din internet.
accesul la distanță controlat: furnizorii și integratorii se conectează doar printr-un punct unic de acces (de exemplu, VPN), cu autentificare multifactor, activat doar la nevoie și jurnalizat.
protejarea modelului în producție: modelul este semnat digital după aprobare, semnătura se verifică la fiecare încărcare, iar dreptul de a modifica fișierele modelului este restricționat.
pregătirea monitorizării și a revenirii
jurnalizarea deciziilor modelului: datele de intrare și rezultatele (de exemplu, imaginea, defectul detectat și decizia de acceptare sau respingere) sunt păstrate o perioadă definită, împreună cu versiunea modelului care a luat decizia.
indicatori și alarme stabilite dinainte: se definesc câțiva indicatori simpli (de exemplu, procentul de piese respinse sau proporția defectelor critice), valorile lor obișnuite și pragurile de alarmă. O schimbare bruscă, mai ales după instalarea unui model nou, declanșează automat o verificare.
verificarea independentă prin eșantionare: o parte fixă din rezultate este verificată prin metode clasice și comparată cu cele ale modelului.
mecanismul de revenire: versiunile anterioare validate ale modelului sunt păstrate pentru o revenire rapidă. Fiecare lot de producție e asociat cu versiunea modelului care l-a verificat, astfel încât loturile suspecte să poată fi identificate și puse în carantină.
Într-o fabrică digitalizată, securitatea sistemului AI nu se oprește la alegerea furnizorului sau la momentul implementării. În cazul unui incident, diferența dintre un atac inevitabil și o vulnerabilitate gestionată necorespunzător va fi dată de măsurile pe care fabrica le poate demonstra în contextul noii legislații de securitate cibernetică.
Surse și lecturi suplimentare
Reglementări
Regulamentul (UE) 2024/2847 privind reziliența cibernetică (Cyber Resilience Act) — art. 13 și anexa I partea I, în special pct. 1 și 2 lit. (f), privind evaluarea riscurilor de securitate cibernetică și protecția integrității datelor împotriva manipulării neautorizate. Textul regulamentului.
Regulamentul (UE) 2024/1689 privind inteligența artificială (AI Act) - art. 6, art. 15 alin. (5), art. 25 și art. 26. Textul regulamentului.
Directiva (UE) 2022/2555 (NIS2) art. 21 și anexa II, referitoare la măsurile de gestionare a riscurilor de securitate cibernetică, securitatea lanțului de aprovizionare, gestionarea vulnerabilităților și sectorul producției.
Resurse tehnice
Apostol Vassilev et al., Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, NIST AI 100-2e2025, martie 2025, DOI: 10.6028/NIST.AI.100-2e2025.
ENISA, Securing Machine Learning Algorithms, 2021.
ENISA, Artificial Intelligence Cybersecurity Challenges: Threat Landscape for Artificial Intelligence, 2020.
Nineta Polemi și Isabel Praça, Multilayer Framework for Good Cybersecurity Practices for AI, ENISA, 2023.
Jaan Johansson, Leila Belmerhnia, Georgios Spathoulas și Samuel Marchal, Poisoning Object Detection Models for Surface Defect Inspection in Steel Manufacturing, IEEE CAI 2026, DOI: 10.1109/CAI68641.2026.11536357.
Yajun Chen et al., Surface Defect Detection Methods for Industrial Products: A Review,Applied Sciences, 2021, 11(16), 7657.
Incidente menționate
Hydro, Cyber-attack on Hydro, 2019 — incidentul din 19 martie 2019, impactul global și costurile raportate de companie.
Reuters, Toyota to restart Japan production after cyberattack on supplier, 1 martie 2022 — atacul asupra Kojima Industries și oprirea temporară a fabricilor Toyota din Japonia.
Complexul Energetic Oltenia, Informare privind un incident de securitate cibernetică, 27 decembrie 2025 — indisponibilizarea temporară a unor sisteme informatice în urma atacului ransomware.
Ransomware.live, Ransomware victims in Czechia, 2026 — listările LAGUS s.r.o. și K2 Machine s.r.o.; informațiile reflectă revendicări publicate de grupările ransomware.
Autori: Andrei Pavel (avocat Ventures’n’Law); George Soare (avocat Ventures’n’Law); Teodor Olteanu (consultant și specialist în securitate cibernetică CYBEROLT și Directoratul Național de Securitate Cibernetică).
