AI le oferă echipelor de securitate mai multă viteză și capacitate de scalare, însă nu și o scutire de la regulile de bază.  Echipele de securitate folosesc AI pentru a analiza volume uriașe de date de telemetrie, a identifica activitățile care necesită atenție și a eficientiza investigațiile. În același timp, infractorii cibernetici experimentează cu multe dintre aceleași tehnologii pentru a-și îmbunătăți campaniile de phishing, a automatiza fraudele și a-și extinde operațiunile. Iar asta creează multă confuzie.

Unele titluri prezintă AI drept viitorul securității cibernetice, în timp ce altele descriu AI ca pe o nouă sursă de riscuri, pe care apărătorii nu o pot controla. Realitatea se află undeva la mijloc. AI nu este nici inamicul, nici soluția pentru orice problemă de securitate. De fapt, potrivit ESET SMB Cyber Readiness Index 2026, 73% dintre IMM-uri integrează deja AI în operațiunile lor, în timp ce 70% recunosc că AI introduce noi riscuri de securitate. Folosit responsabil, AI îi poate ajuta pe profesioniștii din domeniul securității să lucreze mai eficient. Folosit iresponsabil, poate genera noi riscuri. Organizațiile care obțin cele mai mari beneficii de pe urma AI nu încearcă să înlocuiască specialiștii din securitate, ci folosesc AI pentru a-i ajuta să ia decizii mai bune într-un timp mai scurt.

Idei principale:
– AI ajută echipele de securitate să detecteze amenințările, să prioritizeze alertele, să analizeze activități complexe și să răspundă mai rapid, însă funcționează cel mai bine atunci când este combinat cu expertiza umană.
– Atacatorii folosesc AI pentru a îmbunătăți phishingul, ingineria socială, fraudele și automatizarea atacurilor, făcând amenințările cunoscute mai ușor de extins și mai convingătoare.
– AI introduce, de asemenea, noi provocări de securitate, precum utilizarea neautorizată a instrumentelor AI („shadow AI”), scurgerile de date, manipularea de tip adversarial (prompt injection, data poisoning etc.) și riscurile de guvernanță, pe care organizațiile trebuie să le gestioneze activ.
– Cu toate acestea, vulnerabilitățile cunoscute – precum phishingul, parolele slabe, sistemele neactualizate și monitorizarea deficitară – rămân cauze majore ale incidentelor de securitate.
– Viitorul securității cibernetice înseamnă expertiză umană amplificată de AI, susținută de practici solide de securitate și de o guvernanță responsabilă.

Inteligența artificială și securitatea cibernetică

Inteligența artificială în securitatea cibernetică se referă la utilizarea unor algoritmi inteligenți pentru a ajuta la detectarea amenințărilor, analizarea comportamentului, prioritizarea alertelor, sprijinirea investigațiilor și eficientizarea operațiunilor de securitate. Ceea ce nu înseamnă însă și delegarea deciziilor de securitate către mașini.

Una dintre cele mai răspândite concepții greșite este că AI va înlocui echipele de securitate cibernetică. În realitate, valoarea sa constă în sprijinirea analiștilor, astfel încât ei să se poată concentra asupra activităților care contează cel mai mult. În esență, AI ajută echipele de securitate să gestioneze volumul de date, o provocare tot mai mare. O organizație modernă generează cantități uriașe de date de securitate, iar fiecare tentativă de autentificare, activitate a unui endpoint, conexiune la rețea, eveniment din cloud și interacțiune cu o aplicație generează informații care pot fi sau nu relevante. Ascuns undeva în acest volum de date s-ar putea afla primul semn al unui atac.

Unde ajută AI și unde rămâne esențială intervenția umană

Deoarece analiștii umani nu pot verifica manual fiecare eveniment, AI îi ajută să restrângă aria de analiză. În loc să examineze fiecare eveniment în parte, specialiștii în securitate pot folosi sisteme bazate pe AI pentru a identifica activitățile neobișnuite, a corela evenimentele asociate și a aduce la suprafață incidentele care necesită atenție imediată. Rezultatul este o operațiune de securitate mai bine direcționată și mai eficientă.

Supravegherea umană rămâne însă esențială, deoarece deciziile de securitate necesită context, discernământ și asumarea responsabilității, lucruri pe care software-ul nu le poate oferi. Oamenii sunt în continuare mai bine pregătiți să înțeleagă impactul asupra activității organizației, să evalueze priorități concurente și să decidă ce măsuri trebuie luate în cele din urmă. De aceea, cele mai eficiente programe de securitate cibernetică îmbină eficiența mașinilor cu expertiza umană.

Cererea din partea companiilor pentru soluții de securitate bazate pe AI devine, de asemenea, tot mai evidentă. Atunci când IMM-urile au fost întrebate cum și-ar dori să utilizeze AI în strategiile lor de securitate cibernetică, cele mai frecvent menționate priorități au fost anticiparea amenințărilor înainte de a se produce, precum și identificarea și remedierea mai rapidă a atacurilor. 

AI pentru securitate cibernetică vs. securitatea AI

Această distincție este importantă, deoarece discuțiile despre AI și securitatea cibernetică ajung adesea să confunde două concepte distincte. Prima se referă la utilizarea AI pentru îmbunătățirea securității, în timp ce a doua vizează protejarea tehnologiilor AI în sine. Să analizăm diferența.

AI pentru securitatea cibernetică
AI pentru securitatea cibernetică se referă la utilizarea tehnologiilor AI în cadrul operațiunilor de securitate. Printre exemple se numără sistemele care:
– detectează activități suspecte;
– analizează programe malware;
– corelează evenimentele asociate;
– prioritizează alertele;
– sprijină investigațiile;
– recomandă posibile acțiuni de răspuns.
Scopul este simplu: să-i ajute pe specialiștii în securitate să identifice mai ușor amenințările și să răspundă mai eficient.

Securitatea AI
Securitatea inteligenței artificiale abordează o provocare cu totul diferită. Pe măsură ce organizațiile introduc asistenți AI, instrumente de tip ChatGPT, agenți AI, fluxuri de lucru autonome și aplicații AI personalizate, apar noi active digitale care trebuie protejate. Aceste sisteme pot procesa informații sensibile, pot accesa resurse interne sau pot efectua acțiuni în numele utilizatorilor.

Prin urmare, securitatea AI se concentrează pe protejarea:
– modelelor AI;
– instrumentelor AI;
– agenților AI;
– prompturilor;
– surselor de date;
– integrărilor;
– utilizatorilor care interacționează cu sistemele AI.

O organizație poate implementa soluții de securitate cibernetică cu AI pentru a îmbunătăți detectarea amenințărilor, utilizând în același timp soluții de securitate AI pentru a-și proteja propriul ecosistem de inteligență artificială. Înțelegerea acestei diferențe le permite organizațiilor să construiască strategii de securitate mai solide și mai sustenabile pe termen lung.

Cum este utilizat AI în securitatea cibernetică

Cele mai multe aplicații practice ale AI în domeniul securității cibernetice au un obiectiv comun: să-i ajute pe specialiști să identifice semnalele relevante în volume copleșitoare de date. Tehnologia poate arăta diferit de la o platformă la alta, însă provocarea de bază rămâne aceeași. Să explorăm câteva dintre principalele zone în care este utilizat AI.

Detectarea amenințărilor
Una dintre cele mai vechi utilizări ale AI în securitatea cibernetică este identificarea fișierelor suspecte și a comportamentelor malițioase.

Un exemplu relevant este tehnologia ESET DNA Detections. Introdusă în 2005, extrage caracteristicile esențiale ale mostrelor potențial malițioase și creează profiluri de detecție mai largi. În loc să se bazeze exclusiv pe identificarea unor potriviri exacte, tehnologia contribuie la detecția amenințărilor necunoscute anterior, care prezintă caracteristici similare cu cele ale unor tipuri de malware deja cunoscute. Procesul este îmbunătățit constant prin combinarea sistemelor automatizate cu expertiza cercetătorilor. 

Exemplul evidențiază unul dintre principalele avantaje ale învățării automate în securitatea cibernetică. Pentru specialiștii în securitate, este adesea mai important dacă un program malware manifestă un comportament asociat activităților malițioase decât dacă se potrivește exact cu un eșantion identificat anterior.

Ce este machine learning?
Machine learning permite sistemelor să identifice tipare în date și să devină mai eficiente pe măsură ce acumulează experiență.

Analiza programelor malware
AI joacă, de asemenea, un rol important atunci când analiștii întâlnesc fișiere necunoscute. ESET LiveGuard Advanced este un exemplu relevant de sandbox cloud (mediu de testare izolată) asistat de AI. Fișierele suspecte sunt analizate prin mai multe straturi independente, care includ scanare avansată, analiză bazată pe AI, execuție în sandbox, inspecția memoriei și evaluare comportamentală. În loc ca un singur model să ia decizia finală, mai multe tehnici de analiză contribuie la verdict, iar mostra transmisă este încadrată într-una dintre cele patru categorii: malițioasă, extrem de suspectă, suspectă sau curată.

Abordarea reflectă un principiu important în securitatea cibernetică: încrederea în rezultate crește atunci când sunt validate prin mai multe metode de analiză.

Înțelegerea comportamentului atacatorilor
Cele mai dificile probleme de securitate nu implică, de regulă, o singură alertă. Specialiștii trebuie adesea să înțeleagă cum se corelează zeci, sute sau chiar mii de evenimente.

Aici analiza comportamentală devine deosebit de valoroasă, deoarece AI poate identifica diverse tipare, care pot indica utilizarea abuzivă a credențialelor, mișcarea laterală în rețea, escaladarea privilegiilor, activitatea de tip ransomware sau alte forme de comportament malițios. Înțelegerea comportamentului atacatorilor reprezintă, prin urmare, o capacitate esențială pentru creșterea rezilienței organizațiilor.

Prioritizarea investigațiilor
Nu este surprinzător faptul că echipele de securitate se confruntă frecvent cu oboseala cauzată de alerte. Provocarea constă în a stabili ce este cu adevărat important și trebuie abordat cu prioritate, deoarece poate avea un impact direct asupra capacității operaționale și a continuității activității. De exemplu, ESET LiveCortex a fost conceput pentru a răspunde acestei provocări. ESET LiveCortex procesează volume mari de evenimente specifice fiecărui client, le îmbogățește cu informații contextuale, identifică relațiile relevante și ajută la separarea semnalelor importante de zgomotul de fond. Scopul său este de a-i ajuta pe specialiștii în securitate să înțeleagă unde ar trebui să-și concentreze timpul și atenția, accelerând în același timp răspunsul la incidente, într-un context în care câteva minute pot face diferența între o compromitere cu consecințe grave și apărarea cu succes a unui sistem.

Ajută analiștii să lucreze mai rapid
O prioritizare eficientă economisește timp prețios pentru analiști și reduce efortul necesar investigării alertelor de rutină. Investigarea la viteza mașinii reprezintă unul dintre noile niveluri de asistență oferite echipelor de securitate de GenAI.

ESET LiveAI îmbină modelele lingvistice de mari dimensiuni (large language models) cu date structurate despre amenințări cibernetice (threat intelligence) și tehnici RAG (retrieval-augmented generation). ESET LiveAI poate contribui la explicarea incidentelor, susținerea investigațiilor, generarea de rapoarte, oferirea de răspunsuri la întrebări tehnice și recomandarea unor posibile măsuri de remediere. Pentru a crește gradul de fiabilitate, ESET LiveAI funcționează în limite clar definite și utilizează informații-suport pentru formularea răspunsurilor, în loc să opereze ca un chatbot fără restricții.

Aspectul cel mai valoros nu constă doar în automatizare, ci în eficientizarea timpului: analiștii nu mai pierd ore întregi explicând concluziile tehnice, ci le transformă rapid în informații accesibile și ușor de pus în practică.

Aceste utilizări practice răspund unora dintre cele mai complexe provocări cu care se confruntă în prezent echipele de securitate. Potrivit cercetărilor ESET, a ține pasul cu noile amenințări cibernetice (34%) și a se adapta la tehnologiile emergente precum inteligența artificială (32%) sunt printre principalele dificultăți pentru IMM-uri. AI poate diminua aceste presiuni prin accelerarea procesului de analiză și prin sprijinirea specialiștilor în identificarea și prioritizarea a ce este critic.

Cum folosesc atacatorii AI în atacurile cibernetice

Atât atacatorii, cât și echipele de apărare experimentează utilizarea AI, urmărind în mare măsură aceleași avantaje importante: viteză, scalabilitate și eficiență. În realitate, în cele mai multe cazuri, AI nu creează forme complet noi de criminalitate cibernetică. În schimb, face atacurile deja cunoscute mai ușor de pus în practică și mai greu de diferențiat de activitățile legitime.

O dovadă clară este diferența dintre percepția asupra amenințărilor bazate pe AI și realitatea din teren. Potrivit ESET SMB Cyber Readiness Index 2026, IMM-urile au semnalat malware-ul alimentat de AI drept principala lor preocupare pentru anul următor. În practică însă, cele mai frecvente cauze ale incidentelor reale rămân campaniile de phishing, vulnerabilitățile necorectate, lipsa monitorizării securității și parolele slabe. Concluzia este clară: igiena cibernetică de bază rămâne critică, chiar și în era amenințărilor emergente bazate pe AI.

Ce fel de riscuri asociate AI se întrevăd la orizont?
Citiți predicțiile ESET despre AI pentru a afla.

Phishing
Ani la rând, specialiștii în securitate s-au bazat pe greșelile gramaticale, formulările neobișnuite și exprimările stângace ca semnale de alarmă. În prezent, GenAI poate crea în câteva secunde mesaje credibile, eliminând multe dintre aceste indicii. Același tipar se regăsește și în alte situații. În prezent, AI face campaniile de phishing mai ușor de extins și mai convingătoare, fără a schimba fundamental metodele preferate de atacatori pentru obținerea accesului inițial.

Totodată, infractorii cibernetici caută noi metode de a optimiza crearea de software malițios. Atacurile de inginerie socială pot fi adaptate mult mai precis pentru fiecare țintă în parte, iar rețelele de fraudă pot produce conținut la un volum uriaș, care acum câțiva ani ar fi necesitat un efort uman considerabil.

În plus, tehnologiile deepfake audio și video sunt folosite pentru a facilita atacurile bazate pe manipulare și impersonare. În același timp, specialiștii cercetează modul în care AI poate fi utilizat pentru identificarea vulnerabilităților, o capabilitate care poate fi deopotrivă în avantajul echipelor de apărare și al atacatorilor.

Personalizarea
O altă problemă majoră este personalizarea. Prin analiza volumelor uriașe de date publice, inteligența artificială le permite atacatorilor să repereze rapid victime vulnerabile, să atragă noi complici în rețelele de criminalitate informatică și să conceapă fraude hiper-targetate.

Modelele open-source compacte, antrenate pe date exfiltrate, pot spori în timp eficiența acestor atacuri. Totuși, specialiștii în securitate nu trebuie să ignore igiena cibernetică de bază: detectarea comportamentelor anormale, a infrastructurii infracționale, a domeniilor false, a fișierelor periculoase și a altor indicatori de compromitere este mult mai importantă decât decât abordarea fiecărei provocări prin prisma unei confruntări „AI versus AI”.

Beneficiile AI în securitatea cibernetică

Acum că am trecut în revistă avantajele de care beneficiază atacatorii, să vedem cum poate AI să sprijine echipele de apărare:
– Viteză: O mare parte din entuziasmul generat de AI vine din îmbunătățirile operaționale practice, mai degrabă decât din descoperiri revoluționare. După cum am menționat mai sus, un avantaj este viteza. AI îi poate ajuta pe analiști să proceseze mai rapid un număr mare de alerte, reducând timpul necesar pentru a determina ce incidente merită o investigație detaliată.
– Scalabilitate: Scalabilitatea este la fel de importantă. Echipele de securitate se confruntă cu un decalaj tot mai mare între avalanșa de alerte generate de infrastructurile moderne și resursele umane disponibile pentru a le analiza. AI contribuie la reducerea acestui decalaj.
– Context: Un alt avantaj îl reprezintă contextul. În loc să prezinte alerte izolate, tehnologia AI îmbogățește datele cu informații suplimentare și poate evidenția relații care, altfel, ar putea rămâne neobservate.
– Consecvență: Un alt factor crucial este consecvența: analiștii umani obosesc și nu pot menține ritmul susținut al sistemelor automate. Tehnologia AI are capacitatea de a analiza volume uriașe de date consecvent și la scară largă, eliminând riscul de eroare umană cauzat de surmenaj.
– Eliminarea muncii repetitive: Cel mai mare câștig constă în reducerea activităților de rutină pentru specialiștii din domeniu. Eficientizarea pașilor manuali din analizele zilnice le permite să se dedice activităților cu valoare adăugată mare: identificarea proactivă a amenințărilor, gestionarea incidentelor de securitate, analiza riscurilor și inițiativele strategice.

Companiile privesc tot mai mult această eficiență ca pe un atu strategic. În sectorul IMM, neutralizarea rapidă a atacurilor și anticiparea amenințărilor sunt considerate cele mai utile beneficii ale AI. Deși aceste avantaje sunt incontestabile, niciunul nu garantează succesul absolut și nici nu suplinește cunoștințele de specialitate. Ele au rolul de a spori impactul și valoarea expertizei umane.

Riscurile și limitele inteligenței artificiale în securitate cibernetică

Deși este esențial să evidențiem beneficiile AI, cunoașterea limitelor sale este la fel de importantă. Concluzia este simplă: AI-ul sporește viteza de reacție a echipelor de securitate, dar nu poate funcționa fără supraveghere umană, validare și limite clare.

Alerte false, amenințări ratate și degradarea AI (scăderea în timp a performanței modelelor AI)
Să analizăm mai întâi o limitare bine cunoscută: erorile de tip fals pozitiv și fals negativ. Niciun sistem AI nu oferă o precizie absolută, astfel că un anumit procent de eroare este inevitabil.

Alertele fals pozitive etichetează greșit traficul legitim ca fiind amenințare și îi aglomerează pe analiști cu investigații inutile. Pe de altă parte, rezultatele fals negative au efectul contrar: permit amenințărilor reale să treacă neobservate. Prin urmare, soluția constă în crearea unor arhitecturi de securitate capabile să gestioneze ambele scenarii, bazându-se pe verificări, control uman și straturi multiple de protecție.

Calitatea datelor de antrenare este la fel de critică. Modelele alimentate cu date incomplete, viciate sau depășite vor genera rezultate mediocre, crescând vulnerabilitatea organizației în fața atacurilor. În plus, randamentul algoritmilor scade în timp din cauza fenomenului de model drift, pe măsură ce peisajul cibernetic, tacticile atacatorilor și procesele interne evoluează. Un model cu performanțe excelente astăzi își poate pierde din eficiență mâine, dacă nu este recalibrat și testat constant împotriva celor mai recente amenințări.

Manipularea sistemelor, transparența și protecția datelor
Atacurile de tip adversarial reprezintă o altă provocare. Infractorii cibernetici analizează intens algoritmii AI pentru a le descoperi punctele slabe, încercând să păcălească sistemele de detecție și să compromită astfel eficiența întregului dispozitiv de securitate.

Transparența rămâne, de asemenea, o preocupare constantă. Organizațiile trebuie să înțeleagă cum sunt formulate concluziile importante, mai ales atunci când recomandările influențează investigațiile sau deciziile privind remedierea. Protecția insuficientă a datelor reprezintă un alt risc: informațiile sensibile pot fi expuse dacă organizațiile nu stabilesc politici clare privind utilizarea AI.

Riscurile financiare și de guvernanță
Costul de operare constituie o altă piedică în practică. Rularea agenților AI autonomi poate deveni extrem de costisitoare, deoarece realizarea fiecărei acțiuni presupune apeluri succesive către modele, accesarea unor unelte externe și rularea continuă a proceselor. În plus, atacatorii pot bloca deliberat aceste sisteme prin sarcini fără ieșire sau bucle infinite, provocând un atac de tip denial-of-wallet, care generează cheltuieli operaționale însemnate pentru companie.

Aceste riscuri nu apar doar pe hârtie. Conform studiilor ESET, 70% dintre IMM-uri admit că AI-ul aduce noi vulnerabilități de securitate, însă continuă să-l adopte masiv. În consecință, companiile au nevoie de controale clare, supraveghere și vizibilitate totală pentru a valorifica tehnologia AI fără a-și vulnerabiliza infrastructura.

Injectarea de date viciate (Data poisoning): o amenințare tot mai prezentă
În linie cu riscurile anterioare, contaminarea datelor (data poisoning) ridică semne mari de întrebare. Fenomenul are loc atunci când infractorii cibernetici alterează deliberat datele de instruire ale modelelor AI pentru a deturna deciziile și modul lor de funcționare.

Odată ce datele viciate ajung în etapa de instruire, algoritmul riscă să asimileze tipare greșite, pierzându-și din credibilitate și oferind concluzii eronate. În scenariile cele mai grave, infractorii cibernetici pot prelua controlul indirect asupra deciziilor AI-ului, determinându-l să acționeze în favoarea intereselor lor.

Tocmai de aceea, dezvoltatorii din domeniul securității cibernetice acordă o atenție sporită calității, verificării și monitorizării permanente a datelor. Performanța și siguranța AI-ului depind direct de acuratețea datelor furnizate. Acest principiu stă la baza oricărei strategii eficiente de securitate cibernetică cu AI. 

Totuși, concluzia principală depășește problema contaminării datelor. Companiile nu trebuie să privească tehnologia AI ca pe o „cutie neagră” impecabilă, întrucât orice strategie cibernetică robustă depinde de validare, transparență și verificare reciprocă. Aceste fundamente diminuează vulnerabilitățile, indiferent de soluțiile AI implementate.

Expertiza umană rămâne de neînlocuit

Cel mai potrivit este să privim AI-ul ca pe un asistent genial, dar lipsit de nuanțe. Ideea de a transfera rolul de decident către inteligența artificială este rareori o strategie câștigătoare. Așa cum am subliniat în repetate rânduri, AI poate analiza mai multe date decât orice operator uman. Este vorba, pur și simplu, de avantajul unei puteri superioare de calcul. AI-ul identifică rapid tipare în volume masive de date și aduce în prim-plan incidentele relevante. Totuși, ceea ce tehnologia nu poate substitui este înțelegerea priorităților de business, a limitărilor operaționale, a profilului de risc și a specificului fiecărei organizații.

Un manager de securitate trebuie să jongleze constant cu diverse priorități. O analiză riguroasă necesită evaluarea intenției, a contextului și a impactului potențial. Lucrurile se complică însă dacă avem în vedere că specialiștii în răspuns la incidente se lovesc frecvent de scenarii atipice. Aceste situații impun discernământ uman, iar oamenii sunt în continuare de neegalat când vine vorba de analizat și decis ce este mai bine pentru companie. Viziunea conform căreia cele mai eficiente arhitecturi de securitate folosesc AI ca sprijin pentru specialiști se regăsește în toate operațiunile moderne de securitate. De aceea, este limpede că viitorul nu aparține unei competiții între om și mașină, ci expertizei umane potențate de AI.

De ce este importantă securitatea sistemelor AI

Pe măsură ce organizațiile adoptă inteligența artificială la scară largă, se confruntă cu o nouă provocare: protejarea sistemelor AI împotriva utilizării inadecvate, a abuzurilor și a expunerii neintenționate prin:

Shadow AI
Multe organizații se confruntă deja cu ceea ce numim shadow AI. Fenomenul presupune utilizarea de către angajați a unor instrumente neautorizate, în afara proceselor de guvernanță stabilite. Practica introduce riscuri mari, deoarece instrumentele AI pot ingera date sensibile, pot învăța din datele introduse de utilizatori și pot genera rezultate greu de anticipat sau de verificat.

Pentru companii, poate duce la expunerea accidentală a informațiilor confidențiale, probleme legate de GDPR și protecția datelor, scurgeri de proprietate intelectuală, procese sau cod nesigure și la o diminuare treptată a responsabilității umane, pe măsură ce angajații ajung să se bazeze excesiv pe rezultatele generate de AI. Studiile ESET arată că 40% dintre IMM-urile de la nivel global nu au o politică prin care să restricționeze utilizarea aplicațiilor AI din afara proceselor sau platformelor aprobate. Pe măsură ce angajații integrează tot mai mult instrumentele AI în activitatea de zi cu zi, absența unei guvernanțe clare amplifică riscul de shadow AI, scurgeri de date și probleme de conformitate. 

Scurgerea datelor
Scurgerea informațiilor din prompturi (prompt leakage) reprezintă o altă preocupare. Deși termenul este folosit adesea pentru a descrie situațiile în care atacatorii păcălesc un sistem AI să dezvăluie instrucțiunile interne ale sistemului, este utilizat pe scară largă și pentru a descrie scurgerile de date prin intermediul AI, atunci când angajații introduc din greșeală date corporate sensibile în modele publice de AI, destinate consumatorilor.

Informațiile sensibile introduse în sistemele AI pot ajunge la entități care nu ar trebui să aibă niciodată acces la ele. Unul dintre cele mai cunoscute exemple din lumea reală a avut loc atunci când inginerii din divizia Semiconductor a Samsung au folosit ChatGPT pentru a-și eficientiza fluxurile de lucru. Incidentul a determinat inițial compania să interzică intern utilizarea serviciului, iar ulterior Samsung și-a dezvoltat propriul chatbot pentru a preveni astfel de situații.

Complexitate în creștere
Apariția agenților AI aduce complexitate. Aceste sisteme se bazează tot mai mult pe skill-uri care pot fi descărcate, integrări externe, depozite terțe și fluxuri de lucru autonome. Trecerea de la chatbot-uri bazate pe întrebări și răspunsuri la agenți AI autonomi transformă peisajul riscurilor: de la o problemă legată de scurgerea datelor la una privind execuția și controlul. În timp ce chatbot-urile procesează în principal text, agenții au capacitatea de a acționa: pot planifica, lua decizii, utiliza instrumente și executa acțiuni în rețelele organizației. În esență, acești agenți extind suprafața de atac.

ESET AI Skill Checker a fost dezvoltat pentru a răspunde acestui risc emergent. Tehnologia analizează skill-urile înainte de execuție, le evaluează comportamentul și examinează payload-urile și resursele externe, repetând evaluările ori de câte ori sunt modificate. Această verificare repetată este importantă, deoarece un skill care pare inofensiv astăzi ar putea avea un comportament complet diferit după un update. În cadrul cercetărilor sale continue privind securitatea AI, ESET a analizat deja aproximativ 1,1 milioane de skill-uri și a identificat mii care necesitau investigații suplimentare, inclusiv numeroase skill-uri considerate suspecte sau malițioase.

Guvernanță și supraveghere
Aceste constatări reconfirmă un aspect important: organizațiile trebuie să securizeze mediile AI în același mod în care securizează endpoint-urile, rețelele, workload-urile din cloud și identitățile. AI a devenit, în esență, un nivel al infrastructurii cu privilegii de execuție, iar asta face ca guvernanța, supravegherea și vizibilitatea să fie esențiale.

Guvernanța furnizează regulile, politicile și cadrele juridice care determină modul în care AI-ul poate fi dezvoltat, achiziționat și utilizat în cadrul organizației. Supravegherea reduce decalajul dintre datele tehnice brute și responsabilitatea umană. Garantează că, pe măsură ce sistemele AI devin mai autonome, ele rămân ancorate în limitele de securitate ale companiei. Lipsa de vizibilitate este echivalentă cu lipsa de control, iar în cazul inteligenței artificiale, acest risc este amplificat, deoarece traficul generat de AI imită comportamentul web și API obișnuit.

Necesitatea unei guvernanțe solide este tot mai clară în contextul accelerării adopției AI. Conform studiului ESET SMB Cyber Readiness Index 2026, companiile care folosesc intensiv AI au o tendință mai accentuată de a impune reguli stricte pentru a bloca aplicațiile AI neautorizate și fenomenul shadow AI.

Monitorizarea avansată a AI (AI Observability)
Ca o urmare directă a celor menționate anterior, conceptele de AI observability și arhitecturile de tip control-plane câștigă teren pentru a răspunde acestor provocări. Companiile au nevoie să înțeleagă unde este folosită tehnologia AI, ce sisteme procesează date confidențiale și dacă toate aceste procese se aliniează la normele interne.

În timp ce observabilitatea AI se concentrează îndeosebi pe identificarea și monitorizarea utilizării AI, organizațiile ar trebui să ia în considerare și capabilitățile bazate pe agenți, care pot evalua mediul de rețea în ansamblu și identifica chiar și activele mai puțin vizibile sau dificil de detectat. Pentru a răspunde acestor provocări tot mai mari, platforma ESET PROTECT oferă observabilitate AI și va fi îmbunătățită cu capabilități de identificare a activelor bazate pe AI. 

Cum să evaluați soluțiile de securitate cibernetică cu AI

Piața soluțiilor AI este aglomerată de promisiuni ambițioase. Unele sunt credibile, în timp ce altele sunt dificil de verificat. Organizațiile care evaluează tehnologii de securitate bazate pe AI ar trebui să înceapă cu o întrebare simplă: unde este utilizat, mai exact, AI? Răspunsul ar trebui să fie cât mai specific posibil.

O evaluare corectă ar trebui să includă următoarele:
– Solicitați furnizorilor să detalieze ce face modulului lor de AI, cum sunt validate rezultatele și în ce mod contribuie tehnologia la obținerea unor rezultate măsurabile.
– Aflați cum sunt gestionate halucinațiile AI, dacă răspunsurile pot fi verificate și cât de importantă rămâne supravegherea umană.
– Asigurați-vă că înțelegeți ce informații sunt colectate, unde sunt procesate și cum este protejată confidențialitatea datelor.
– Luați în considerare compatibilitatea operațională, deoarece chiar și o capabilitate AI performantă oferă o valoare limitată dacă perturbă fluxurile de lucru existente ale unui Security Operations Center (SOC) sau generează complexitate suplimentară.
– Verificați modul în care soluția controlează fluxurile de lucru autonome, gestionează skill-urile furnizate de module terțe și restricționează accesul de scriere la nivel de API pentru a preveni acțiunile neautorizate în rețea.
– Verificați modul în care furnizorii își protejează instrumentele împotriva atacurilor de tip prompt injection, directe sau indirecte, injectării de date toxice și tentativelor de exfiltrare a prompturilor de sistem.
– Verificați modelul AI aflat la baza soluției – dacă este dezvoltat integral și deținut exclusiv de furnizor sau dacă se bazează pe modele terțe ori open-weight ce pot genera riscuri legale, operaționale sau de securitate. Totodată, clarificați frecvența actualizărilor, cum sunt auditate dependențele open-source și framework-urile de orchestrare, precum și posibilitatea ca ultimele modificări să introducă noi riscuri de logică sau de conformitatee.
– Asigurați-vă că soluția păstrează istoricul complet și protejat (împotriva modificărilor neautorizate) al tuturor pompturilor și răspunsurilor generate, astfel încât analiștii de securitate să poată reconstitui cu exactitate derularea evenimentelor în cazul unei investigații după un incident cibernetic. 

În general, transparența ar trebui să primeze în fața entuziasmului, iar dovezile ar trebui să cântărească mai mult decât promisiunile. Orice furnizor care prezintă AI drept un înlocuitor complet autonom al profesioniștilor în securitate merită o analiză atentă.

Concluzie

AI transformă rapid domeniul securității cibernetice, însă nu neapărat așa cum sugerează de titlurile din presă. În timp ce ajută echipele de apărare să detecteze amenințările, să prioritizeze investigațiile și să răspundă mai rapid, atacatorii folosesc aceeași tehnologie pentru a extinde campaniile de phishing, inginerie socială și fraudă.

Cele mai de succes strategii de securitate țin cont de ambele realități: valorifică avantajele AI și, în același timp, gestionează riscurile aferente prin guvernanță, vizibilitate și supraveghere umană. În definitiv, AI nu înlocuiește profesioniștii în securitate cibernetică. Este un sprijin care ajută echipele cu experiență să ia decizii mai rapide și mai bine fundamentate, menținând totodată măsurile solide de securitate de bază care continuă să prevină majoritatea atacurilor.

Întrebări frecvente: AI în securitatea cibernetică

Ce este AI în securitatea cibernetică?
AI în securitatea cibernetică se referă la utilizarea învățării automate și a tehnologiilor conexe pentru a ajuta echipele de securitate să detecteze amenințările, să analizeze comportamentele, să prioritizeze alertele și să eficientizeze investigațiile.

Câteva exemple de utilizare a AI în securitatea cibernetică
Printre cele mai comune exemple se numără detectarea amenințărilor asistată de AI, analiza programelor malware, prioritizarea alertelor, analiza comportamentală și asistența în cadrul investigațiilor. În portofoliul ESET, exemplele includ ESET DNA Detections, ESET LiveGuard Advanced, ESET LiveCortex și ESET LiveAI.

Cum folosesc atacatorii AI?
Atacatorii folosesc AI pentru a face campaniile de phishing, inginerie socială, fraudă și escrocherii mai convingătoare și mai ușor de extins. În multe cazuri, AI nu creează atacuri complet noi, ci le face pe cele deja cunoscute mai rapide și mai greu de identificat.

Care sunt beneficiile AI în securitatea cibernetică?
AI poate ajuta echipele de securitate să proceseze volume mari de date, să reducă activitățile repetitive, să prioritizeze investigațiile, să ofere context suplimentar pentru alerte și să le permită analiștilor să acorde mai mult timp deciziilor de securitate cu valoare adăugată.

Care sunt riscurile AI în securitatea cibernetică?
Printre riscuri se numără răspunsurile inexacte, datele de antrenare de slabă calitate, modificarea în timp a comportamentului modelelor (model drift), manipularea adversarială, transparența limitată, injectarea de date toxice, expunerea datelor sensibile și încrederea excesivă în procesele automate, fără un control uman adecvat. 

Poate AI să înlocuiască profesioniștii în securitate cibernetică?
Nu. AI îi poate ajuta pe specialiștii în securitate să lucreze mai rapid și mai eficient, însă securitatea cibernetică depinde în continuare de judecata umană, contextul de business, asumarea responsabilității și capacitatea de a lua decizii.

Care este diferența dintre securitate cibernetică cu AI și securitatea AI-ului?
Prin AI pentru securitate cibernetică se înțelege, de regulă, utilizarea inteligenței artificiale pentru îmbunătățirea detectării amenințărilor și a operațiunilor de securitate. Securitatea AI se referă la protejarea sistemelor AI în sine, inclusiv a modelelor, prompturilor, agenților, integrărilor, datelor și interacțiunilor cu utilizatorii.