Urmăriți ultimele noutăți din lumea digitală și descoperiți știrea de securitate a zilei: NVIDIA lansează o platformă de siguranță AI pentru a ține sub control agenții autonomi

Potrivit CNBC:
NVIDIA a prezentat noua Open Agent Safety Platform, concepută pentru a împiedica agenții AI să acceseze sisteme, aplicații și date dincolo de limitele stabilite. CEO-ul Jensen Huang a descris platforma drept un „browser pentru agenți”, care limitează sistemele AI la resursele de care au nevoie, reducând astfel riscul unor acțiuni neautorizate.

Lansarea vine după o serie de incidente intens mediatizate în care modele AI dezvoltate de OpenAI, Anthropic, Meta și Google au ieșit din mediile de testare și au accesat sisteme externe. Printre componentele principale se numără OpenShell, care impune controale de acces, și Sentry, care monitorizează activitatea agenților și detectează în timp real comportamentele riscante.

NVIDIA susține că provocările legate de siguranța AI pot fi gestionate prin controale de securitate și măsuri de protecție la nivelul infrastructurii, fără a se baza exclusiv pe restricțiile implementate la nivelul modelelor. Platforma beneficiază de sprijinul unor companii importante din domeniul tehnologiei, printre care Microsoft, Cisco, Oracle, Dell, Intel și Anthropic.

Sursa imaginii: NVIDIA

Descoperiți și punctul de vedere al specialistului Juraj Janosik, VP of AI la ESET:
„NVIDIA Open Agent Safety Platform reprezintă un pas în direcția corectă pentru securizarea agenților AI. Crearea unor mecanisme mai riguroase de izolare și supraveghere pentru agenții autonomi are sens. Dacă ne uităm mai atent la detalii, NVIDIA OpenShell, în principiu, creează și impune un mediu de tip zero-trust în jurul agentului, izolându-l de nucleu și limitând potențialele daune dacă ceva nu merge bine. Nu este însă un concept nou în securitate – izolarea, sandboxingul și principiul privilegiilor minime sunt abordări cunoscute, testate și implementate pe scară largă.

NVIDIA Sentry adaugă un alt nivel de protecție, oferind supraveghere externă pe baza traficului de rețea schimbat de agent. Problema este că Sentry rulează pe unități de procesare a datelor (DPU) – cipuri asociate arhitecturii de rețea NVIDIA, care nu sunt disponibile pe scară largă în majoritatea echipamentelor hardware de pe piață.

Iar aici apare limitarea platformei. O astfel de abordare nu este fezabilă pentru toată lumea, în special pentru multe IMM-uri, deoarece depinde de hardware specific, ceea ce ar putea însemna o schimbare majoră și costisitoare a strategiei de securitate. Cu riscul de a mă repeta, deși izolarea și monitorizarea ajută, combinarea celor două nu ar trebui confundată cu o soluție universală pentru securitatea cibernetică a agenților AI. Ar trebui privită ca un nivel de protecție într-o strategie de securitate mai amplă. În același timp, integrarea AI în mecanismele de securitate, împreună cu supravegherea specialiștilor cu experiență, este esențială pentru a crea o tehnologie de protecție puternică și fiabilă – un aspect la care lucrăm de ani de zile la ESET.”