Urmăriți ultimele noutăți din lumea digitală și descoperiți știrea de securitate a zilei: Sisteme ale guvernului australian, accesate de un agent AI

Potrivit CNN:
Prim-ministrul Australiei a dezvăluit că un agent OpenAI a obținut acces neautorizat la un portal guvernamental cu statistici Medicare, în timpul unei evaluări interne a sistemului AI din luna iunie. Conform informațiilor disponibile, AI-ul a accesat atât fișiere publice, cât și fișiere care nu erau publice, inclusiv date statistice legate de sănătate și nume de fișiere interne. Nu există indicii că ar fi fost expuse date cu caracter personal.

OpenAI a declarat că incidentul a fost cauzat de un comportament neintenționat al modelului în timpul testării și a fost identificat în cadrul unei analize mai ample a incidentelor de securitate ce implică agenți AI.

Oficialii australieni au criticat atât accesul neautorizat, cât și întârzierea notificării, OpenAI informând guvernul câteva luni mai târziu, printr-o adresă de email generică de raportare a incidentelor.

Sursa imaginii: AP

Descoperiți și punctul de vedere al specialistului Jake Moore, Global Cybersecurity Advisor în cadrul ESET:
„Vedem în continuare agenți AI puternici care acționează fără prea multe restricții pentru a îndeplini sarcinile primite. Pot identifica vulnerabilități și, dacă găsesc una pe care o pot exploata pentru a-și atinge scopul, este posibil să procedeze astfel. Agenții AI iau decizii foarte rapid, iar dacă nu au primit instrucțiuni explicite pentru a evita anumite acțiuni, sunt șanse să urmeze exact acea cale.

Problema este că unele dintre acțiunile sale ar putea părea malițioase, însă modelul nu le va evita automat dacă nu a fost instruit explicit să nu le întreprindă. De aceea, aceste modele trebuie testate și îmbunătățite constant înainte de a primi acces la internet sau la informații sensibile. Comportamentul și rezultatele la care pot ajunge nu sunt întotdeauna previzibile. În majoritatea domeniilor tehnologice, fazele de testare sunt mult mai riguroase, însă în prezent vedem agenți AI cărora li se permite să acționeze fără suficiente restricții, posibil și din cauza competiției acerbe dintre companiile de vârf din domeniul AI, care încearcă să câștige cursa pentru supremație.”