Urmăriți ultimele noutăți din lumea digitală și descoperiți știrea de securitate a zilei: Un model AI al Meta, cel mai recent care a depășit limitele impuse în timpul testării.

Potrivit Associated Press News:
Meta a dezvăluit că unul dintre modelele sale de inteligență artificială a accesat internetul și a exploatat o vulnerabilitate a unui serviciu terț în timpul unor teste de securitate cibernetică, după incidente similare raportate recent de OpenAI și Anthropic.

Incidentul a fost provocat de o configurare greșită a mediului de testare, care i-a oferit, în mod neintenționat, modelului AI acces la internet. Cazul se adaugă unei liste tot mai lungi de situații în care modele AI avansate au demonstrat că pot identifica și exploata autonom vulnerabilități de securitate în procesul de îndeplinire a sarcinilor primite.

Descoperiți și punctul de vedere al specialistului Juraj Malcho, CTO la ESET:
„Modelul AI al Meta este doar cel mai recent care a depășit limitele prevăzute și, destul de probabil, nu va fi ultimul, atât timp cât companiile continuă să concureze pentru a dezvolta modele riscante datorită grabei de a depăși concurența.

Astfel de incidente ar trebui tratate ca avertismente serioase de securitate, nu ca demonstrații ale capacităților tehnologiei — doar pentru că este nouă sau are importanță strategică. Incidentele de securitate nu ar trebui transformate în argumente de marketing. Fiecare nou eșec al unui sistem AI ar trebui să ridice aceeași întrebare: de ce continuăm să tratăm siguranța ca pe o preocupare secundară într-o cursă cu implicații globale?

Dacă viteza de dezvoltare va continua să primeze în fața considerentelor de securitate, riscăm să ajungem la modele AI tot mai puternice, dar și din ce în ce mai dificil de controlat. Industria trebuie să renunțe la improvizații și să adopte practici solide de inginerie a securității înainte ca aceste sisteme să fie testate sau implementate la scară largă. Inovația nu exonerează companiile din domeniul AI de responsabilitățile privind securitatea pe care ne așteptăm să le respecte orice alt furnizor de tehnologie.”