Ne putem aștepta la o AI-pocalipsă în curând? Oricât de uimitoare pot fi rezultatele ChatGPT, ar trebui să luăm în considerare faptul că chatbot-ul ar putea să fie capabil să creeze malware sofisticat?

Această tehnologie actuală a popularului chat-bot este folosită în general pentru a obține un răspuns automat, elegant și suficient de bun pentru teme, lucrări de cercetare, răspunsuri legale, diagnostice medicale și o mulțime de alte lucruri care au trecut testul, putând fi considerate la fel ca și răspunsurile unor oameni. Dar poate fi folosit pentru sutele de mii de mostre de malware care apar și care sunt procesate zilnic sau va oferi rezultate false ușor de identificat?

În lupta pentru cel mai competent dispozitiv, ChatGPT pare puțin „prea bun” pentru a nu fi văzut ca un concurent serios care ar putea bloca un anumit opozant. Cu atât mai mult cu cât și atacatorul și victima pot recurge la cele mai recente modele de învățare automată (Machine Learning - ML). Deși modelele de ML au fost folosite pentru triaj grosier de frontend-uri sau pentru analize mai complexe și erau asociate cu o formă de AI, acestea nu reprezintă o soluție impenetrabilă de antimalware. 

Pentru a construi soluții antimalware eficiente, pe lângă input-ul de tip robot-robot, a fost întotdeauna necesară o intervenție umană. Acest lucru a fost stabilit cu mulți ani în urmă, spre supărarea furnizorilor de produse exclusive de Machine Learning care își bazau strategiile de marketing pe faptul că produsele lor de tip ML sunt singurele care folosesc inteligență artificială. 

Iată câteva întrebări legate de valențele lui ChatGPT și răspunsuri pentru acestea:

Va putea ChatGPT genera malware și cât de bun va fi un astfel de cod malware? 

Nu am ajuns încă în punctul în care să fie posibil să avem  „malware complet generat de AI”, deși ChatGPT este destul de bun la sugestiile de cod, la generarea de exemple și fragmente de cod, la depanarea și optimizarea codului și chiar la automatizarea documentației.

Cum rămâne cu funcțiile mai avansate?

Nu știm cât de bun este la ofuscare. Unele dintre exemple se referă la limbaje de scripting precum Python. Dar am văzut ChatGPT „inversând” sensul codului dezasamblat conectat la IDA Pro, ceea ce este interesant. Una peste alta, este probabil un instrument la îndemână pentru a ajuta un programator și poate că acesta este un prim pas către construirea mai multor programe malware cu funcții complete, dar suntem abia la început.

Cât de bun este acum ChatGPT?

ChatGPT este foarte impresionant, având în vedere că este un model de tip Large Language Model, iar capacitățile sale îi surprind până și pe creatorii unor astfel de modele. Cu toate acestea, în prezent este foarte superficial, face erori, oferă răspunsuri fabricate și nu este încă 100% de încredere pentru nimic serios. Dar pare să câștige teren rapid, fiind o soluție în plină dezvoltare și evoluție. 

Ce poate face în acest moment ChatGPT? 

Pentru moment, există trei situații probabile de utilizare cu scopuri malițioase: 

• Phishing: Dacă credeți că mesajele sau email-urile de phishing erau convingătoare până acum, așteptați. Inteligența artificială ar putea folosi și amesteca fără probleme date din mai multe surse pentru crearea de e-mailuri special concepute, care vor fi foarte greu de detectat pe baza conținutului lor, cu rate de succes care promit să fie mai bune pentru obținerea de clickuri. Unele dintre indiciile principale, cel referitor la greșelile de limbaj sau ortografia neglijentă, vor fi excluse de către modelele AI. Deoarece o gamă largă de atacuri neplăcute încep cu un simplu click pe un link, impactul aferent se va extinde.

• Automatizarea negocierii în caz de răscumpărare: Operatorii ransomware se străduiesc să fie cât mai credibili în timpul unor escrocherii, dar acest lucru nu este mereu ușor. Adăugarea abilităților lui ChatGPT pentru comunicații ar putea reduce volumul de lucru al atacatorilor în încercarea lor de a părea autentici și legitimi în timpul negocierilor. Acest lucru va însemna, de asemenea, mai puține greșeli care le-ar putea permite investigatorilor să găsească adevăratele identități și locații ale infractorilor.

• Escrocheriile la telefon: Odată cu generarea limbajului din ce în ce mai natural, escrocii vor suna foarte familiari și vor părea că au în vedere interesele dvs. cele mai bune. Acesta este unul dintre primii pași pentru o înșelătorie bazată pe încredere: sentimentul de apropiere și un discurs convingător.

Deși toate acestea sună ca și cum ar putea fi în viitor, criminalii vor fi mereu în căutare de soluții pentru a îmbunătăți atacurile. Poate că nu se vor întâmpla toate odată, dar pe măsură ce vor apărea incidente din ce în ce mai sofisticate, vom vedea dacă apărarea este la înălțimea provocării.