Utilizând inteligența artificială, nu este nevoie de prea mult efort pentru a copia o persoană în mod virtual și, deși există unele limitări, clonarea vocii poate avea consecințe periculoase.

O înșelătorie care utilizează platformele de inteligență artificială ia avânt și cercetătorii ESET au dezvăluit potențialul abuz al acestei tehnologii într-o practică cunoscută sub numele de răpire virtuală. Acest articol explorează conceptul din spatele răpirilor virtuale, metodele folosite și implicațiile unei astfel de înșelăciuni.

Înțelegerea conceptului de răpire virtuală

Răpirea virtuală este o înșelătorie care profită de frica și panica care apar atunci când cineva crede că persoana dragă a fost răpită. În loc să răpească fizic victima, escrocii urmăresc să obțină bani sau un anumit avantaj prin crearea unei iluzii convingătoare de răpire.

Metoda tradițională

Una dintre cele mai tradiționale abordări ale răpirii virtuale implică clonarea numărului de telefon al victimei. Escrocul va suna un membru al familiei victimei sau unul dintre prietenii victimei, creând o atmosferă haotică cu zgomot de fundal pentru a face să pară că victima este în pericol imediat. Escrocul ar cere apoi o răscumpărare pentru eliberarea victimei.

Pentru a spori credibilitatea înșelăciunii, autorii folosesc adesea informații din surse publice (OSINT) pentru a aduna detalii despre victimă și apropiații acesteia. Aceste informații îi ajută pe escroci să facă înșelătoria mai plauzibilă, de exemplu, vizând persoane despre care se știe că sunt în călătorie sau că sunt plecate de acasă, prin monitorizarea conturilor lor de social media.

ARTICOL SIMILAR: OSINT 101: What is open source intelligence and how is it used?

Clonarea vocii cu ajutorul tehnologiei

O versiune mai avansată și mai rafinată a răpirii virtuale implică obținerea de mostre ale vocii victimei și utilizarea platformelor de inteligență artificială pentru a crea o clonă a acesteia. Escrocul mai apoi poate să sune familia sau prietenii victimei, să impersoneze victima și să facă cereri îngrijorătoare.

Fezabilitatea clonării vocii

Pentru a demonstra fezabilitatea tehnicii de clonare a vocii, cercetătorii ESET au experimentat cu un software gratuit de editare video și audio bazat pe tehnologia AI. Aceștia au înregistrat vocea lui Jake Moore, consilier global de securitate al ESET, din diverse videoclipuri disponibile online și au încercat să creeze o clonă convingătoare a vocii sale.

Instrumentul a generat un fișier audio și o transcriere, trimise ulterior serviciului de clonare a vocii cu ajutorul inteligenței artificiale.

Iată rezultatul: solicitarea falsă a lui Jake, creată cu ajutorul tehnologiei AI

Limitări și potențiale utilizări abuzive

În timp ce încercarea inițială de clonare a vocii a prezentat deficiențe în ceea ce privește ritmul și tonul, și a folosit un vocabular limitat, potențialul de a utiliza în mod nefast această tehnologie rămâne evident. Infractorii ar putea exploata răpirea virtuală prin trimiterea de mesaje vocale care includ informații personale obținute prin tehnici OSINT, ceea ce face ca înșelătoria să fie mai convingătoare.

În plus, persoanele cu funcții de conducere, cum ar fi directorii generali ai companiilor de tehnologie, ar putea deveni ținte pentru astfel de escrocherii datorită prezenței lor publice. Prin clonarea vocii acestora, escrocii ar putea manipula angajații din cadrul companiei să efectueze acțiuni nedorite. Combinată cu alte tactici de inginerie socială, acest tip de escrocherie ar putea deveni atât un instrument puternic, cât și o problemă dificilă de combătut pe măsură ce tehnologia evoluează.

Un motiv de îngrijorare?

Această transformare a tehnicii existente de răpire virtuală, prin care escrocii creează iluzia unei răpiri fără a lipsi fizic de libertate pe cineva, reprezintă o evoluție îngrijorătoare în domeniul criminalității informatice. Utilizarea abuzivă a platformelor AI pentru a clona voci ridică serioase probleme etice și de securitate.

Pe măsură ce tehnologia progresează este esențial ca persoanele, companiile și dezvoltatorii de platforme de AI să fie vigilenți în ceea ce privește potențiala utilizare abuzivă a tehnicilor de clonare a vocii și a altor tehnologii similare. Protejarea datelor personale, împărtășirea cu precauție a informațiilor în mediul online, utilizarea unor măsuri solide de securitate și training-ul angajaților pentru conștientizarea pericolelor online pot contribui la atenuarea riscurilor asociate cu răpirile virtuale.

ARTICOL SIMILAR: FBI warns of voice phishing attacks stealing corporate credentials