Aplicația Lensa Magic Avatars ridică îngrijorări pentru securitatea datelor


Noua aplicație de la Lensa, tot mai populară în social media, prin care utilizatorii își creează Magic Avatars, ridică semne de întrebare pentru securitatea și confidențialitatea imaginilor și metadatelor încărcate în aplicație.

Unul dintre subiectele cele mai discutate în ultima perioadă este o nouă aplicație de creare de imagini, bazată pe inteligența artificială, cu un număr de descărcări cu o creștere fulminantă în magazinele online de aplicații, precum Google Play sau App Store. Popularitatea acesteia aduce în discuție măsurile luate de developeri pentru securitatea datelor dar și pentru protejarea utilizatorilor în fața oricăror tentative de atac sau breșe de scurgere de informații.

Perspectiva jurnaliștilor

Conform publicației de știri și noutăți din lumea tech, TechRadar, ”fluxurile rețelelor de socializare sunt în prezent populate cu aceste interpretări de înaltă rezoluție ale fețelor utilizatorilor și diverse lewks (o imagine atent construită prin atenție la machiaj, îmbrăcăminte și accesorii, deseori bazată pe o tematică sau cu intenția de a reproduce un anumit stil de modă), cunoscute și sub numele de Magic Avatars. Toate acestea sunt rezultatul folosirii aplicației Lensa, un motor de generare de imagini AI care creează niște interpretări artistice cu influențe fantasy sau anime ale imaginilor pe care utilizatorii le încarcă, în general selfie-uri în diferite posturi ale acestora.

Popularitatea în creștere a aplicației ridică multe preocupări la nivel de securitate a datelor, răspunsul din partea celor de la Prisma Labs, creatorii din spatele AI, fiind un document cu FAQ, care oferă lămuriri suplimentare. Acesta precizează următoarele, referitor la politica de stocare și securitate a datelor: avatarele sunt stocate atâta timp cât este nevoie pentru a oferi utilizatorilor noștri serviciul de generare de imagini. Vă rugăm să rețineți că o nouă funcție, care le-ar permite utilizatorilor să-și șteargă definitiv avatarurile de pe serverele noastre este în prezent în curs de desfășurare. [.....] Imaginea pe care o încărcați ar trebui să fie proprie sau o imagine a altei persoane pe care aveți dreptul să o accesați. Utilizarea intenționată a aplicației pentru a crea conținut explicit este absolut interzisă de Termenii de utilizare și obligă utilizatorii Lensa să respecte această cerință.

Nu este clar cum Prisma Labs respectă această regulă specială dar developerii adaugă această notă: „Din păcate, toate aceste eforturi nu au făcut încă AI absolut sigură de conținut părtinitor și imagini explicite. Prin urmare, stipulam că produsul nu este destinat utilizării minorilor și îi avertizează pe utilizatori cu privire la potențialele riscuri de conținut.


Câteva dintre principalele aspecte la care un utilizator Lensa Magic Avatars ar trebui să se gândească și câteva dintre întrebările de bază pentru developerii aplicației ar putea fi:

1. Fotografiile încărcate de utilizatori sunt stocate în aplicație? Dacă da, acestea sunt criptate?

2. Când a fost lansată opțiunea de Magic Avatar?

3. Cum este folosită mai exact tehnologia AI pentru a genera imaginile?

4. Câți utilizatori au încărcat până acum imgini în aplicație?

5. Cum este abordată din partea companiei preocuparea legată de încărcarea de către un utilizatora imaginilor altor persoane, nu doar a fotografiilor proprii?

6. Compania este la curent cu folosirea tehnologiei aplicației pentru a genera conținut pentru adulți?

 

Perspectiva specialiștilor în securitate

Specialistul Jake Moore, Global Cyber Security Advisor pentru ESET, întrebat despre riscurile aplicației Lensa Magic Avatars, precizează:

În timp ce imaginile generate de inteligența artificială ar putea părea distractive, încărcarea imaginilor într-o aplicație fără a lua în considerare riscurile potențiale este nerecomandată. Această nouă și populară aplicație AI ne face să călătorim înapoi în timp la controversa creată de aplicația FaceApp din 2019. În ultimele săptămâni, mii de oameni și-au încărcat portretele pe Lensa, aplicația deținută de o entitate din Rusia, care a avut o evoluție vertiginoasă pe Google Play și App Store, dându-și consimțâmântul pentru ca un algoritm AI elaborat să transforme fotografiile acestora (și metadatele legate de acestea) în Magic Avatars.

Chiar dacă Lensa șterge fotografiile originale după procesarea imaginii, aplicația continuă să stocheze acele avatare create, cu aspect foarte real! Într-o lume în continuă schimbare, aceste baze de date dețin informații valoroase care pot fi folosite în programele de recunoaștere facială, ridicând îngrijorări cu privire la un posibil furt de date sau scurgeri de informații. În plus, Lensa admite că inteligența artificială folosită tinde să creeze imagini sexualizate, pe care încearcă să le echilibreze folosind filtre NSFW (Not Safe For Work), dar pentru persoanele rău intenționate poate fi destul de simplu să le transforme în imagini pornografice care ar putea fi folosite pentru șantaj.

Concluzie

În ziua de astăzi, în fiecare zi sunt dezvoltate și lansate mii de aplicații, majoritatea dintre ele cu scop de divertisment. Unele dintre acestea beneficiază de o popularitate foarte ridicată și de o răspândire aproape instantee, mulți dintre utilizatori fiind de fapt atrași de acestea prin perspectiva apartenenței la grup - dacă un număr mare dintre cei cunoscuți sau din cercul apropiat folosesc o anumită aplicație înseamnă că este validă și sigură.

Nu vă lăsați păcăliți de miile de descărcări sau de vizibilitatea foarte mare pe rețelele de socializare a unui astfel de fenomen. Fiți mereu vigilent și puneți în balanță beneficiile vs. riscurile folosirii oricărei aplicații și alegeți prudent ce doriți să instalați pentru a vă păstra mereu datele, conturile și dispozitivele în siguranță.

ESET Research December 9, 2022

Lasa un comentariu