Facebook interzice conținutul video deepfake, însă exceptează anumite forme de conținut manipulat


Facebook elaborează un nou set de reguli care vizează reducerea răspândirii manipulărilor din mass-media, întrucât spectrul unor videoclipuri false profund convingătoare s-a extins mult dincolo de subiectul alegerile prezidențiale din SUA, moment în care efectul lor nociv a fost în special remarcat.

Un anunț al vicepreședintelui platformei de gestionare a politicilor globale Facebook, Monika Bickert, dezvăluie că platforma implementează o abordare pe mai multe planuri pentru a face față amenințărilor tot mai mari ale conținutului mass-media manipulat, creat special pentru a răspândi dezinformarea și pentru a influența opinia publică.

Facebook a anunțat cu acest prilej că va elimina conținutul manipulat care bifează acești doi indicatori:

  • a fost „editat sau sintetizat - dincolo de ajustările necesare pentru claritate sau calitate - în moduri care nu sunt evidente pentru o persoană obișnuită și ar putea face pe cineva în mod eronat să creadă că un subiect al videoclipului a spus cuvinte pe care nu le-a spus de fapt”, și

  • este „produsul inteligenței artificiale sau al învățării automate (machine learning) care contopește, înlocuiește sau suprapune conținutul unui videoclip, făcându-l să pară autentic”.

Noua politică strictă se aplică tehnicilor deepfake, care sunt un exemplu al modului în care algoritmii de învățare automată pot fi utilizați în scopuri nefaste. [ Experții ESET au identificat de asemenea tehnicile deepfake drept una dintre tendințele malware care va caracteriza peisajul amenințărilor de securitate cibernetică în 2020.]

Interdicția nu se va extinde însă la alte tipuri de conținut media modificat. Mai precis, rețeaua socială nu va elimina „videoclipurile care au fost editate prin omiterea sau modificarea ordinii cuvintelor” dacă discutăm de conținut modificat de dragul parodiei și satirei.

Plecând de la acest ultim aspect, o problemă care poate apărea totuși în anumite cazuri: unde se trage linia prin care decide că un anume conținut este destinat să fie umoristic sau nu?

Cu toate acestea, Facebook promite să nu stea cu mâinile în sân atunci când vine vorba de conținutul media care deși alterat, inclusiv folosind metode mai puțin avansate, nu îndeplinește criteriile de eliminare de mai sus. Un astfel de conținut poate fi și el supus unei verificări faptice independente și, în cele din urmă, reglementat, în funcție de cum devine catalogat.

„Dacă o fotografie (sau o secvență video) este considerată și clasificată printr-un proces de rating drept falsă (sau parțial falsă) de către utilizatorii platformei, în urma unui proces manual de fact-checking, atunci va fi redusă automat, în mod semnificativ, distribuția sa în News Feed și se va respinge difuzarea acestui conținut drept anunț (ad). Iar persoanele care o văd, încearcă să o partajeze sau au împărtășit-o deja, vor vedea avertismente care îi avertizează că este falsă ”, a spus Bickert.

Reprezentanta Facebook a susținut că eliminarea unor astfel de videoclipuri nu ar împiedica oamenii să le vadă în altă parte – prilej cu care nu ar știi că videoclipurile în cauză sunt false. Menținerea lor, dar etichetarea lor ca fiind false, va oferi în schimb oamenilor informații de context cruciale, a spus ea.

Specialistul în securitate ESET, Jake Moore, a apreciat poziția Facebook însă a menționat că interdicțiile pot merge doar atât de departe cât este descris mai sus și că trebuie să fim în din ce în ce mai exigenți  și mai pregătiți pentru ceea ce urmează. „Nu doar că avem nevoie de un software mai bun pentru a recunoaște aceste videoclipuri manipulate digital, dar trebuie, de asemenea, să conștientizăm că ne îndreptăm ca oameni către un moment în care nu ar trebui să credem întotdeauna ceea ce vedem”, spune Moore.

Lasa un comentariu