Ce sunt Deepfake-urile, Amenințările lor și Cum să le Evităm?

Ce sunt Deepfake-urile?

Deepfake-urile sunt conținuturi media false create prin manipularea unei persoane dintr-o imagine sau un videoclip existent folosind metode avansate de învățare automată.

De exemplu, în 2018, un videoclip fals a arătat cum Barack Obama îl mustra pe Donald Trump, devenind viral. Scopul principal al videoclipului a fost de a evidenția consecințele Deepfake-urilor și cât de puternice pot fi. În 2019, Mark Zuckerberg a apărut într-un videoclip fals vorbind despre cum Facebook controlează miliarde de date ale utilizatorilor.

Termenul ‘Deepfake’ provine din combinarea cuvintelor “deep learning” (învățare profundă) și “fake” (fals), deoarece folosește arhitecturi de învățare profundă, un domeniu al Învățării Automate și Inteligenței Artificiale.

Acestea sunt create prin antrenarea folosind autoencoder-i sau GANs pentru a produce media extrem de înșelătoare. Oricine poate crea un deepfake și poate face ca oamenii să creadă că este real, când nu este, ceea ce este partea cu adevărat periculoasă a acestui tip de conținut fals.

Cine sunt țintele Deepfake-urilor?

Aparând prima dată într-un videoclip pornografic cu o celebritate în 2017, acestea au crescut rapid în numeroase domenii precum politică, finanțe, știri, etc.

Multe celebrități s-au găsit pe internet în videoclipuri pornografice, iar liderii politici au fost prezenți în știri spunând cuvinte pe care nu le-au rostit niciodată.

Tehnicile de generare a Deepfake-urilor necesită de obicei multe imagini și videoclipuri ale țintelor. Persoanele cu un profil ridicat devin ținte uzuale datorită marelor seturi de date disponibile pe internet. Așadar, deepfake-urile pot prejudicia grav reputația oricărei persoane de notorietate.

Astăzi, aplicații populare de Deepfake precum FakeApp, DeepFaceLab, FaceSwap și ZAO sunt ușor accesibile oricui dorește să creeze un deepfake.

Tipuri de Deepfake-uri

Deepfake-urile se încadrează în principal în diferite categorii, precum:

• Schimb de fețe unde două imagini sunt combinate pentru a forma o imagine falsă
• Recreare facială – modificarea trăsăturilor faciale ale unei persoane
• Deepfake-uri audio, care sunt înregistrări false ale unei anumite persoane
• Deepfake-uri cu sincronizare buzelor – videoclipuri cu mișcări coerente ale gurii în sincron cu un audio
• Păpușar – videoclipuri în care o anumită persoană (păpușa) este animată, folosindu-se mereu de mișcările altei persoane (maestru) aflată în fața camerei.

Cum se creează Deepfake-uri

Autoencoder-ii și GANs sunt cele două tehnologii de învățare profundă din spatele aplicațiilor deepfake dezvoltate până acum.

Autoencoder-i

Autoencoder-ii sunt în principal folosiți pentru deepfake-urile cu schimb de fețe. Pentru a realiza un videoclip deepfake cu cineva, mai întâi, trebuie să antrenezi un autoencoder cu două părți: un encoder și un decoder.

Această tehnică utilizează, de obicei, două perechi de encoder și decoder. Trebuie să rulezi multe imagini ale celor două persoane pe care vrei să le schimbi folosind encoder-ul. Pentru a face aceste imagini mai realiste, ele trebuie să includă imagini ale feței din diferite unghiuri și lumină.

În timpul acestui antrenament, encoder-ul extrage caracteristicile latente ale imaginilor sau le reduce la o reprezentare latentă comprimând imaginile. Apoi, decoder-ul va reconstrui și recupera imaginile din această reprezentare latentă.

De exemplu, presupunem că ai antrenat imaginea unei persoane numărul 1 folosind decoder-ul A. Decoder-ul A apoi reconstruiește imaginea persoanei numărul doi folosind caracteristicile persoanei numărul 1. Apoi poți folosi decoder-ul B pentru a recupera acea imagine.

Când finalizezi antrenamentul, schimbi cei doi decoderi pentru a recupera două imagini diferite, schimbând în cele din urmă imaginile. Software-urile ZAO și FakeApp sunt bazate pe schimb și sunt foarte eficiente în generarea realistă a imaginilor.

Rețele Generative Adversare (GANs)

GANs constau de asemenea din două algoritme: generatorul și discriminatorul care lucrează unul împotriva celuilalt. Mai întâi, generatorul creează imagini noi din reprezentarea latentă a materialului sursă.

Algoritmul discriminator apoi încearcă să deducă dacă imaginea corectă este generată pentru a detecta defectele. Din acest motiv, generatorul va crea imagini cât mai reale posibil.

Multe servicii deepfake pot fi găsite pe web-ul întunecat.

Cum Deepfake-urile Pot Deveni Amenințări

Deepfake-urile pot deveni amenințări serioase pentru indivizi, afaceri și instituții publice.

Aplicațiile Deepfake-urilor

Există domenii unde oamenii folosesc deepfake-uri pentru a-și îmbunătăți productivitatea. De exemplu, producătorii de filme și creatorii de videoclipuri 3D și-au redus timpul de producție folosind tehnici deepfake. Acestea pot fi folosite și pur și simplu pentru a distra un public mai numeros.

Totuși, motivația principală din spatele majorității deepfake-urilor este de a manipula audiența și de a-i face să creadă ceva ce nu s-a întâmplat niciodată sau ce nu a fost spus de cineva.

Creatorul falsifică datele și răspândește informații false multor utilizatori cu diferite intenții rău-intenționate. De exemplu:

• Înșelătorii și șantaje
• Manipulare biometrică
• Pornografie
• Obținerea de avantaje politice
• Inginerie socială

Dintre toate aceste exemple, Deepfake-urile pot deveni o amenințare serioasă pentru personalitatea și reputația indivizilor, date sensibile precum informații financiare, securitatea cibernetică, alegerile politice și multe altele.

Această utilizare necorespunzătoare poate fi observată în înșelătorii împotriva indivizilor și companiilor, inclusiv pe rețelele de socializare.

Înșelătorii

În 2019, The Wall Street Journal a raportat că CEO-ul unei companii energetice din Marea Britanie a fost înșelat să transfere €220,000 unui furnizor ungar la telefon.

Se pare că înșelătorul a folosit tehnologia audio deepfake pentru a imita vocea CEO-ului companiei-mamă pentru a ordona plata.

Deepfake-urile audio sunt cele mai populare tipuri de Deepfakes folosite pentru înșelătorii, făcând oamenii să creadă că vorbesc cu o persoană de încredere. În cele mai multe cazuri, audio deepfake pretinde că persoana care sună este o figură de profil înalt dintr-o companie, cum ar fi un CEO sau un CTO.

Amenințări pentru afaceri

Acum, munca de la distanță este în creștere datorită pandemiei COVID-19. Astfel, există o creștere a afacerilor desfășurate prin videoconferințe sau la telefon, făcându-le mai vulnerabile la astfel de înșelătorii.

Afacerile se confruntă cu un risc ridicat de pierderi financiare și de a-și compromite imaginea din cauza Deepfake-urilor. Acestea ajută, fără să își dea seama, escrocii să comită fraude, ceea ce poate duce la litigii nedorite.

Manipularea biometrică

Tehnologia biometrică este larg utilizată ca metodă de acces sigură în multe organizații. Deepfake-urile au potențialul de a afecta grav această tehnologie dacă sunt compromise.

Deoarece datele biometrice oferă acces în locuri restricționate, compromiterea scanerelor faciale poate asigura acces neautorizat în acele zone.

Manipularea pe rețelele de socializare

Deepfake-urile sunt populare pe platformele de socializare și sunt create pentru a stârni reacții printre oameni și a maximiza vizibilitatea paginilor. Să presupunem că există o pagină de Facebook care postează Deepfake-uri legate de figuri politice sau celebrități, provocând alți utilizatori să posteze comentarii scandaloase, creând haos.

Mai mult, puteți garanta că orice profil se conectează la o persoană reală? Probabil că nu. Fotografia de profil pe care o vedeți pe acel cont de Facebook ar putea fi un deepfake. Dacă este așa, este foarte probabil ca ceea ce împărtășesc pe profilul lor să nu fie real nici ele.

Amenințări pentru politică

Un alt domeniu amenințat de utilizarea deepfake-urilor este manipularea în sfera politică. Software-ul gratuit de creare Deepfake face mult mai ușoară crearea și distribuirea acestora unei audiențe mai largi.

Datorită acestui avantaj, oricine poate folosi deepfake-uri pentru a oferi informații false publicului pentru a obține avantaje politice, în special în timpul alegerilor.

Câștigarea de avantaje politice

Un exemplu proeminent este circulația unui video fals al politicienei americane, Nancy Pelosi, pe rețelele de socializare. Părea că vorbește ca și cum ar fi fost sub influența alcoolului.

Fostul președinte american Donald J. Trump a distribuit videoclipul pe conturile sale de socializare, sperând să schimbe imaginea publică a lui Nancy Pelosi, adversarul său politic. Ca rezultat, videoclipul a avut peste 2 milioane de distribuiri și vizualizări pe rețelele sociale.

Afectarea relațiilor bilaterale între țări

Amenințările din deepfake-uri nu se limitează doar la relațiile politice dintre persoanele dintr-o singură țară. Ele pot merge chiar dincolo de granițele naționale, afectând relația dintre țări.

De exemplu, în 2020, primul ministru australian, Scott Morrison, a cerut scuze Chinei din cauza unui tweet fals care arăta un soldat australian amenințând că îl va ucide pe un copil afgan, ținându-i un cuțit la gât.

Imaginea a provocat indignare online și a deteriorat temporar relația bilaterală dintre guvernele australian și chinez. Prin urmare, multe autorități au subliniat nevoia de a controla deepfake-urile pe platformele de socializare care vizează avantaje politice.

Cum să evitați Deepfake-urile

Există mai multe metode care pot ajuta la identificarea deepfake-urilor.

Cum puteți identifica un Deepfake?

Dacă observați pe cineva într-un videoclip făcând ceva neobișnuit, verificați singuri următoarele caracteristici. Deoarece, în momentul de față, videoclipurile Deepfake sunt într-un stadiu în care puteți distinge diferențele observând cu atenție semnele următoare:

• Expresii faciale care nu par naturale.
• Schimbări frecvente de iluminare.
• Lipsa mișcărilor oculare, lipsa clipirii sau clipirea într-un mod neobișnuit.
• Schimbări ale tonului pielii.
• Lipsa emoțiilor pe față.
• Poziționare nenaturală a trăsăturilor faciale.
• Postură și mișcare corporală nenaturale.
• Estomparea imaginii.
• Dezalinierea imaginii.
• Sincronizare slabă a buzelor cu sunetul.
• Schimbarea hashtag-urilor sau a amprentelor digitale. Creatorii de videoclipuri pot folosi hashtag-uri sau amprente digitale în anumite locuri ale unui videoclip pentru a dovedi autenticitatea. Dacă hashtag-urile se schimbă, poate indica faptul că videoclipul a fost manipulat.

Ce puteți face pentru a evita Deepfake-urile?

• Dacă vizionați un videoclip controversat distribuit online pe rețelele de socializare, verificați întotdeauna sursa și cercetați dacă provine de la o persoană de încredere înainte de a distribui sau crede conținutul din videoclip. La fel se întâmplă și cu orice apel audio suspect pe care l-ați putea primi, chiar și de la cineva cu o poziție superioară. Deși nu vă garantează că nu veți cădea niciodată în astfel de capcane, vă va ajuta să evitați multe înșelătorii.
• Pentru afaceri, implementarea unor verificări de securitate solide în orice proces legat de datele financiare va ajuta enorm la oprirea escrocheriilor cu deepfake-uri.
• Informați-vă pe voi, pe ceilalți și pe angajații companiei despre modul în care funcționează deepfake-urile, amenințările lor și cum să identificați un deepfake.
• Reliați-vă întotdeauna pe surse de știri de încredere.

Instrumente și tehnologii care ajută la detectarea Deepfake-urilor

• Cercetătorii de la University of Southern California și University of California, Berkeley, cercetează tehnologii de detectare a Deepfake-urilor. Tehnicile lor, care folosesc biometrie soft, au detectat Deepfake-uri cu o acuratețe de 92 la 96 procente.
• Adobe a creat o nouă tehnologie care vă permite să determinați dacă o imagine facială a fost manipulată sau nu.
• Concursul de Detectare a Deepfake-urilor organizat de Kaggle invită cercetători din întreaga lume să creeze tehnologii inovatoare pentru detectarea Deepfake-urilor.
• Microsoft a dezvoltat un instrument de detectare a deepfake-urilor.
• Cercetătorii de la Facebook au dezvoltat o tehnologie AI care poate detecta deepfake-uri.

Rezumat

Deepfake-urile au devenit una dintre cele mai mari amenințări pentru mulți oameni din întreaga lume. Cu creșterea utilizării conținutului de pe rețelele sociale, creatorii de Deepfake vor continua să producă materiale deepfake de calitate superioară, care sunt dificil de detectat.

Astfel, tehnologiile de detectare a deepfake-urilor trebuie să se dezvolte în mod constant, iar guvernele trebuie să reglementeze utilizarea deepfake-urilor pe rețelele sociale. Pentru a evita să cădeți în astfel de capcane, asigurați-vă că urmați sfaturile enumerate în acest articol.