L'impatto dei deepfake sui social media: le verità scioccanti sui deepfake

Che cos'è il deepfake? Quali sono gli effetti del deepfake sui social media?

Un deepfake si può definire come: un video o una registrazione audio che sostituisce il volto o la voce di qualcuno con il volto o la voce di qualcun altro, in un modo che sembra molto reale. Potresti pensare che la manipolazione dei media non sia nulla di nuovo, ma col tempo il termine deepfake è cambiato. Mentre nel 2017 e 2018 veniva usato solo per immagini create esplicitamente da Deepfake sui social media con intelligenza artificiale, dal 2022 in poi è stato usato per descrivere immagini e video che sono esplicitamente o presumibilmente falsificati da qualche tipo di intelligenza artificiale. Il primo e più comune deepfake può essere ricondotto all'uso dello scambio di facce per creare video di face swap, che sono molto comuni oggi. Il deepfake sui social media può essere molto pericoloso oggi e può portare ad abusi fraudolenti usando le voci e le immagini delle persone per fare cose illegali

Perché è importante per noi studiare l'effetto dei deepfake sui social media

I social media come TikTok, YouTube, Instagram e così via sono diventati uno degli spazi per pubblicare questi deepfake online e molto facilmente. Data la velocità della loro diffusione, giocano un ruolo chiave nella pubblicazione o nel controllo di questi deepfake
Le implicazioni etiche dei deepfake sui social media possono far perdere fiducia alle persone e agli utenti presenti su queste reti sociali quando vedono contenuti falsi e ingannevoli che vengono pubblicati. Queste notizie false, che possono essere pubblicate sui social media basate su deepfake, influenzano la cultura pubblica e possono anche causare danni psicologici o sociali agli individui e distruggere la fiducia complessiva degli utenti nei contenuti online, quindi questa questione deve essere presa sul serio. Qui ti offriamo una panoramica completa degli effetti e del funzionamento di questo effetto mediatico in crescita ed espansione, e in aggiunta, ti forniamo soluzioni legali per combatterlo

Cosa sono in generale le strutture Deepfake e come funzionano?

La tecnologia deepfake nei social media può unire senza problemi chiunque nel mondo in un video o una foto in cui non ha mai partecipato. L'elemento principale nei deepfake è il machine learning, che ha reso possibile produrre deepfake molto più velocemente e a un costo inferiore. La rete neurale può insegnare al computer tutte le informazioni necessarie su come funziona il viso di quella persona da angolazioni e luci diverse, e usando queste informazioni e strumenti, può creare un'immagine simile allo stesso viso. Una serie di deepfake vengono realizzati usando un algoritmo chiamato GAN, che è molto professionale e rende le immagini e i volti più naturali. Ma ora, molti deepfake nei video sui social media non vengono nemmeno più realizzati con GAN, perché richiedono tempo e sono difficili da fare con esso
Oggi, tutto questo processo può essere fatto facilmente e più velocemente di prima grazie all'intelligenza artificiale. Certo, va detto che l'intelligenza artificiale non è ancora riuscita a raggiungere una composizione credibile che chi vede questi video o immagini creati possa subito credere nella loro autenticità. Nella continuazione della creazione di questi deepfake, il produttore stesso deve usare strumenti manuali per cambiare molti dei parametri che il programma in questione non è riuscito a catturare bene. Questo processo è molto semplice e potente, pur essendo difficile
Ad esempio, nel 2018, Jordan Peele (un famoso comico e regista) ha pubblicato un video deepfake di Barack Obama, l'ex presidente degli Stati Uniti, in cui si vedeva dire parole offensive su Donald Trump (l'allora presidente). Il suo obiettivo era mostrare quanto sia facile usare la tecnologia Deepfake sui social media per creare parole che sembrano completamente credibili e reali anche da un ex presidente

Come ha fatto il Deepfake a entrare nei social media

Il deepfake sui social media era inizialmente per divertimento. Il deepfake sui social media aveva inizialmente un aspetto di intrattenimento, programmi di intrattenimento come Reface, Zao o FaceApp permettevano agli utenti di copiare facilmente la propria immagine sul corpo di celebrità, attori o personaggi famosi con pochi semplici strumenti grafici. Questi video e manipolazioni deepfake sono rapidamente diventati virali su TikTok e Instagram grazie al loro divertimento e intrattenimento, e molte persone da tutto il mondo hanno iniziato a usare questo effetto senza sapere che è la stessa cosa. È deepfake
Piattaforme come TikTok, Instagram e YouTube rendono questi deep fake facili da creare e diffondere su internet usando mercati semplici e accessibili. Quando un contenuto su queste piattaforme social può diventare virale in modo scioccante, il loro algoritmo lo fa diventare virale e più persone vedono questi deep fake sui social media. Potrebbero farlo ai tempi, ma oggigiorno, con qualche upload di foto da angolazioni diverse e click, possono essere facilmente realizzati in qualsiasi modo vogliano
Il deepfake è iniziato come una tecnologia interessante, ma dopo essere entrato nei social network è diventato uno strumento per l'intrattenimento, la pubblicità e a volte per abusi seri

Impatto Positivo Potenziale

Deepfake, con tutte le informazioni che ti abbiamo dato su come funziona, come viene realizzato e qual è il suo scopo, è stato molto utile per alcuni settori grafici nel mondo ed è stato molto efficace. All'inizio, usare il deepfake può sembrare pericoloso e illegale, ma se usato correttamente, può essere uno strumento potente ed efficace. Qui daremo un'occhiata ad alcune di queste informazioni

Cinema e Intrattenimento

Nel campo del cinema e dei documentari, usare i deepfake per ricostruire o ringiovanire i volti, creare effetti speciali ha reso possibile il realismo senza bisogno di pesanti CGI, e ha reso più facile per i creatori in questo campo concentrarsi sulla creazione di film più coinvolgenti e di qualità

Educazione e Storia

Ricostruire il volto e la voce di figure storiche per un'educazione interattiva rende gli argomenti educativi più interessanti e più comprensibili e concreti per gli studenti

Medicina e salute mentale

Produzione di video educativi per i pazienti con il volto di un vero dottore, nella lingua e nel dialetto locale, così da essere meglio informati sul processo di operazione e trattamento. Ad esempio, durante i corsi difficili e complicati nelle università, l'uso dei deep fakes è molto efficace per insegnare la chirurgia o gestire situazioni psicologiche. O per aiutare i pazienti con demenza ricostruendo volti familiari

Pubblicità e marketing

Creare contenuti personalizzati e accattivanti senza bisogno di persone di sfondo e costi esorbitanti secondo i gusti dei clienti La possibilità di produrre pubblicità in diverse lingue senza dover registrare più volte

Accessibile a tutti

Assistere nella traduzione e nel doppiaggio dei video mantenendo espressioni naturali della bocca e del viso (lip-sync AI). Aumentare l'accessibilità per i non udenti o per chi ha problemi di udito convertendo il parlato in movimenti facciali

Implicazioni etiche dei deepfake sui social media

Proprio come qualsiasi cosa può avere vantaggi, può anche avere svantaggi, e i deepfake sui social media non fanno eccezione. Con l'aumento della disponibilità della tecnologia deepfake, i truffatori possono ora impersonare dirigenti, dipendenti o clienti con un'accuratezza allarmante, creando vulnerabilità significative per le aziende. Ma usare il deepfake al di fuori delle regole e delle normative viola le questioni etiche del deepfake, portando a molti abusi e truffe in quest'area, e bisogna essere consapevoli di questi problemi per stare al sicuro dalle loro conseguenze
Ma oltre alle perdite finanziarie dirette, le conseguenze reputazionali sono altrettanto dannose, poiché i media manipolati possono offuscare l'immagine di un'azienda e causare attacchi alla reputazione delle persone (personale o pubblica). Anche se la truffa viene scoperta dall'azienda, il danno è già stato fatto. Le industrie che si basano sulla fiducia, come finanza, legge e sanità, sono particolarmente vulnerabili. I deepfake sono essenzialmente delle impersonificazioni, quindi sono un modo popolare per truffare i CEO usando voci artificiali
Declino della fiducia pubblica nei contenuti (cultura post-verità) Con tutti questi video e immagini fake che diventano virali nel mondo digitale e online, potrebbe alla fine erodere la fiducia nei social media, che sono diventati una fonte di guadagno e branding per grandi aziende o imprese. Va anche notato che i criminali e i truffatori trovano costantemente nuovi modi per usare i deepfake, compresi estorsione, ricatto e spionaggio industriale. Aziende, organizzazioni e individui devono essere vigili

L'emergere della tecnologia Deepfake nei social media

ha causato preoccupazione tra le persone nel mondo che lavorano in certi settori, che si sono fatte un nome e un indirizzo e che hanno una certa reputazione. Soprattutto per quanto riguarda il consenso degli individui, la responsabilità e l'inadeguatezza delle leggi attuali. Questo ha portato molte persone ad avere domande specifiche su come proteggere individui e società dal suo abuso
Una delle questioni etiche dei deepfake è se le persone i cui volti e informazioni sull'aspetto vengono utilizzati abbiano dato il consenso a questo o meno Molti video usano deepfake e video manipolati inclusi celebrità politici o anche persone comuni senza il loro consenso Questi video possono usare i volti di altre celebrità per trasmettere comportamenti inappropriati fare commenti offensivi al pubblico sui social media e causare la perdita di credibilità personale e danni al loro stato rango e personalità ecc Oltre alle perdite finanziarie e di identità per gli individui questa questione lascia effetti psicologicamente dannosi sugli individui Mentre in molti paesi le vittime non hanno un modo legale specifico per affrontarlo Qui sorge la domanda chi è responsabile delle conseguenze morali del deepfake Il creatore del contenuto La piattaforma che l'ha pubblicato O l'utente che l'ha ripostato Attualmente non esiste uno standard chiaro e globale per determinare la responsabilità D'altra parte la legge che esiste in questo ambito è spesso inefficace e incompleta e non può compensare le perdite subite Questa lacuna legale ha aperto la porta a un abuso diffuso La legge sull'IA dell'UE è uno dei primi tentativi legislativi di regolare i contenuti generati dall'IA Richiede ai creatori di essere trasparenti su se un video è stato manipolato o generato artificialmente Altri paesi come gli Stati Uniti la Cina e il Regno Unito stanno esplorando soluzioni simili anche se la tendenza globale verso leggi e regolamenti sui deepfake non è ancora uniforme

Il ruolo delle piattaforme social nel controllare i deepfake sui social media

Con l'aumento dell'uso dei deepfake sui social media, il ruolo delle piattaforme nell'identificare e controllare questo tipo di contenuto è diventato più importante che mai. I social media hanno fatto sforzi per controllare la pubblicazione di questo contenuto, che sono stati in parte utili. Uno dei metodi comuni è l'etichettatura dei contenuti. Se molte piattaforme rilevano un contenuto deepfake, lo contrassegnano con avvisi come potrebbe essere stato modificato o informazioni fuorvianti. Alcuni algoritmi usano intelligenza artificiale per riconoscere facilmente il contenuto creato con deepfake. Ma con i progressi quotidiani, questi deepfake diventano più reali e alcuni di essi potrebbero rimanere nascosti agli occhi degli algoritmi

Come riconoscere la tecnologia deepfake sui social media

I deepfake spesso evocano una sensazione inquietante e rivelano difetti sottili che tradiscono la loro autenticità Allenando l'occhio umano a rilevare queste incoerenze come movimenti facciali innaturali illuminazione irregolare o segnali audio e visivi incoerenti e combinando questa abilità con tecniche di verifica affidabili diventa possibile distinguere il deepfake dai contenuti reali
Ci sono alcune cose piuttosto semplici che puoi cercare per riconoscere un deepfake

Movimento oculare anomalo

Movimenti degli occhi che non sembrano naturali — o la mancanza di movimento oculare, come non sbattere le palpebre — sono segnali di allerta. È difficile replicare l'atto di sbattere le palpebre in modo che sembri naturale. È anche difficile replicare i movimenti oculari di una persona reale. Questo perché gli occhi di solito seguono la persona con cui stanno parlando

Espressioni facciali anormali

Quando qualcosa non sembra giusta su un volto, può indicare una distorsione facciale. Questo succede quando un semplice punto di un'immagine è stato sovrapposto a un'altra

Posizionamento imbarazzante dei tratti del viso

Se la faccia di qualcuno è rivolta da un lato e il naso dall'altro, dovresti essere sospettoso dell'autenticità del video

Mancanza di emozioni

Puoi anche notare distorsioni facciali o stitching dell'immagine se il viso di qualcuno non sembra mostrare l'emozione che dovrebbe accompagnare quello che stanno dicendo

Il corpo o la postura sembra scomoda

Un altro segno è che la forma del corpo della persona non sembra naturale o c'è una posizione della testa e del corpo strana o incoerente. Questa potrebbe essere una delle incoerenze più facili da notare perché la tecnologia deepfake di solito si concentra sui tratti del viso piuttosto che sul corpo intero

Movimento corporeo anormale

Se qualcuno appare distorto o strano quando si gira di lato o muove la testa, o i suoi movimenti sono a scatti e disconnessi da un fotogramma all'altro, dovresti sospettare che il video sia falso

Colorazione anomala

Tono della pelle anomalo, scolorimento, illuminazione strana e ombre fuori posto sono tutti segnali che quello che stai vedendo è probabilmente falso

Capelli che non sembrano veri

Non vedrai capelli crespi o svolazzanti, perché le immagini false non possono creare queste caratteristiche uniche

Denti che non sembrano veri

Gli algoritmi potrebbero non essere in grado di generare denti singoli quindi la mancanza di contorni dei denti singoli può essere un indizio

Sfocato o irregolarità

Se i bordi delle immagini sono sfocati o le immagini sono irregolari, ad esempio dove il viso e il collo di qualcuno si incontrano con il corpo, saprai che c'è qualcosa che non va

Audio incoerente e rumore

I creatori di deepfake di solito passano più tempo sulle immagini video che sull'audio. Il risultato può essere un cattivo sincronismo labiale, voci robotiche, pronuncia strana delle parole, rumore di fondo digitale o addirittura nessun audio.

Immagini che sembrano innaturali quando vengono rallentate

Se stai guardando un video su uno schermo più grande del tuo smartphone o hai un software di editing video che può rallentare il video, puoi ingrandire e esaminare le immagini più da vicino. Ad esempio, ingrandire le labbra ti aiuterà a vedere se stanno effettivamente parlando o se il lip sync è scarso

Dispute hashtag

C'è un algoritmo crittografico che aiuta i creatori di video a dimostrare che i loro video sono autentici. Questo algoritmo viene usato per inserire hashtag in posti specifici nel video. Se gli hashtag vengono cambiati, dovresti sospettare che il video sia stato manomesso

Impronta Digitale

La tecnologia blockchain può anche creare un'impronta digitale per i video. Anche se questa verifica basata su blockchain non è infallibile, può aiutare a stabilire l'autenticità di un video. Ecco come funziona. Quando viene creato un video, il contenuto viene registrato in un registro che non può essere modificato. Questa tecnologia può aiutare a dimostrare l'autenticità di un video

Ricerca inversa immagini

Cercando un'immagine originale o una ricerca inversa di immagini assistita dal computer, puoi trovare video simili online per capire se un'immagine, un audio o un video sono stati modificati in qualche modo. Anche se la tecnologia di ricerca video inversa non è ancora disponibile al pubblico, investire in uno strumento del genere può essere utile

Il video non è riportato da fonti di notizie affidabili

Se quello che una persona dice o fa in un video è scioccante o importante, i giornali ne parleranno. Se cerchi informazioni sul video e nessuna fonte affidabile ne parla, potrebbe significare che il video è un deepfake

In conclusione