Come individuare un video Deep Fake scambiato a faccia
Recentemente, Reddit ha fatto di nuovo notizia con un subreddit in cui le persone usano uno strumento di apprendimento automatico chiamato "Deep Fake" per sostituire automaticamente il viso di una persona con un altro in un video. Ovviamente, dal momento che questo è Internet, la gente lo sta usando per due cose: pornografia celebrità finta e inserimento di Nicolas Cage in film casuali.
Scambiare il volto di qualcuno in una fotografia è sempre stato relativamente facile, scambiare la faccia di qualcuno in un video era un processo che richiedeva molto tempo e fatica. Fino ad ora, è stato appena fatto dagli studi di VFX per i film di Hollywood ad alto budget, in cui il volto di un attore viene scambiato sulla controfigura. Ma ora, con Deep Fake, chiunque abbia un computer può farlo in modo rapido e automatico.
Prima di andare oltre, devi sapere come appare un Deep Fake. Guarda sotto il video di SFW che è una raccolta di diversi swap di celebrità, che coinvolgono principalmente Nic Cage.
Il software Deep Fake funziona utilizzando l'apprendimento automatico. Viene prima addestrato con una faccia bersaglio. Le immagini distorte del bersaglio vengono eseguite attraverso l'algoritmo e apprende come correggerle per assomigliare alla faccia bersaglio inalterata. Quando l'algoritmo viene quindi alimentato con immagini di una persona diversa, assume che siano immagini distorte del target e tenta di correggerle. Per ottenere il video, il software Deep Fake funziona su ogni frame singolarmente.
La ragione per cui Deep Fakes ha coinvolto attori in gran parte è che ci sono molte riprese di loro disponibili da diverse angolazioni che rendono l'allenamento più efficace (Nicolas Cage ha 91 crediti recitazione su IMDB). Tuttavia, data la quantità di foto e video che le persone postano online e che hanno davvero bisogno di circa 500 immagini per addestrare l'algoritmo, non c'è motivo per cui la gente comune non possa essere bersagliata, anche se probabilmente con un po 'meno successo.
Come individuare un falso profondo
In questo momento, Deep Fakes è abbastanza facile da individuare ma diventerà più difficile man mano che la tecnologia migliorerà. Ecco alcuni dei regali.
Volti dall'aspetto strano. In molti Deep Fakes, i volti sembrano davvero strani. Le caratteristiche non si allineano perfettamente e tutto appare un po 'ceroso come nell'immagine qui sotto. Se tutto il resto sembra normale, ma la faccia sembra strana, probabilmente è un Deep Fake.
Tremolante. Una caratteristica comune dei cattivi video Deep Fake è il volto che appare a sfarfallio e le caratteristiche originali di tanto in tanto spuntano in vista. Di solito è più evidente ai bordi del viso o quando qualcosa passa davanti ad esso. Se accade uno strano tremolio, stai guardando un Deep Fake.
Corpi diversi. Deep Fakes sono solo scambi di volti. La maggior parte delle persone cerca di ottenere una buona corrispondenza fisica, ma non è sempre possibile. Se la persona sembra essere notevolmente più pesante, più leggera, più alta, più corta, o ha tatuaggi che non hanno nella vita reale (o non ha tatuaggi che hanno nella vita reale) c'è una buona possibilità che sia finta. Potete vedere un esempio davvero ovvio sotto, dove il volto di Patrick Stewart è stato scambiato con J.K. Simmons in una scena del film Whiplash. Simmons è significativamente più piccolo di Stewart, quindi sembra solo strano.
Brevi clip. In questo momento, anche quando il software Deep Fake funziona perfettamente e crea uno scambio di volti quasi indistinguibile, può farlo davvero solo per un breve periodo di tempo. Prima troppo a lungo, uno dei problemi sopra inizierà a verificarsi. Ecco perché la maggior parte dei clip Deep Fake condivisi da una persona dura solo un paio di secondi, il resto del filmato è inutilizzabile. Se ti viene mostrata una clip molto breve di una celebrità che fa qualcosa, e non c'è una buona ragione per cui sia così breve, è un indizio che è un falso profondo.
No Sound o Bad Lip Syncing. Il software Deep Fake regola solo le caratteristiche del viso; non fa magicamente far sembrare una persona come un'altra. Se non c'è suono con la clip, e non c'è motivo per non essere suono, è un altro indizio che stai guardando a Deep Fake. Allo stesso modo, anche se c'è un suono, se le parole pronunciate non corrispondono correttamente con le labbra mobili (o le labbra sembrano strane mentre la persona parla come nella clip sotto), potresti avere un Deep Fake.
Clip incredibili. Questo è senza dubbio, ma se ti viene mostrata una clip davvero incredibile, ci sono buone probabilità che non dovresti davvero crederci. Nicolas Cage non ha mai recitato come Loki in un film Marvel. Sarebbe bello, però.
Fonti Dubbi. Come con le foto false, da cui il video presumibilmente proviene è spesso un grande indizio sulla sua autenticità. Se il New York Times ha una storia su di esso, è molto più probabile che sia vero che qualcosa che scopri in un angolo a caso di Reddit.
Per il momento, Deep Fakes è più una terribile curiosità che un grosso problema. I risultati sono facili da individuare e, mentre è impossibile condonare ciò che è stato fatto, nessuno sta ancora cercando di trasmettere Deep Fakes come video originali.
Man mano che la tecnologia migliora, è probabile che siano un problema molto più grande. Ad esempio, convincere i filmati falsi di Kim Jong Un dichiarando guerra agli Stati Uniti potrebbe causare un panico maggiore.
