Deepfakes ha spiegato: l'IA che sta rendendo i video falsi troppo convincenti
Annuncio pubblicitario
Vedere per credere. Beh, almeno così è stato prima che ci rendessimo conto che le persone potevano dottore video per spingere falsi e riscrivere la storia. Mentre abbiamo trovato il modo di sfatare la maggior parte delle immagini ingannevoli, c'è uno sviluppo tecnologico che sta prendendo piede così rapidamente che presto potremmo non sapere più come dire cosa è reale e cosa è falso.
Deepfakes cambia tutto ciò che ritenevamo possibile in termini di video con documentazione. Ecco tutto ciò che devi sapere su di loro ...
Cosa sono i deepfakes?
Il termine deepfakes deriva da una combinazione delle parole "deep learning" e "fakes". Questo perché il software di intelligenza artificiale addestrato nella sintesi di immagini e video crea questi video. Questa IA può sovrapporre il volto di un soggetto (la fonte) a un video di un altro (il bersaglio). Forme più avanzate della tecnologia possono sintetizzare un modello completamente nuovo di una persona usando i gesti facciali della fonte e le immagini o i video del soggetto che desiderano impersonare.
La tecnologia può creare modelli facciali basati su dati visivi limitati, come un'immagine. Tuttavia, più dati l'IA deve elaborare, più realistico è il risultato.
Questo è il motivo per cui politici e celebrità sono così facili bersagli per i deepfake poiché ci sono così tanti dati visivi disponibili online che il software può usare. Poiché il software Deepfake è disponibile su piattaforme open source, le persone su Internet stanno continuamente perfezionando e sviluppando il lavoro degli altri.
Le origini della tecnologia AI di Deepfake
La tecnologia alla base di deepfakes è stata sviluppata per molteplici scopi. Proprio come Photoshop, il software ha usi professionali, di intrattenimento e hobbistici. E proprio come Photoshop, nonostante il creatore non abbia intenzioni dannose nella creazione del software, questo non ha impedito alle persone di utilizzarlo per scopi dannosi.
La tecnologia di scambio di volti è stata inizialmente utilizzata principalmente nell'industria cinematografica. Uno dei casi più famosi è nel film Rogue One: A Star Wars Story del 2016. Nel film, i cineasti hanno utilizzato la tecnologia di scambio di volti e sintesi video per ricreare il personaggio di Grand Moff Tarkin. Nel film è stata creata anche una versione più giovane della Principessa Leia. In entrambi i casi, i modelli dei volti degli attori originali sono stati sovrapposti agli attori stand-in.
App come Snapchat usano anche la tecnologia di scambio di volti per creare filtri divertenti per gli utenti. Gli sviluppatori dietro queste app perfezionano continuamente il rilevamento e il tracciamento dei volti per applicare questi filtri in modo più efficace.
Nel frattempo, altri hanno sviluppato strumenti di sintesi video per creare ologrammi a scopo educativo. Ad esempio, un progetto ha sviluppato un software di sintesi video e facciale in modo che la testimonianza dei sopravvissuti dell'Olocausto potesse essere presentata come ologrammi interattivi in un museo.
Perché Deepfakes rende le persone nervose
Quando le persone hanno capito che i truffatori e le persone che giocavano a bufale hanno usato Photoshop per creare immagini false, abbiamo dovuto diventare più scettici su ciò che consideravamo una prova. Fortunatamente, c'erano molti modi per rilevare se un'immagine era falsa, anche a occhio nudo.
Inoltre, la creazione di un'immagine convincente documentata in Photoshop è relativamente laboriosa. Non solo chiunque può mettere insieme due immagini e renderle realistiche.
Ma i deepfakes sono diversi. L'apprendimento automatico semplifica la vita 4 Algoritmi di apprendimento automatico che danno forma alla tua vita 4 Algoritmi di apprendimento automatico che danno forma alla tua vita Potresti non rendertene conto, ma l'apprendimento automatico è già tutto intorno a te e può esercitare un sorprendente grado di influenza sulla tua vita. Non mi credi? Potresti essere sorpreso. Leggi di più, ma in questo caso, semplifica notevolmente il falso. Innanzitutto, il software è ampiamente e liberamente disponibile. FakeApp, ad esempio, è una scelta popolare per la creazione di deepfake. Non hai bisogno di competenze avanzate per applicare un face-swap, il software lo farà per te.
Poiché l'IA e il deep learning aiutano a creare deepfakes, anche la tecnologia migliora e diventa più convincente a un ritmo allarmante. Non passerà molto tempo prima che queste modifiche non siano visibili ad occhio nudo.
In un mondo pieno di notizie false, i deepfake convincenti potrebbero rivelarsi una forza caotica contro ciò che crediamo essere vero.
L'aumento dei deepfakes sta avvenendo anche in un momento in cui anche la sintesi vocale dell'IA avanza rapidamente. L'intelligenza artificiale non solo può generare video falsi, ma può anche generare modelli vocali per le persone.
Ciò significa che non avresti bisogno di un sosia per far sembrare che un politico stia facendo una dichiarazione scandalosa. Puoi invece addestrare l'IA a imitare la loro voce.
Le conseguenze di Deepfakes
Le persone usano già deepfake per scopi dannosi. Le persone spesso usano FakeApp per creare video falsi di attrici di celebrità impegnate in contenuti per adulti.
Gal Gadot, Daisy Ridley ed Emma Watson sono solo alcune delle attrici colpite da falsi video per adulti. Questi deepfakes scambiano i volti delle attrici in video di star del cinema per adulti.
Mentre diverse piattaforme e alcuni siti Web per adulti hanno vietato questo tipo di video, ogni giorno ne appaiono di più. In effetti, alcuni siti Web creano video per adulti celebrità famosi in base alle richieste degli utenti.
Nella maggior parte dei paesi, nessuna legge tratta ancora questo tipo di contenuti, il che rende difficile il controllo.
Mentre siamo ancora lontani dalla distopia governata dalla disinformazione e dalle false prove video che vediamo in film come The Running Man, abbiamo già fin troppo familiarità con gli effetti delle notizie false Cosa sono le notizie false e come si diffondono Velocemente? Che cosa sono le notizie false e come si diffondono così rapidamente? Notizie false stanno affliggendo Internet e la parte peggiore è che la maggior parte delle persone non le riconosce quando le vede. Leggi di più .
Deepfakes può essere un potente strumento per diffondere disinformazione. Nessuno è stato incastrato per un crimine o ha simulato la loro morte usando deepfakes, ma cosa succede quando diventa difficile dire quali video sono davvero reali?
Le conseguenze dei deepfake utilizzati a fini politici sono duplici. In primo luogo, rende le notizie false molto più facili da diffondere. I video sono più probabili dei testi o delle immagini per convincere la gente che in realtà è successo qualcosa di fittizio.
Le persone credono già ai titoli di siti Web falsi senza prove a sostegno della loro storia. Improvvisamente, le storie false avranno "prove" che mostrano i politici che confessano errori o che fanno dichiarazioni oltraggiose.
D'altro canto, i deepfake potrebbero anche incoraggiare i politici a eludere la responsabilità. Potrebbero sempre facilmente affermare che una registrazione audio o video è in realtà un falso.
Come stiamo combattendo Deepfakes?
Mentre molte aziende tecnologiche si stanno prendendo il loro tempo per frenare i deepfake, una varietà di persone sta sviluppando strumenti per combattere i video falsi dannosi. L'intelligenza artificiale può combattere gli hacker e il crimine informatico Come l'intelligenza artificiale combatterà gli hacker moderni e il crimine informatico Come l'intelligenza artificiale combatterà gli hacker moderni e il crimine informatico Con una carenza di talenti nella sicurezza informatica e un'epidemia di criminalità informatica, come possono le aziende combattere gli hacker? Con intelligenza artificiale! Maggiori informazioni, ma è anche utile per rilevare la manomissione dell'IA nei video.
La AI Foundation ha creato un plug-in per browser chiamato Reality Defender per aiutare a rilevare contenuti di deepfake online. Un altro plugin, SurfSafe, esegue anche controlli simili. Entrambi questi strumenti mirano ad aiutare gli utenti di Internet a discernere i fatti dalla finzione.
Anche i siti Web di verifica dei fatti come Snopes si sono estesi alla creazione di video con documenti. Ma non hanno ancora gli strumenti per rilevare automaticamente i deepfake.
Anche il Dipartimento della Difesa degli Stati Uniti ha investito in software per rilevare i deepfake. Dopo tutto, cosa accadrebbe se un video convincente di un leader mondiale apparisse online, dichiarando guerra o un lancio di missili contro un altro paese? I governi hanno bisogno di strumenti per verificare rapidamente la legittimità di un video.
Conseguenze non intenzionali di Machine Learning
Non c'è dubbio che la tecnologia AI e il deep machine learning migliorano la nostra vita in molti modi. Ma la tecnologia ha anche conseguenze indesiderate.
Mentre i dati errati rappresentano un grave ostacolo agli algoritmi di apprendimento automatico, anche l'elemento umano ha un ruolo. È difficile prevedere in che modo le persone possono utilizzare determinate tecnologie per scopi dannosi. Puoi trovare ulteriori informazioni sull'apprendimento automatico e sugli errori passati nella nostra guida agli algoritmi di apprendimento automatico e perché non funzionano Cosa sono gli algoritmi di apprendimento automatico? Ecco come funzionano Cosa sono gli algoritmi di apprendimento automatico? Ecco come funzionano Gli algoritmi di machine learning sono progettati per semplificare la vita e migliorare i sistemi, ma possono andare storti con conseguenze negative. Leggi di più . E mentre potresti trovare difficile identificare i deepfake in quanto tali, puoi evitare le notizie false con le app di notizie intelligenti 5 app di notizie intelligenti per aiutarti a evitare le notizie false con rapporti più attendibili 5 app di notizie intelligenti per aiutarti a evitare le notizie false con rapporti più affidabili Vuoi allontanarti da notizie false? Puoi invece utilizzare queste app intelligenti per ottenere notizie verificate e neutrali. Leggi di più .
Scopri di più su: Intelligenza artificiale, Deepfakes, Hoaxes, .
