YouTube contro i deepfake generati dall’AI

YouTube sta apportando modifiche alla sua politica sul cyberbullismo e sulle molestie

I contenuti che “simulano realisticamente” minori e altre vittime di crimini raccontando la loro morte violenta o altre esperienze non saranno più consentiti.

L’aggiornamento sembra prendere di mira un sottogenere di video di cronaca nera che utilizza l’intelligenza artificiale per creare immagini inquietanti di vittime, compresi i bambini, per poi raccontare le atrocità che sono state loro inflitte. 

In molti dei video, le violenze grafiche di casi noti sono descritte con voci infantili generate dall’intelligenza artificiale. Il materiale dei nastri è stato giudicato “disgustoso” dai parenti delle vittime ritratte.

Lo strike che elimina i contenuti da un canale e limita temporaneamente l’attività degli utenti sulla piattaforma seguirà la modifica della politica di YouTube. Ad esempio, un primo provvedimento impedisce agli utenti di pubblicare filmati per una settimana. 

Recentemente, YouTube e altre piattaforme hanno rilasciato strumenti creativi basati sull’intelligenza artificiale e nuove linee guida relative all’intelligenza artificiale (AI) nel processo di creazione dei contenuti, che possono creare confusione negli utenti. 

Ad esempio, TikTok ora impone ai fornitori di contenuti di identificare il materiale generato dall’IA come tale. Inoltre, YouTube ha rivelato linee guida rigorose per i cloni vocali AI dei musicisti, mentre per tutti gli altri le linee guida sono più permissive.

YouTube contro i deepfake generati dall'intelligenza artificiale-1

Cosa sono i “deepfake”

Un “deepfake” è un tipo di contenuto multimediale, come video o audio, che è stato creato o modificato utilizzando l’intelligenza artificiale, in particolare le reti neurali profonde.

LEGGI ANCHE:  A tutto AI con YouTube YouChat

Ecco una tabella che sintetizza alcune informazioni chiave sui deepfake:

DefinizioneUn “deepfake” è un contenuto multimediale creato o modificato dall’intelligenza artificiale per sostituire volti, voci o altri aspetti in modo convincente.
Tecnologia principaleLe reti neurali profonde sono utilizzate per addestrare modelli AI che possono apprendere e imitare caratteristiche specifiche di una persona o di un oggetto.
Applicazioni comuniI deepfake possono essere utilizzati per scopi artistici, divertenti o maliziosi, come creare video satirici, scene di film, o manipolare discorsi elettorali.
PreoccupazioniLe principali preoccupazioni riguardo ai deepfake includono la diffusione di notizie false, la diffamazione, la manipolazione delle elezioni e la violazione della privacy.
RilevamentoSono in corso sforzi per sviluppare strumenti di rilevamento in grado di individuare i deepfake, ma la tecnologia continua a evolversi.
YouTube contro i deepfake generati dall'intelligenza artificiale-2

Deepfake virali

Ci sono stati diversi esempi eclatanti di episodi di deepfake che hanno attirato l’attenzione del pubblico e dei media negli ultimi anni. Ecco alcuni esempi noti:

  1. Video deepfake di Barack Obama: Nel 2018, è stato creato un video deepfake dell’ex presidente degli Stati Uniti Barack Obama in cui sembrava parlare di cose che non aveva mai detto. Questo ha sollevato preoccupazioni sulla manipolazione delle dichiarazioni pubbliche dei leader politici.
  2. Video deepfake di Mark Zuckerberg: Nel 2019, è stato creato un video deepfake del CEO di Facebook, Mark Zuckerberg, in cui sembrava discutere di controllo delle menti e manipolazione. Questo video ha messo in evidenza le potenziali conseguenze per la disinformazione online.
  3. Deepfake di attori famosi in film: Alcuni deepfake hanno sostituito volti di attori famosi in scene di film o serie TV. Ad esempio, è stato creato un deepfake in cui il volto di Nicolas Cage è stato sovrapposto a quello di altri attori in varie scene cinematografiche.
  4. Deepfake di celebrità in video compromettenti: Alcuni deepfake hanno coinvolto celebrità in video pornografici falsi o in situazioni compromettenti. Questi casi hanno sollevato preoccupazioni sulla privacy e la diffamazione.
  5. Deepfake di discorsi politici: I deepfake sono stati utilizzati per manipolare i discorsi dei politici, facendo sembrare che dicessero cose fuorvianti o false.
LEGGI ANCHE:  YouTube ha lanciato tre nuove funzionalità per i live streaming!

Questi esempi dimostrano il potenziale pericoloso dei deepfake nella creazione di contenuti falsi e manipolati che possono influenzare l’opinione pubblica e causare danni sia a livello personale che sociale.

Esempi di deepfake eclatanti

Nel marzo del 2023, una foto che ritraeva Papa Francesco vestito con un piumino bianco Moncler è stata diffusa sui social media. L’immagine è stata rapidamente diffusa e condivisa, e molti hanno creduto che fosse autentica. Tuttavia, la foto era in realtà un deepfake, creato utilizzando un’intelligenza artificiale chiamata Midjourney.

Il creatore del deepfake, un anonimo utente di Twitter, ha dichiarato di aver creato l’immagine per divertimento, dopo aver assunto funghi allucinogeni. Tuttavia, l’immagine ha sollevato preoccupazioni per il potenziale uso dei deepfake per diffondere disinformazione.

Questo è un problema preoccupante, poiché significa che i deepfake possono essere utilizzati per creare contenuti che possono essere facilmente scambiati per veri.

YouTube contro i deepfake generati dall'intelligenza artificiale-4

Come riconoscere un deepfake

L’immagine del Papa in piumino Moncler è un esempio di come i deepfake possono essere utilizzati per diffondere disinformazione. Questa vicenda ha messo in luce il potenziale pericolo dei deepfake e la necessità di sviluppare strategie per prevenirne l’uso improprio.

LEGGI ANCHE:  È ufficiale: Logan Paul firma un contratto pluriennale con la WWE

Ecco alcuni consigli per riconoscere un deepfake:

  • Osserva attentamente i dettagli dell’immagine o del video. I deepfake possono avere errori evidenti, come sfocature o distorsioni.
  • Confronta l’immagine o il video con immagini o video reali della stessa persona. Se ci sono differenze significative, è probabile che si tratti di un deepfake.
  • Fai attenzione alle fonti che condividono l’immagine o il video. Se provengono da fonti non affidabili, è più probabile che si tratti di un deepfake.

Il nostro messaggio finale a riguardo

Nell’era digitale di oggi, la tecnologia deepfake, e la tecnologia AI in generale, sta diventando sempre più sofisticata, portando con sé una miriade di questioni etiche e legali. I deepfake utilizzano tecniche avanzate di intelligenza artificiale per creare video, immagini o registrazioni audio che sembrano sorprendentemente realistici, ma sono in realtà falsi. Questo può avere implicazioni significative, specialmente quando vengono coinvolti individui pubblici come il Papa.

È fondamentale essere consapevoli dell’esistenza di questa tecnologia e delle sue potenziali applicazioni ingannevoli. Vi incoraggio a mantenere uno spirito critico quando incontrate contenuti che sembrano insoliti o inverosimili, specialmente su internet. La verifica delle fonti e la ricerca di conferme da fonti affidabili sono passaggi chiave per distinguere tra realtà e finzione in questo ambito digitale in continua evoluzione.


Ispirato da un articolo originale di The Verge

Lascia un commento

Your email address will not be published.