YouTube sta apportando modifiche alla sua politica sul cyberbullismo e sulle molestie

I contenuti che “simulano realisticamente” minori e altre vittime di crimini raccontando la loro morte violenta o altre esperienze non saranno più consentiti.

L’aggiornamento sembra prendere di mira un sottogenere di video di cronaca nera che utilizza l’intelligenza artificiale per creare immagini inquietanti di vittime, compresi i bambini, per poi raccontare le atrocità che sono state loro inflitte. 

In molti dei video, le violenze grafiche di casi noti sono descritte con voci infantili generate dall’intelligenza artificiale. Il materiale dei nastri è stato giudicato “disgustoso” dai parenti delle vittime ritratte.

Lo strike che elimina i contenuti da un canale e limita temporaneamente l’attività degli utenti sulla piattaforma seguirà la modifica della politica di YouTube. Ad esempio, un primo provvedimento impedisce agli utenti di pubblicare filmati per una settimana. 

Le sanzioni aumentano e il canale può essere potenzialmente cancellato del tutto se la politica viene nuovamente violata entro 90 giorni.

Recentemente, YouTube e altre piattaforme hanno rilasciato strumenti creativi basati sull’intelligenza artificiale e nuove linee guida relative all’intelligenza artificiale (AI) nel processo di creazione dei contenuti, che possono creare confusione negli utenti. 

Ad esempio, TikTok ora impone ai fornitori di contenuti di identificare il materiale generato dall’IA come tale. Inoltre, YouTube ha rivelato linee guida rigorose per i cloni vocali AI dei musicisti, mentre per tutti gli altri le linee guida sono più permissive.

Cosa sono i “deepfake”

Un “deepfake” è un tipo di contenuto multimediale, come video o audio, che è stato creato o modificato utilizzando l’intelligenza artificiale, in particolare le reti neurali profonde.

Questa tecnologia è in grado di manipolare in modo convincente i volti, le voci o altri aspetti di una persona o di un oggetto all’interno di un file multimediale esistente.

Ecco una tabella che sintetizza alcune informazioni chiave sui deepfake:

Definizione	Un “deepfake” è un contenuto multimediale creato o modificato dall’intelligenza artificiale per sostituire volti, voci o altri aspetti in modo convincente.
Tecnologia principale	Le reti neurali profonde sono utilizzate per addestrare modelli AI che possono apprendere e imitare caratteristiche specifiche di una persona o di un oggetto.
Applicazioni comuni	I deepfake possono essere utilizzati per scopi artistici, divertenti o maliziosi, come creare video satirici, scene di film, o manipolare discorsi elettorali.
Preoccupazioni	Le principali preoccupazioni riguardo ai deepfake includono la diffusione di notizie false, la diffamazione, la manipolazione delle elezioni e la violazione della privacy.
Rilevamento	Sono in corso sforzi per sviluppare strumenti di rilevamento in grado di individuare i deepfake, ma la tecnologia continua a evolversi.

I deepfake sono diventati un argomento di grande interesse e preoccupazione, poiché la loro capacità di creare contenuti falsi e convincenti può avere gravi implicazioni per la società, la politica e la privacy delle persone.

Deepfake virali

Ci sono stati diversi esempi eclatanti di episodi di deepfake che hanno attirato l’attenzione del pubblico e dei media negli ultimi anni. Ecco alcuni esempi noti:

1. Video deepfake di Barack Obama: Nel 2018, è stato creato un video deepfake dell’ex presidente degli Stati Uniti Barack Obama in cui sembrava parlare di cose che non aveva mai detto. Questo ha sollevato preoccupazioni sulla manipolazione delle dichiarazioni pubbliche dei leader politici.
2. Video deepfake di Mark Zuckerberg: Nel 2019, è stato creato un video deepfake del CEO di Facebook, Mark Zuckerberg, in cui sembrava discutere di controllo delle menti e manipolazione. Questo video ha messo in evidenza le potenziali conseguenze per la disinformazione online.
3. Deepfake di attori famosi in film: Alcuni deepfake hanno sostituito volti di attori famosi in scene di film o serie TV. Ad esempio, è stato creato un deepfake in cui il volto di Nicolas Cage è stato sovrapposto a quello di altri attori in varie scene cinematografiche.
4. Deepfake di celebrità in video compromettenti: Alcuni deepfake hanno coinvolto celebrità in video pornografici falsi o in situazioni compromettenti. Questi casi hanno sollevato preoccupazioni sulla privacy e la diffamazione.
5. Deepfake di discorsi politici: I deepfake sono stati utilizzati per manipolare i discorsi dei politici, facendo sembrare che dicessero cose fuorvianti o false.

Questi esempi dimostrano il potenziale pericoloso dei deepfake nella creazione di contenuti falsi e manipolati che possono influenzare l’opinione pubblica e causare danni sia a livello personale che sociale.

È importante essere consapevoli di questa tecnologia e delle sue implicazioni.

Esempi di deepfake eclatanti

Nel marzo del 2023, una foto che ritraeva Papa Francesco vestito con un piumino bianco Moncler è stata diffusa sui social media. L’immagine è stata rapidamente diffusa e condivisa, e molti hanno creduto che fosse autentica. Tuttavia, la foto era in realtà un deepfake, creato utilizzando un’intelligenza artificiale chiamata Midjourney.

Il creatore del deepfake, un anonimo utente di Twitter, ha dichiarato di aver creato l’immagine per divertimento, dopo aver assunto funghi allucinogeni. Tuttavia, l’immagine ha sollevato preoccupazioni per il potenziale uso dei deepfake per diffondere disinformazione.

L’immagine del Papa in piumino Moncler è stata così realistica che molti non sono stati in grado di distinguere tra l’immagine reale e il deepfake.

Questo è un problema preoccupante, poiché significa che i deepfake possono essere utilizzati per creare contenuti che possono essere facilmente scambiati per veri.

Come riconoscere un deepfake

L’immagine del Papa in piumino Moncler è un esempio di come i deepfake possono essere utilizzati per diffondere disinformazione. Questa vicenda ha messo in luce il potenziale pericolo dei deepfake e la necessità di sviluppare strategie per prevenirne l’uso improprio.

Ecco alcuni consigli per riconoscere un deepfake:

• Osserva attentamente i dettagli dell’immagine o del video. I deepfake possono avere errori evidenti, come sfocature o distorsioni.
• Confronta l’immagine o il video con immagini o video reali della stessa persona. Se ci sono differenze significative, è probabile che si tratti di un deepfake.
• Fai attenzione alle fonti che condividono l’immagine o il video. Se provengono da fonti non affidabili, è più probabile che si tratti di un deepfake.

Il nostro messaggio finale a riguardo

Nell’era digitale di oggi, la tecnologia deepfake, e la tecnologia AI in generale, sta diventando sempre più sofisticata, portando con sé una miriade di questioni etiche e legali. I deepfake utilizzano tecniche avanzate di intelligenza artificiale per creare video, immagini o registrazioni audio che sembrano sorprendentemente realistici, ma sono in realtà falsi. Questo può avere implicazioni significative, specialmente quando vengono coinvolti individui pubblici come il Papa.

È fondamentale essere consapevoli dell’esistenza di questa tecnologia e delle sue potenziali applicazioni ingannevoli. Vi incoraggio a mantenere uno spirito critico quando incontrate contenuti che sembrano insoliti o inverosimili, specialmente su internet. La verifica delle fonti e la ricerca di conferme da fonti affidabili sono passaggi chiave per distinguere tra realtà e finzione in questo ambito digitale in continua evoluzione.

Ricordate, l’integrità e la verità sono valori fondamentali in un mondo sempre più digitalizzato. È responsabilità di tutti noi rimanere informati, critici e consapevoli degli impatti che queste tecnologie possono avere sulla società.

---

Ispirato da un articolo originale di The Verge