Un’inchiesta della BBC ha messo in luce una preoccupante rete di spammer che, tramite Facebook, diffondono immagini generate dall’intelligenza artificiale raffiguranti vittime dell’Olocausto. La mancanza di fotografie autentiche dai campi di concentramento ha spinto questi individui a produrre una serie di immagini inventate, come prigionieri che suonano il violino o coppie che si incontrano oltre le recinzioni. Queste rappresentazioni, sebbene completamente fittizie, hanno riscosso un sorprendente successo, accumulando decine di migliaia di like e condivisioni.
Pawel Sawicki, portavoce del Memoriale di Auschwitz, ha manifestato il suo sgomento di fronte a questa inquietante tendenza, definendola una “specie di strano gioco emotivo” che ignora la realtà storica e la sofferenza delle persone coinvolte. “Questo non è un gioco. Questo è un mondo reale, una sofferenza reale e persone reali che vogliamo e dobbiamo commemorare”, ha dichiarato.
Un business sconvolgente
L’indagine ha rintracciato molte di queste immagini fino a creatori di contenuti in Pakistan, che collaborano per monetizzare attraverso il programma di Meta. Uno di loro, Abdul Mughees, ha rivelato guadagni vicini ai 20.000 dollari, con oltre 1,2 miliardi di visualizzazioni in soli quattro mesi. Tra i contenuti pubblicati, si trovano immagini AI di vittime immaginarie e storie inventate, come bambini nascosti sotto i pavimenti o neonati abbandonati sui binari.
Questo fenomeno è noto come AI slop, un termine che descrive immagini e testi generati automaticamente di bassa qualità, prodotti in massa e diffusi ampiamente sui social. Pagine come “Timeless Tales” e “History Haven” pubblicano oltre 50 post al giorno, spesso rielaborando contenuti storici reali tramite modelli AI, ma con distorsioni o invenzioni totali di eventi e vittime.
La reazione dei musei e delle famiglie
Nel mese di giugno, il Museo di Auschwitz ha lanciato un allerta riguardo a questi account che rubano i suoi post, rielaborandoli con modelli di intelligenza artificiale e distorcendo dettagli storici. Questa pratica è stata definita dal museo come una “pericolosa distorsione” che “manca di rispetto alle vittime e alla loro memoria”. Le famiglie dei sopravvissuti si sono dichiarate profondamente turbate da tali rappresentazioni.
Sebbene Meta non promuova intenzionalmente la diffusione di storie false, il suo sistema tende a premiare i contenuti più popolari, creando un ambiente in cui la disinformazione prospera. La BBC ha identificato account simili anche in India, Vietnam, Thailandia e Nigeria, dove alcuni creatori pubblicano guide su come generare continuamente immagini storiche false e aggirare i sistemi di verifica, talvolta impersonando enti ufficiali.
Il dott. Williams dell’International Holocaust Remembrance Alliance ha avvertito che l’uso dell’intelligenza artificiale per commemorare l’Olocausto, sebbene possa avere buone intenzioni, comporta il rischio di far apparire la storia dell’Olocausto come qualcosa di inventato.
Dopo le segnalazioni del Memoriale di Auschwitz, Meta ha intrapreso azioni, rimuovendo diverse pagine e disabilitando gli account che violavano le regole su spam e comportamento non autentico. Tuttavia, la battaglia contro la disinformazione continua, sollevando interrogativi sulla responsabilità delle piattaforme social nel gestire contenuti sensibili e storicamente significativi.
