Grok ospita ancora deepfake sessuali di donne famose. Il rischio per agenzie e SMM italiani

Grok, l'assistente AI di xAI, continua a ospitare deepfake sessuali non consensuali di donne famose. Lo rivela un'inchiesta di WIRED che ha trovato decine di immagini e video “nudificati” sul sito di Grok, inclusi soggetti politici di rilievo. Per agenzie e social media manager italiani, questo non è solo un problema etico: è un rischio concreto per la reputazione dei clienti e la sicurezza del brand.

Il problema in sintesi

Le piattaforme di AI generativa non filtrano adeguatamente i contenuti dannosi. Grok non fa eccezione. Le immagini generate con tool di “nudification” vengono caricate e rimangono accessibili. Il danno per l'immagine pubblica è immediato. Per un'agenzia che gestisce profili social o campagne per clienti, finire associati a questo tipo di materiale è un disastro.

Cosa cambia per agenzie e SMM

La fiducia è il nuovo fattore di differenziazione. Come abbiamo visto per gli AI Shopping Agent, anche qui il rischio di contenuti generati fuori controllo è altissimo. Ogni strumento AI che usate o consigliate ai clienti va verificato: le policy di moderazione sono trasparenti? Esiste un sistema di segnalazione rapido? In Italia, la legge sulla privacy e il diritto all'immagine sono severi. Una violazione può costare cara, sia in termini legali che reputazionali.

Come sfruttare questa lezione

Non basta scegliere un AI “popolare”. Dovete diventare i consulenti della sicurezza digitale per i vostri clienti. Fate un audit degli strumenti AI che utilizzate: testate la generazione di immagini, controllate i termini di servizio, imponete un processo di revisione umano prima della pubblicazione. Questo è un servizio a valore aggiunto che le imprese italiane stanno cercando. In Zenith OS, abbiamo integrato sistemi di moderazione e verifica per garantire che nessun contenuto generato dall'AI danneggi la credibilità dei nostri clienti.

Leggete l'inchiesta completa su WIRED per capire la portata del problema.