Una nuova indagine di The Verge ha scoperto che il chatbot Grok di xAI continua a generare immagini sessualizzate di persone reali, nonostante le affermazioni di Elon Musk secondo cui il sistema non produce più contenuti di questo tipo senza consenso.
L'outlet ha riportato che Grok sembra aver smesso di rimuovere i vestiti dalle immagini delle donne in alcuni casi, ma le stesse restrizioni non si applicano costantemente agli uomini.
Come è stato testato
Un reporter ha condotto test caricando immagini di se stesso e chiedendo a Grok di rimuovere digitalmente i vestiti. Secondo il rapporto, il chatbot ha eseguito il compito su più piattaforme, inclusa l'app Grok, l'interfaccia chatbot su X e il sito web Grok autonomo.
Il sito web non richiedeva un account per modificare le immagini, ha detto il reporter.
xAI ha recentemente dichiarato di aver preso provvedimenti per impedire a Grok di modificare immagini di persone reali in abbigliamento rivelatore, come costumi da bagno. Il reporter ha detto che quelle protezioni non impedivano al sistema di generare immagini alterate che lo mostravano in vari costumi da bagno, abbigliamento in stile fetish e pose sessualizzate.
Il rapporto ha anche detto che Grok ha generato un'immagine di "compagno nudo" e ha prodotto genitali che non erano stati esplicitamente richiesti, visibili attraverso abbigliamento in stile rete. Il reporter ha detto che Grok rifiutava raramente i prompt, sebbene alcune richieste portassero a immagini sfocate.
Milioni di immagini nude
La controversia è iniziata settimane prima, quando è stato scoperto che Grok aveva generato milioni di immagini sessualizzate in un periodo di 11 giorni. Il rapporto ha detto che ciò includeva deepfake non consensuali di persone reali e più di 23.000 immagini sessualizzate di bambini.
Questi risultati hanno portato a indagini in California e in Europa. Durante quel periodo, X è stata bandita in Indonesia e Malesia, sebbene l'Indonesia abbia successivamente revocato la sua restrizione.
Protezioni deboli
X ha detto di aver implementato misure tecnologiche per limitare la creazione di deepfake e immagini sessualizzate. The Verge ha riportato che queste misure bloccano alcuni metodi diretti ma possono ancora essere aggirate attraverso prompt modificati o indiretti.
