La società xAI, di Elon Musk, ha reso noto che Grok non sarà più in grado di creare immagini sessualizzate di persone reali sul suo social network X. Si tratta di una risposta alle richieste degli utenti, dopo settimane di reazioni negative da parte dei consumatori e della politica e di indagini normative.
IA, Musk corre ai ripari dopo le accuse contro Grok per le immagini sessualizzate: no a manipolazioni di foto
''Abbiamo implementato misure tecnologiche per impedire all’account Grok di consentire la modifica di immagini di persone reali in abiti succinti come i bikini'', ha scritto xAI in un post condiviso tramite l’account X Safety.
''Questa restrizione si applica a tutti gli utenti, compresi gli abbonati a pagamento''.
L’annuncio arriva poche ore dopo che il procuratore generale della California Rob Bonta ha dichiarato che il suo ufficio sta indagando su xAI, che ha sede nella Silicon Valley, per la sua apparente ''produzione su larga scala di immagini intime non consensuali deepfake'.
Il governatore della California Gavin Newsom, che è spesso stato un sostenitore di Musk e delle sue aziende, ha dichiarato in un post su X mercoledì mattina: ''La decisione di xAI di creare e ospitare un terreno fertile per i predatori che vogliono diffondere deepfake di intelligenza artificiale sessualmente espliciti e non consensuali, tra cui immagini che spogliano digitalmente i bambini, è vile''.
Nelle ultime settimane sono state annunciate indagini in India, Malesia, Indonesia, Irlanda, Regno Unito, Francia e Australia, e dalla Commissione Europea. Indonesia e Malesia hanno entrambe emesso un divieto temporaneo su Grok.
Gli annunci sono arrivati in un momento in cui sono state diffuse critiche sul fatto che Grok avesse consentito agli utenti X di generare facilmente immagini sessuali e violente basate su foto reali di persone presenti sul social network, tramite semplici prompt testuali.
L’azienda di Musk ha inoltre affermato che la creazione e modifica delle immagini tramite Grok su X sarà disponibile solo per gli abbonati a pagamento.