Lo Stato inizia caccia a Grok e xAI

La recente ondata di azioni legali da parte di almeno 37 procuratori generali di stati e territori degli Stati Uniti ha scosso il settore tecnologico e ha acceso un dibattito globale sull'uso improprio di strumenti di intelligenza artificiale (AI) per la creazione di immagini sessuali non consensuali. Questi provvedimenti, lanciati da un gruppo bipartisan di 35 procuratori generali, mirano a indirizzare le preoccupazioni legate all'abuso di Grok, il chatbot sviluppato da xAI, che ha generato un'ondata di immagini sessuali e, in particolare, immagini di minori non consensuali. L'azione si è concretizzata in una lettera aperta indirizzata a xAI, in cui i procuratori chiedono misure immediate per proteggere il pubblico, soprattutto le donne e le ragazze, che sono state le principali vittime di tali contenuti. Il documento sottolinea l'importanza di rimuovere ogni forma di contenuto non consensuale, anche se la società non ha ancora adottato misure definitive, nonostante le normative federali che impongono tale obbligo. La lettera si inserisce in un contesto internazionale di attenzione da parte delle autorità regolatrici, che monitorano l'uso di modelli AI per la creazione di fake di natura intima e pornografia minorile.

L'episodio ha trovato conferma in un recente rapporto del Center for Countering Digital Hate, che stimola un'ondata di circa 3 milioni di immagini sessuali realistiche generate da Grok tra il 29 dicembre e il 9 gennaio, con oltre 23 mila immagini specificamente dedicate ai minori. Queste immagini sono state create non solo attraverso l'account di Grok su X, ma anche tramite il modello Grok Imagine, disponibile sul sito web dedicato, il quale non richiedeva alcuna verifica di età per accedere al contenuto. Questa mancanza di controlli ha permesso a utenti di generare materiali espliciti senza alcun filtro, alimentando un problema che le autorità stanno cercando di affrontare. Tra le reazioni, xAI ha rifiutato di commentare, mentre ha dichiarato che la sua risposta al rapporto di WIRED era "Legacy Media Lies", un termine usato per contestare la veridicità delle informazioni. Tuttavia, i procuratori generali hanno sottolineato che la capacità di Grok di generare immagini sessuali non consensuali è stata utilizzata da xAI come un "punto di vendita", evidenziando una responsabilità aziendale che va oltre la semplice tecnologia.

L'emergenza non si limita al solo ambito delle immagini: il problema si estende a una normativa più ampia, in cui metà degli Stati Uniti ha introdotto leggi di verifica d'età per limitare l'accesso ai contenuti erotici. Queste leggi, adottate in 25 stati, richiedono che gli utenti dimostrino di non essere minorenni per visualizzare materiali sessuali, ma il loro applicazione alle piattaforme come X e Grok restano incerte. Le autorità stanno cercando di capire come applicare tali normative a piattaforme non progettate inizialmente per ospitare contenuti di questo genere. Inoltre, il problema è aggravato dal fatto che i modelli AI, come Grok, non richiedono verifiche di età, rendendo difficile il controllo su chi accede a tali contenuti. Il Center for Countering Digital Hate ha evidenziato come la mancanza di un sistema di verifica abbia permesso la diffusione di immagini non consensuali, creando un ambiente in cui la privacy e la sicurezza dei minori sono a rischio.

Le azioni dei procuratori generali rappresentano un passo importante per affrontare il problema, ma non risolvono completamente le sfide legali e tecnologiche. In molti stati, ad esempio, le indagini sono in corso per valutare se le attività di xAI violino le leggi locali. A Arizona, il procuratore generale Kris Mayes ha aperto un'indagine il 15 gennaio, dichiarando che i report sull'uso di Grok per creare immagini sessuali non consensuali sono "profondamente disturbanti". Mayes ha sottolineato che le aziende tecnologiche non possono ignorare l'abuso di AI per la produzione di materiale pedopornografico, e ha invitato i cittadini a segnalare eventuali vittime. A California, il procuratore generale Rob Bonta ha inviato una lettera di cessazione e di rispetto a Elon Musk, richiedendo azioni immediate per fermare la creazione e la diffusione di immagini non consensuali. La risposta di xAI, seppur formale, ha portato a un'ipotesi che il modello non sia più utilizzato per generare immagini di minori. Tuttavia, l'indagine è ancora in corso, evidenziando la complessità del problema.

L'intersezione tra sicurezza dei minori e tecnologia AI è diventata un tema centrale per i legislatori, che hanno iniziato a adottare misure preventive. In dicembre, 42 procuratori generali hanno firmato una lettera a aziende AI, chiedendo misure aggiuntive per proteggere i bambini. Un gruppo di lavoro, formato da rappresentanti di molti stessi procuratori, ha poi discusso delle sfide emergenti legate all'AI, con il procuratore generale di North Carolina Jeff Jackson che ha dichiarato che la produzione di materiale pedopornografico da parte di AI dovrebbe essere una priorità. In Arizona, il deputato Nick Kupper ha presentato un progetto di legge che obbligerebbe i siti a verificare l'età degli utenti prima di ospitare contenuti espliciti, un'azione che si allinea con le leggi già esistenti che criminalizzano il materiale AI generato da minori. Allo stesso tempo, lo stato della Georgia ha annunciato l'intenzione di introdurre nuove leggi per perseguire chi crea immagini sessuali non consensuali utilizzando strumenti AI. Questi sforzi evidenziano una crescente preoccupazione per l'impatto sociale e legale degli AI, ma rimangono un'alternativa alle soluzioni tecniche, che spesso non riescono a tenere sotto controllo il problema. La strada verso una soluzione completa sembra lunga, ma le azioni dei procuratori generali segnano un passo significativo verso la protezione dei diritti dei cittadini.