San Francisco contro le app di deepfake: richiesta di rimozione per contenuti non consensuali

Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisiva contro tredici applicazioni di face-swapping che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. In una lettera inviata ad Apple e Google, Chiu ha richiesto la rimozione immediata di otto app dall’App Store e cinque dal Play Store, sottolineando la gravità della situazione.

Chiu ha inoltre chiesto la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori di queste app e ha evidenziato come le due aziende abbiano incassato milioni di dollari, nonostante le loro politiche vietino esplicitamente contenuti pornografici, abusivi o molesti. La legge della California, infatti, proibisce di fornire supporto a servizi che producono materiale pornografico deepfake.

Questa non è la prima volta che l’ufficio del procuratore si muove in questo ambito; in passato, era già stata avviata un’azione legale contro sedici siti web dedicati alla stessa pratica. Un portavoce di Google, Dan Jackson, ha confermato che l’azienda ha già rimosso centinaia di app con funzioni di “nudificazione”, comprese quelle segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Apple, al momento, non ha rilasciato commenti ufficiali sulla questione.

Chiu ha definito la situazione “assolutamente scioccante”, mettendo in evidenza le conseguenze devastanti che queste pratiche possono avere sulle vittime, che vanno dalla reputazione danneggiata a ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli, non escludendo ulteriori azioni legali se necessario.

Questa iniziativa di San Francisco si inserisce in un contesto più ampio di crescente preoccupazione riguardo all’uso dell’intelligenza artificiale per creare contenuti dannosi e non consensuali. La lotta contro i deepfake e le immagini intime generate senza consenso è diventata una priorità per molte autorità, che cercano di proteggere i diritti e la dignità delle persone coinvolte.