Apple vieta app di nudificazione e contenuti offensivi generati da AI

Apple ha recentemente aggiornato le sue linee guida per gli sviluppatori, introducendo un divieto per le applicazioni che utilizzano l’intelligenza artificiale per generare contenuti offensivi. Questo aggiornamento si estende anche a quelle app che si presentano come normali durante la fase di revisione, ma che in seguito rivelano funzionalità di nudificazione o simili.

Le nuove norme mirano a rafforzare i requisiti per le app che includono contenuti generati dagli utenti. Queste devono ora implementare sistemi per filtrare materiale offensivo, fornire strumenti per segnalare contenuti problematici e consentire agli utenti di bloccare account abusivi. È stato specificato che le funzionalità nascoste o non documentate sono assolutamente vietate, comprese le applicazioni che mascherano il proprio scopo durante la revisione, per poi attivare capacità dannose, un comportamento noto come bait-and-switch.

In aggiunta, Apple ha chiarito che rimuoverà le app che introducono funzioni non presenti nella versione sottoposta a revisione. Le linee guida legali sono state aggiornate per rafforzare il divieto di applicazioni che promuovono il traffico di esseri umani e lo sfruttamento di minori.

Secondo quanto riportato dall’azienda, nel corso dell’anno precedente, il processo di revisione ha portato al blocco di oltre 150.000 app e alla rimozione di 193.000 account sviluppatori per frode e abusi. Questo intervento segue un’azione dell’autorità di San Francisco, avvenuta a luglio, che ha ordinato a Apple e Google di rimuovere le app di nudificazione, sottolineando come le due aziende avessero tratto profitto dalle commissioni degli store. Un rapporto di aprile aveva inoltre evidenziato la presenza di diverse app di nudificazione su entrambi gli store, alcune delle quali erano state valutate come adatte ai minori.