Microsoft aggiorna l'IA che ha generato false foto hard di Taylor Swift

Microsoft ha aggiornato Designer, lo strumento di intelligenza artificiale capace di creare immagini a partire da indicazioni testuali, che sarebbe stato utilizzato per realizzare false foto hard di Taylor Swift. L'app adesso non permette di associare alcun termine sessualmente esplicito per la generazione di immagini simili, anche di personaggi famosi. Le finte immagini della popstar sono diventate virali: una di queste ha ottenuto oltre 47 milioni di visualizzazioni. La piattaforma X ha bloccato qualsiasi ricerca sull'artista.

Il sito 404 Media, che ha riportato la notizia dell’aggiornamento, ha riferito che le foto di nudo di Taylor Swift create grazie all'IA provenivano dal forum 4chan e da un canale Telegram in cui le persone usavano Designer proprio per generare immagini di celebrità con l'Intelligenza Artificiale.

 Prima che quelle di Swift venissero diffuse sui social, Designer impediva la realizzazione di contenuti digitando termini come "Taylor Swift nuda", ma gli utenti del canale Telegram e 4chan hanno capito che potevano aggirare le protezioni scrivendo il nome in modo errato e usando parole solo sessualmente allusive. 404 Media ha potuto verificare che queste lacune sono state risolte con un aggiornamento recente.

 "Stiamo indagando sulle segnalazioni e adottando le misure appropriate per affrontarle", aveva riferito un portavoce di Microsoft subito dopo la condivisione dei deepfake. "Il codice di condotta vieta l'uso dei nostri strumenti per la creazione di contenuti intimi per adulti o non consensuali e qualsiasi tentativo ripetuto di produrre contenuti contrari alle nostre politiche potrebbe comportare la perdita dell'accesso al servizio. Abbiamo team che lavorano proprio su un monitoraggio del genere, in linea con i principi di intelligenza artificiale responsabile, tra cui il filtraggio dei contenuti e il rilevamento degli abusi per creare un ambiente più sicuro per gli utenti", ha concluso la società di Redmond.