Una pubblicità per l’app di editing video AI PixVideo è stata vietata perché raffigurava la rimozione digitale di vestiti dal corpo di una donna senza il suo consenso. L’annuncio, apparso su YouTube a gennaio, mostrava un’immagine a schermo diviso: il primo pannello con scarabocchi rossi che coprivano la parte centrale della donna, e il secondo che mostrava la pelle esposta. Il testo di accompagnamento diceva: “Cancella qualsiasi cosa [emoji occhi-cuore]”.
L’annuncio ha attirato otto denunce alla Advertising Standards Authority (ASA), con i critici che hanno sostenuto che sessualizzava le donne, promuoveva comportamenti irresponsabili ed era dannoso. L’ASA ha stabilito che l’annuncio riduceva la donna a un oggetto sessuale e implicava che gli spettatori potessero utilizzare l’app per rimuovere i vestiti da qualcuno senza il suo permesso.
La società madre di PixVideo, Saeta Tech Ltd, ha ammesso che la pubblicità potrebbe essere offensiva, ma ha sostenuto che il problema risiede nella sua presentazione, non nel prodotto stesso. L’azienda afferma che i suoi termini di servizio vietano contenuti nudi o sessualmente espliciti e che i filtri automatizzati impediscono la generazione di tali immagini. Si afferma inoltre che l’app non è stata progettata per rimuovere gli indumenti.
Nonostante queste difese, l’ASA ha stabilito che l’annuncio era irresponsabile, rafforzava uno stereotipo di genere dannoso e poteva causare gravi offese. L’azienda ha rimosso volontariamente l’annuncio e ha avviato un audit interno delle proprie pratiche di marketing.
La sentenza dell’ASA vieta la riapparizione della pubblicità, con una direttiva per garantire che le pubblicità future siano socialmente responsabili ed evitino di oggettivare o sessualizzare le donne. L’incidente evidenzia le crescenti preoccupazioni sull’uso improprio degli strumenti basati sull’intelligenza artificiale per la manipolazione digitale non consensuale, soprattutto nel contesto dell’immagine corporea e dello sfruttamento basato sul genere. Il divieto sottolinea la necessità di un controllo più rigoroso dei contenuti generati dall’intelligenza artificiale per prevenire danni e proteggere i diritti individuali.
