Reklama na aplikaci pro úpravu videa PixVideo s umělou inteligencí byla zakázána, protože ukazovala digitální odstraňování oděvu z ženského těla bez jejího souhlasu. Reklama, která se na YouTube objevila v lednu, ukazovala na prvním panelu rozdělenou obrazovku s červenými čarami přes pas ženy a na druhém panelu holou kůži. Doprovodný text zněl: “Vymazat cokoliv [emoji srdce oči].”
Reklama vyvolala osm stížností k Úřadu pro reklamní standardy (ASA), přičemž kritici tvrdili, že sexualizuje ženy, podporuje nezodpovědné chování a způsobuje újmu. ASA rozhodla, že reklama redukovala ženy na sexuální objekt a naznačovala, že diváci mohou pomocí aplikace sundat někomu oblečení bez jeho svolení.
Mateřská společnost PixVideo Saeta Tech Ltd uznala, že reklama pravděpodobně způsobí urážku, ale tvrdila, že problém byl spíše v prezentaci než v samotném produktu. Společnost tvrdí, že její podmínky služby zakazují nahý nebo sexuálně explicitní obsah a automatické filtry zabraňují vytváření takových obrázků. Uvedla také, že aplikace není určena k odstranění oblečení.
Navzdory těmto zdůvodněním ASA zjistila, že reklama byla nezodpovědná, posílila škodlivý genderový stereotyp a pravděpodobně způsobila vážný přestupek. Společnost reklamy dobrovolně odstranila a zahájila interní audit svých marketingových praktik.
Rozhodnutí ASA zakazuje opětovné spuštění reklamy s odkazem na potřebu zajistit, aby budoucí reklama byla společensky odpovědná a vyhýbala se objektivizaci nebo sexualizaci žen. Incident zdůrazňuje rostoucí obavy ze zneužívání nástrojů poháněných umělou inteligencí k neoprávněné digitální manipulaci, zejména v souvislosti se zobrazením těla a zneužíváním pohlaví. Zákaz zdůrazňuje potřebu přísnějšího dohledu nad obsahem generovaným umělou inteligencí, aby se předešlo poškození a chránila práva jednotlivců.
