Reklama aplikacji PixVideo do edycji wideo wykorzystującej sztuczną inteligencję została zakazana za pokazywanie cyfrowego usuwania odzieży z ciała kobiety bez jej zgody. Reklama, która pojawiła się w styczniu na YouTube, pokazywała podzielony ekran z czerwonymi liniami w talii kobiety w pierwszym panelu i nagą skórą w drugim panelu. Towarzyszący tekst brzmiał: „Wymaż wszystko [emoji serca i oczu]”.
Reklama była powodem ośmiu skarg do Urzędu ds. Standardów Reklamowych (ASA), a krytycy twierdzili, że reklama seksualizuje kobiety, promuje nieodpowiedzialne zachowania i wyrządza krzywdę. ASA orzekło, że reklama sprowadza kobiety do obiektu seksualnego i sugerowa, że widzowie mogą używać aplikacji do ściągania ubrań bez ich zgody.
Saeta Tech Ltd, spółka matka PixVideo, przyznała, że reklama prawdopodobnie mogła urazić, ale argumentowała, że problem dotyczy prezentacji, a nie samego produktu. Firma twierdzi, że jej warunki świadczenia usług zabraniają treści nagich lub o charakterze jednoznacznie seksualnym, a automatyczne filtry uniemożliwiają tworzenie takich obrazów. Stwierdziła również, że aplikacja nie jest przeznaczona do zdejmowania ubrań.
Pomimo tych uzasadnień ASA uznała, że reklama była nieodpowiedzialna, wzmacniała szkodliwy stereotyp dotyczący płci i mogła spowodować poważne przestępstwo. Firma dobrowolnie usunęła reklamy i rozpoczęła wewnętrzny audyt swoich praktyk marketingowych.
Decyzja ASA zabrania ponownej emisji reklamy, powołując się na potrzebę zapewnienia, że przyszłe reklamy będą społecznie odpowiedzialne i pozwolą uniknąć uprzedmiotowienia lub seksualizacji kobiet. Incydent uwydatnia rosnące obawy związane z niewłaściwym wykorzystaniem narzędzi opartych na sztucznej inteligencji do nieuprawnionych manipulacji cyfrowych, szczególnie w kontekście obrazu ciała i wykorzystywania płci. Zakaz podkreśla potrzebę ściślejszego nadzoru nad treściami generowanymi przez sztuczną inteligencję, aby zapobiegać szkodom i chronić prawa jednostki.
