NEW YORK — Ang mga pornograpikong malalalim na larawan ni Taylor Swift ay kumakalat online, na ginagawang ang mang-aawit ang pinakasikat na biktima ng salot na pinaghirapang ayusin ng mga tech platform at anti-abuse group.
Ang tahasang sekswal at mapang-abusong mga pekeng larawan ni Swift ay nagsimulang kumalat nang malawakan nitong linggo sa social media platform X.
Ang kanyang masigasig na fanbase ng “Swifties” ay mabilis na kumilos, na naglunsad ng isang kontra-opensiba sa platform na dating kilala bilang Twitter at isang #ProtectTaylorSwift hashtag upang bahain ito ng mas positibong larawan ng pop star. Ang ilan ay nagsabi na nag-uulat sila ng mga account na nagbabahagi ng mga deepfakes.
Sinabi ng deepfake-detecting group na Reality Defender na nasubaybayan nito ang isang delubyo ng hindi sinasang-ayunan na pornograpikong materyal na naglalarawan kay Swift, lalo na sa X. Ang ilang mga larawan ay dumaan din sa Facebook na pagmamay-ari ng Meta at iba pang mga platform ng social media.
“Sa kasamaang palad, kumalat sila sa milyun-milyon at milyon-milyong mga gumagamit sa oras na ang ilan sa kanila ay tinanggal,” sabi ni Mason Allen, pinuno ng paglago ng Reality Defender.
Natagpuan ng mga mananaliksik ang hindi bababa sa ilang dosenang natatanging mga imahe na binuo ng AI. Ang pinakalaganap na ibinahagi ay may kaugnayan sa football, na nagpapakita ng pininturahan o duguan na Swift na tumutol sa kanya at sa ilang mga kaso ay nagdulot ng marahas na pananakit sa kanyang malalim na pekeng katauhan.
BASAHIN: Si Pope Francis, biktima ng AI, ay nagbabala laban sa mga ‘perverse’ na panganib nito
Sinabi ng mga mananaliksik na ang bilang ng mga tahasang deepfakes ay lumaki sa nakalipas na ilang taon, dahil ang teknolohiyang ginamit upang makagawa ng mga naturang larawan ay naging mas madaling ma-access at mas madaling gamitin. Noong 2019, ipinakita ng isang ulat na inilabas ng AI firm na DeepTrace Labs na ang mga larawang ito ay napakaraming sandata laban sa mga kababaihan. Karamihan sa mga biktima, aniya, ay mga Hollywood actor at South Korean K-pop singers.
Sinabi ni Brittany Spanos, isang senior na manunulat sa Rolling Stone na nagtuturo ng kurso sa Swift sa New York University, na ang mga tagahanga ni Swift ay mabilis na kumilos bilang suporta sa kanilang artist, lalo na ang mga taong sineseryoso ang kanilang fandom at sa mga sitwasyon ng maling gawain.
“Ito ay maaaring maging isang malaking deal kung siya ay talagang ituloy ito sa korte,” sabi niya.
Sinabi ni Spanos na ang malalim na isyu sa pornograpiya ay nakahanay sa iba na mayroon si Swift sa nakaraan, na itinuturo ang kanyang kaso noong 2017 laban sa isang DJ ng istasyon ng radyo na umano’y nang-akap sa kanya; iginawad ng mga hurado si Swift ng $1 bilang danyos, isang kabuuan na tinawag ng kanyang abogado, si Douglas Baldridge, na “iisang simbolikong dolyar, ang halaga nito ay hindi masusukat sa lahat ng kababaihan sa sitwasyong ito” sa gitna ng kilusang MeToo. (Ang $1 na demanda ay naging trend pagkatapos, tulad ng sa 2023 countersuit ni Gwyneth Paltrow laban sa isang skier.)
Nang maabot para sa komento sa mga pekeng larawan ng Swift, itinuro ng X ang The Associated Press sa isang post mula sa safety account nito na nagsasabing mahigpit na ipinagbabawal ng kumpanya ang pagbabahagi ng mga hindi pinagkasunduan na mga hubad na larawan sa platform nito. Mahigpit ding binawasan ng kumpanya ang mga content-moderation team nito mula noong kinuha ni Elon Musk ang platform noong 2022.
“Ang aming mga koponan ay aktibong nag-aalis ng lahat ng mga natukoy na larawan at nagsasagawa ng mga naaangkop na aksyon laban sa mga account na responsable sa pag-post ng mga ito,” isinulat ng kumpanya sa X post noong Biyernes ng umaga. “Mahigpit naming sinusubaybayan ang sitwasyon upang matiyak na ang anumang karagdagang mga paglabag ay agad na matutugunan, at ang nilalaman ay aalisin.”
BASAHIN: Mga malalalim na larawan ng mga bata para sa online na pagsasamantala ‘isang umuusbong na banta’
Samantala, sinabi ng Meta sa isang pahayag na mariin nitong kinokondena ang “nilalaman na lumabas sa iba’t ibang serbisyo sa internet” at nagsumikap na alisin ito.
“Patuloy naming sinusubaybayan ang aming mga platform para sa lumalabag na nilalamang ito at magsasagawa kami ng naaangkop na aksyon kung kinakailangan,” sabi ng kumpanya.
Ang isang kinatawan para sa Swift ay hindi kaagad tumugon sa isang kahilingan para sa komento noong Biyernes.
Sinabi ni Allen na 90% ang tiwala ng mga mananaliksik na ang mga larawan ay nilikha ng mga modelo ng pagsasabog, na isang uri ng generative artificial intelligence model na maaaring makagawa ng mga bago at photorealistic na larawan mula sa mga nakasulat na senyas. Ang pinakakilala ay ang Stable Diffusion, Midjourney at OpenAI’s DALL-E. Hindi sinubukan ng grupo ni Allen na matukoy ang pinagmulan.
Ang Microsoft, na nag-aalok ng image-generator na bahagyang nakabatay sa DALL-E, ay nagsabi noong Biyernes na nasa proseso ito ng pagsisiyasat kung ang tool nito ay nagamit sa maling paraan. Tulad ng iba pang komersyal na serbisyo ng AI, sinabi nitong hindi nito pinapayagan ang “pang-adult o hindi pinagkasunduan na intimate content, at anumang paulit-ulit na pagtatangka na gumawa ng content na labag sa aming mga patakaran ay maaaring magresulta sa pagkawala ng access sa serbisyo.”
Tinanong tungkol sa Swift deepfakes sa “NBC Nightly News,” sinabi ng Microsoft CEO Satya Nadella sa host na si Lester Holt sa isang panayam na ipinalabas noong Martes na marami pang dapat gawin sa pagtatakda ng mga pananggalang ng AI at “kailangan nating kumilos nang mabilis dito.”
“Talagang ito ay nakakaalarma at nakakatakot, at samakatuwid ay oo, kailangan nating kumilos,” sabi ni Nadella.
Ang Midjourney, OpenAI at Stable Diffusion-maker Stability AI ay hindi kaagad tumugon sa mga kahilingan para sa komento.
Ang mga pederal na mambabatas na nagpakilala ng mga panukalang batas upang maglagay ng higit pang mga paghihigpit o gawing kriminal ang deepfake na porn ay nagpahiwatig na ang insidente ay nagpapakita kung bakit kailangan ng US na magpatupad ng mas mahusay na mga proteksyon.
“Sa loob ng maraming taon, ang mga kababaihan ay naging biktima ng hindi sinasang-ayunan na mga deepfakes, kaya ang nangyari kay Taylor Swift ay mas karaniwan kaysa sa napagtanto ng karamihan ng mga tao,” sabi ni US Rep. Yvette D. Clarke, isang Democrat mula sa New York na nagpakilala ng batas ay nangangailangan ng mga tagalikha na digitally watermark deepfake na nilalaman.
“Ang Generative-AI ay tumutulong na lumikha ng mas mahusay na deepfakes sa isang maliit na bahagi ng gastos,” sabi ni Clarke.
Si US Rep. Joe Morelle, isa pang New York Democrat na nagsusulong ng panukalang batas na magsasakriminal sa pagbabahagi ng deepfake na porn online, ay nagsabing nakakabahala ang nangyari kay Swift at naging mas lumaganap sa internet.
“Ang mga imahe ay maaaring pekeng, ngunit ang kanilang mga epekto ay tunay na totoo,” sabi ni Morelle sa isang pahayag. “Ang mga deepfake ay nangyayari araw-araw sa mga kababaihan saanman sa ating lalong digital na mundo, at oras na upang ihinto ang mga ito.”
