Si Honey Carandang, isang psychologist, ay nagba-browse sa kanyang Facebook feed nang makita niya ang video na itinatampok ang CEO ng Rappler na si Maria Ressa na “nag-uusap” tungkol sa diabetes.
Ang video ay isang deepfake na gumamit ng dating naitala na panayam kay Ressa at binago ito gamit ang lipsync at voice spoofing na mga teknolohiya — dalawa sa pinakakaraniwang kilalang generative AI na teknolohiya na ginagamit upang makagawa ng mga deepfakes.
Si Ressa ay hindi kailanman nagsulong ng anumang lunas sa diabetes. Mula noon ay naglathala ang Rappler ng isang post sa social media na nagbabala sa publiko laban sa partikular na deepfake na ito. Iniulat din nito ang isyu sa Meta, ang may-ari ng Facebook.
Agad na ibinaba ng social media platform ang orihinal na page na nagpakalat ng peke. Ngunit inalerto ng mga nag-aalalang user ang Rappler sa iba pang mga pahina na nagpapakalat din ng parehong pekeng nilalaman.
Si Ressa mismo ay sinubukang iulat ang mga ad sa pamamagitan ng feature ng pag-uulat ng Facebook. Noong Sabado, Agosto 24, nakatanggap siya ng tugon mula sa automated moderation system ng Facebook na nagsabing hindi inalis ng platform ang video.
Ang Ressa deepfake ay hindi lamang ang isa na naglalako ng mga kahina-hinalang lunas na may kaugnayan sa diabetes sa social media. Sa ngayon, ang fact-check team ng Rappler ay nakapag-fact check na sa mahigit isang dosenang claim na may kaugnayan sa mga kahina-hinalang remedyo sa diabetes.
Marami sa mga pekeng ito, na na-promote sa pamamagitan ng programmatic advertising, ay hindi kailanman na-certify ng mga awtoridad sa kalusugan. Ang mga teknolohiyang generative AI, gayunpaman, ay ginagawang mas mabisa at nakakumbinsi ang pag-promote ng mga kahina-hinalang remedyong ito.
As Carandang put it, “It was made to appear na siya (Ressa) talaga ang nagsasalita.” Dagdag pa niya, “Kung hindi ko kilala si Maria, maniniwala ako.”
Mahina na merkado
Hindi lang si Ressa ang personalidad na sinasamantala ng mga manloloko ang kapangyarihan at reputasyon.
Ang isang mabilis na pagsusuri ay nagsiwalat na ang page na nagpakalat ng ad ay nagpapatakbo din ng ilang iba pang mga ad na nagtatampok ng iba pang mga personalidad na nagpo-promote ng katulad, kung hindi ang eksaktong parehong, mensahe. Kabilang dito ang mga kilalang tao na sina Vilma Santos, Lucy Torres, at Regine Velasquez.
Sa pagtugon sa mga tanong ng Rappler, sina Santos at Velasquez ay parehong nagpadala ng mga mensahe sa pamamagitan ng kani-kanilang mga kinatawan na tinatanggihan na sila ay nag-eendorso ng anumang paggamot sa diabetes.
“FAKE ang video na yan at gawa-gawa lang. Walang katotohanan yan,” Santos said in a statement.
“Nananawagan ako sa mga taong sangkot sa maling impormasyong ito na agad na tanggalin ang nasabing video at wakasan ang ganitong uri ng aktibidad kung hindi ay gagawin ang naaangkop na legal na aksyon upang maprotektahan ang aking interes.”
Itinanggi rin ni Velasquez ang pag-endorso ng anumang uri ng gamot para sa paggamot ng diabetes. “Anumang uri ng pag-print, audio, o video na naglalarawan sa akin sa oras na ito ng paggawa ng anumang uri, pabayaan ang pagpapayo sa sinuman kung ano ang gagawin sa kanilang insulin, ay isang pekeng at ito ay isang nakakainis, nakasusuklam na kasinungalingan.”
Potensyal na pinsala
Ang nakakaalarma sa serye ng mga deepfakes na ito ay ang payo na ibinibigay nito sa mga pasyente ng diabetes: na dapat nilang itapon ang mga kasalukuyang remedyo tulad ng insulin at metformin sa pabor sa isang remedyo sa bahay at isang hindi natukoy na kapsula.
Ang insulin at metformin ay mga paggamot para sa pamamahala ng asukal sa dugo na kadalasang inirereseta ng mga endocrinologist sa mga pasyenteng may diabetes, isang karaniwang karamdaman sa Pilipinas.
Humigit-kumulang 4.3 milyong Pilipino ang na-diagnose na may diabetes noong 2021. Tinataya ng mga eksperto na milyon-milyon pa ang malamang na hindi masuri. Ang diabetes ay isa rin sa mga nangungunang sanhi ng pagkamatay sa Pilipinas noong 2023, ayon sa Philippine Statistics Authority.
Sa pekeng Ressa video, maling pinayuhan ng Nobel laureate ang mga pasyente ng diabetes na “itapon” ang anumang insulin o metformin na mayroon sila. Sinasabi rin niya na ang mga benta ng mga gamot na ito ay bumaba ng 76% dahil umano sa isang “kilalang endocrinologist” na “nagdulot ng kaguluhan sa online pagkatapos magbunyag ng isang natural na paraan upang maalis ang type 2 diabetes nang hindi gumagamit ng mga gamot na ito.”
Hindi pinangalanan ng video ang “kilalang endocrinologist.”
Ang post na nagpakalat nito ay naka-link lamang sa tila isang website na nagpo-promote ng mga layunin sa kalusugan at fitness.
Ang website ay nagsasalita tungkol sa mga personalized na plano sa pagkain at hinihimok ang mga user na “kumuha ng konsultasyon” sa pamamagitan ng pagbibigay ng kanilang pangalan at email address. Hindi ito nagbibigay ng anumang partikular na siyentipikong impormasyon tungkol sa diabetes.
“Hinahalo nila ang siyentipikong ebidensya sa mga kasinungalingan, “sabi ng endocrinologist na si Nemecio Nicodemus sa Rappler.
May ilang katotohanan ang sinasabi ng mga video, sabi ni Nicodemus. “May mga pag-aaral talaga na nagpapahiwatig na ang cinnamon ay maaaring magpababa ng asukal sa dugo. Gayunpaman, nagbabala siya na ito (cinnamon) ay isang napakahinang sangkap na nagpapababa ng asukal sa dugo. “Samakatuwid, sa pamamagitan lamang ng pagkuha nito nang mag-isa, ang iyong diyabetis ay hindi makokontrol ng sapat.”
Pangunahing sanhi ng kamatayan
Ang mga pagsisikap na pang-promosyon tulad ng mga ito ay nagta-target sa isang malaking potensyal at kumikitang merkado.
Ang Ressa deepfake ay hindi nagbanggit ng isang partikular na produkto. Ang Glufarelin, isang produktong gatas na ibinebenta sa mga diabetic at ang mga ad ay ilang beses nang na-fact check ng Rappler, ay nagbebenta ng humigit-kumulang P600 hanggang P700 bawat lata. Ang Golden Insu, isa pang produkto na nakuha sa maraming fact-check ng Rappler, ay nagbebenta ng humigit-kumulang P500. Ang parehong mga produkto ay hindi nakarehistro sa FDA.
Kaya naman hindi nakakagulat na ang mga platform ng social media ay napuno ng nilalaman at advertising na nagpo-promote ng mga dapat na remedyo sa sakit na ito.
Ang mga pasyenteng nabubuhay na may diyabetis ay maaaring maging partikular na mahina sa manipulative advertising tulad ng mga ito dahil, sa kasalukuyan, walang siyentipikong ebidensya na nagpapakita na ang diabetes ay maaaring gumaling, ipinaliwanag ni Nicodemus.
“Ang mga gamot na ibinibigay namin sa aming mga pasyente ay pangunahing para sa kontrol ng diabetes. Talagang walang paggamot na nagsasabing kapag ininom mo ito, mawawala ang iyong diyabetis.
Ang diabetes, ayon sa mga endocrinologist, ay isang progresibong sakit. Nangangahulugan ito na ito ay lumalala sa paglipas ng panahon.
Ang tanging paraan upang maiwasan ang mga komplikasyon, ayon kay Nicodemus, ay sa pamamagitan ng pagtiyak na kinokontrol ng pasyente ang kanyang asukal sa dugo. Nangangahulugan ito na kailangang tiyakin ng mga pasyente na umiinom sila ng gamot upang mapababa ang asukal sa dugo, kabilang ang insulin, bukod sa iba pa, bilang isang paraan ng paggamot.
Sinabi ni Aurora Macaballug, presidente ng Philippine College of Endocrinology Diabetes and Metabolism (PCEDM), sa Rappler sa isang email na kung itinigil ng isang taong may diabetes (PLWD) ang kanyang mga gamot at gumamit ng maling payo, maaari siyang ” nagkakaroon ng mga komplikasyon kapwa talamak at talamak.”
Halimbawa, sinabi ni Macaballug na ang isang PLWD ay maaaring magkaroon ng hyperglycemic hyperosmolar crisis. Ito ay isang malubhang komplikasyon na nangyayari kapag ang mga antas ng asukal sa dugo ay napakataas sa mahabang panahon. Ang hyperglycemic hyperosmolar state ay isang kondisyon na nagbabanta sa buhay ng isang taong may diabetes na maaaring humantong sa matinding pag-aalis ng tubig at pagkalito, pagkahilo, o kahit na coma.
Ang isang pasyente ay maaari ding maging acidic/ketotic, ibig sabihin ang dugo ay nagiging masyadong acidic dahil sa kakulangan ng insulin. Ang ketoacidosis na nauugnay sa diabetes ay maaaring nakamamatay kung hindi ginagamot.
Ang hindi pinamamahalaang diabetes, ayon kina Macaballug at Nicodemus, ay maaari ding magresulta sa mga komplikasyon sa bato, puso, at/o utak, at maaaring nakamamatay.
Pagsasamantala sa mga kilalang personalidad
Ang mga deepfakes na nagtatampok kay Ressa, Santos, Torres, at Velasquez ay kumakatawan lamang sa dulo ng malaking bato ng malaking problema sa disinformation sa paligid ng mga produktong pangkalusugan na may kaugnayan sa diabetes.
Si Carandang, na naglalarawan sa kanyang sarili bilang “borderline diabetic,” ay natagpuan ang kanyang sarili na binomba ng iba’t ibang mga patalastas na may kaugnayan sa diabetes. Sinabi niya na nagsimula ito noong nag-research siya tungkol sa diabetes sa YouTube mga limang buwan na ang nakalipas.
Sa katunayan, ilang araw matapos makita ang deepfake na nagtatampok kay Ressa, nakita ni Carandang ang isa pang video na nagtatampok kay Father Carmelo “Tito” Caluag, incumbent Caritas Philippines executive director. Sinabi ni Carandang na ang Caluag video ay nagsasabi rin ng mga bagay na sinasabi ni Ressa.
Ang isa pang page na iniulat ng mga nag-aalalang user sa Rappler ay mayroong mga ad na tumatakbo, na nag-promote ng parehong Ressa deepfake at isa pang deepfake ng aktor na si Aga Muhlach. Inulit ng Muhlach deepfake ang parehong spiel na ginamit sa Vilma Santos deepfake. (Tingnan ang screenshot sa ibaba)
Sa katunayan, ipinakita ng mabilisang paghahanap sa library ng mga ad sa Facebook na, noong Agosto 21, 2024, hindi bababa sa 4,300 aktibong ad ang gumamit ng keyword na “diabetes”. Kung pinalawak ang paghahanap upang magsama ng mga hindi aktibong ad mula noong Mayo 2018, magiging maayos ang resulta sa mahigit 50,000 aktibo at hindi aktibong ad.
Marami sa mga ad na ito ang nagpo-promote ng mga kahina-hinalang produkto.
Minsan, inamin ni Carandang na bumili siya ng isang produkto dahil ang umano’y nag-eendorso nito ay ang kilalang endocrinologist na si Augusto Litonjua. Si Litonjua, ang founding president ng Philippine Society of Endocrinology and Metabolism, ay hindi kailanman nag-endorso ng supplement.
“Binili ko ang produkto dahil maganda ang ad at si Dr. Litonjua ay isang mahigpit na tao.” Nabanggit din niya na ang ad ay napakapaniwala at ang mga ad na nakita niya ay hindi kailanman tinanggal.
Kailangan ng aksyon
Dahil sa kinubkob ng mga hindi makatotohanang promosyon na naging mas madalas nang tumama ang pandemya, sinabi ni Macaballug na sinubukan ng PCEDM na tugunan ang problema sa pamamagitan ng paghahain ng reklamo bilang isang organisasyon sa cybercrime division. Sinubukan naming makipag-ugnayan sa cybercrime unit ng National Bureau of Investigation, ngunit wala kaming nakuhang anumang tugon. I-update namin ang kwentong ito kapag ginawa namin.
“Sinabi sa amin na tanging ang mga mukha o pangalan ay ilegal na ginamit ang maaaring magsampa ng mga reklamo,” sabi ni Macaballug.
Ang isang endocrinologist, aniya, ay talagang ginawa, ngunit ang kaso ay hindi umunlad sa ilang kadahilanan.
Kaagad pagkatapos na makita ang Ressa deepfake, isang gulat na Carandang ang lumapit kay Ressa upang suriin kung siya nga ang gumawa ng mga pahayag na iyon. Sa oras na umabot siya, naka-alerto na sina Ressa at Rappler tungkol sa sirkulasyon ng deepfake na nakita ni Carandang.
Iniulat ito ng Rapper sa Meta, na agad na tinanggal ang orihinal na pahina na nagpakalat ng video. Ngunit tulad ng sa mga nakaraang pagkakataon ng disinformation, ito ay isang whack-a-mole na laro.
Di-nagtagal pagkatapos tanggalin ng Meta ang page na orihinal na nagpakalat ng mga deepfakes ng diabetes, lumabas ang iba pang mga page na nagpapalipat-lipat ng parehong ad. Ang post na nakita ni Carandang ay ipinost ng ibang page. Aktibo pa rin ito noong Martes, Agosto 27.
Nababahala si Carandang na baka maniwala ang mga tao sa ad dahil sa kredibilidad ni Ressa.
“Kailangang may parusa,” sabi ni Carandang, na nagtatrabaho sa Cyberguardians PH, isang non-profit na nagtataguyod para sa proteksyon ng mga bata at kabataan sa cyberspace. Ikinalungkot niya kung paano naging normal ang pagsisinungaling sa social media.
“Hindi na lang ito krimen, isa na itong paraan ng pamumuhay. Na-normalize na. ‘Yan ang nakakatakot,” sabi ni Carandang. (Na-normalize na. Ito ang nakakatakot.”)
Hinimok ni Nicodemus ang publiko na maging mapagbantay. “Bago ka maniwala, siguraduhin mong i-validate at i-verify mo. Sa larangan ng pangangalagang pangkalusugan, ang pinakamahusay na mapagkukunan ay ang iyong doktor.” – Rappler.com
