Nasaksihan ng taong 2024 ang pagdagsa ng disinformation na hinimok ng AI.
Mula sa mga deepfake na video hanggang sa mga larawang manipulahin ng AI, ginamit ng mga malisyosong aktor ang artificial intelligence para maghasik ng kalituhan, linlangin, manipulahin, o manloko ng mga tao.
Sa 458 na fact-check na artikulo na inilathala ng Rappler mula Enero hanggang Disyembre 12, 2024, hindi bababa sa 57 — o 12% — ang may kinalaman sa AI-generated o manipulated na mga larawan, video, at audio. Karamihan o 44 ay mga fact check na nauugnay sa kalusugan.
Ang disinformation na hinimok ng AI ay naka-target sa mga pampublikong figure, kabilang ang mga news anchor, medikal na propesyonal, celebrity, pulitiko, sports personality, at religious figure.
Ang mga network ng disinformation ay nagpatibay ng mga sopistikadong taktika, tulad ng paggaya sa mga kagalang-galang na outlet ng balita upang magbigay ng kredibilidad sa mga kasinungalingan. Sa halip na mga lantad na pag-endorso, ginagamit ng mga network na ito ang AI para gumawa ng mga segment ng balita, na nagpapalabas na parang ang mga mamamahayag ay nakikipagpanayam sa mga health practitioner na nag-eendorso ng mga produkto.
Ang mga propesyonal sa kalusugan na may malalaking tagasunod sa social media ay naging pangunahing target. Si Dr. Willie Ong, isang kandidato sa pagkasenador, ay kapansin-pansing na-target, na may mga materyal na binuo ng AI na maling nagpapakita sa kanya ng pag-eendorso ng mga produktong pangkalusugan. Ang kanyang asawa, si Dr. Liza Ong, ay sumailalim din sa mga katulad na pag-atake.
Sa mga mamamahayag, ang mga kilalang anchor tulad nina Jessica Soho at Mel Tiangco ng GMA Network, gayundin ang anchor ng ABS-CBN na si Karen Davila, ay madalas na tinatarget ng disinformation na hinimok ng AI.
Ang CEO ng Rappler na si Maria Ressa ay nabiktima rin ng isang malalim na pekeng video na naglalarawan sa kanyang pag-endorso ng Bitcoin. Sa imbestigasyon ng Rappler, lumabas na isang Russian scam network na nagta-target sa mga madla sa Pilipinas ang nasa likod ng insidente.
Maging si Pangulong Ferdinand Marcos Jr., na higit na nakinabang sa mga kasinungalingan sa panahon ng halalan sa pagkapangulo noong 2022, ay na-target ng disinformation na hinimok ng AI. Sa kanyang ikatlong State of the Nation Address, kumalat online ang isang malalim na pekeng video na naglalarawan sa kanya na umiinom ng iligal na droga.
Ang mga kilalang personalidad sa pulitika tulad nina Bamban, Tarlac Mayor Alice Guo, Senator Risa Hontiveros, at Senator Raffy Tulfo ay na-target din ng AI-generated content.
Ang mga kilalang tao, parehong lokal at internasyonal, kabilang sina Taylor Swift, Jessy Mendiola, Small Laude, at Ivana Alawi, ay sumailalim sa disinformation ng AI. Ang mga sports star tulad ni Cristiano Ronaldo at Pampanga-based priest sa TikTok na si Father Fiel Parejo ay naging biktima din ng mga manipulasyong ito.
Sa kabila ng mga nakaaalarmang trend na ito, binanggit ng Meta president for global affairs na si Nick Clegg sa isang blog noong Disyembre 3 na habang umiiral ang disinformation na hinimok ng AI, nananatiling medyo mababa ang volume nito, na nagkakahalaga ng mas mababa sa 1% ng lahat ng maling impormasyon at disinformation na sinuri ng katotohanan sa panahon ng mga pangunahing panahon ng halalan sa buong mundo.
Mga hamon sa paglaban sa disinformation na hinimok ng AI
Nagpapakita ng mga natatanging hadlang ang fact-checking na binuo ng AI na nilalaman. Habang ang ilang mga tool ay magagamit upang tulungan ang mga mamamahayag, ang mga ito ay kadalasang magastos o kulang sa katumpakan.
Ang mga mamamahayag ay madalas na gumagamit ng mga pamamaraang nakakalipas ng oras, tulad ng pagsubaybay sa mga pinagmulan ng kahina-hinalang nilalaman at pagkuha ng mga paglilinaw mula sa mga apektadong indibidwal o institusyon.
Ito ay isang ibinahaging problema ng mga fact-checker sa buong mundo gaya ng inihayag sa Global Fact 11 conference sa Sarajevo, Bosnia and Herzegovina.
Inihalintulad ni Jency Jacob, namamahala sa editor ng organisasyong tumitingin sa katotohanan na nakabase sa India na BOOM, ang pakikipaglaban sa mga deepfakes sa “mga tangke na lumalaban gamit ang mga stick at bato,” sa panahon ng kumperensya ng Global Fact 11 sa Sarajevo, Bosnia at Herzegovina.
AI at ang halalan
Sa darating na 2025 midterm elections sa Pilipinas, inaasahan ng mga media practitioner ang pagdagsa ng disinformation na hinimok ng AI.
Bilang tugon, naglabas ang Commission on Elections (Comelec) ng mga alituntunin sa paggamit ng social media, na nangangailangan ng mga kandidato na ibunyag ang kanilang mga opisyal na account at anumang paggamit ng AI sa mga campaign materials.
Sa ilalim ng isang resolusyon, malinaw na binaybay ng poll body na ang paggamit ng AI upang magpalaganap ng disinformation at maling impormasyon sa panahon ng halalan ay itinuturing na isang paglabag sa halalan.
Inilunsad din ng Comelec ang Highest, Highest and Best in Halalan, isang task force na naglalayong kontrahin ang AI-driven disinformation sa telebisyon, radyo, print, at online.
Gayunpaman, kinilala ni Comelec Chairperson George Erwin Garcia ang mga limitasyon ng mga umiiral na batas, na binanggit ang lumang 1985 Omnibus Election Code, na nauna pa sa pagdating ng social media. Ang Fair Election Act of 2001, kasama ang hindi malinaw na probisyon nito para sa “anumang iba pang medium,” ay nananatiling nag-iisang legal na batayan para sa pag-regulate ng mga kampanya sa social media.
“We can regulate the candidates, at matatakot sila. Babantaan natin sila ng diskwalipikasyon, mga kaso ng paglabag sa halalan, at isa hanggang anim na taong pagkakakulong. Ngunit paano ang mga tagasuporta? Palaging sinasabi ng mga kandidato na supporters ang may kasalanan, hindi sila,” sabi ni Comelec chair Garcia sa panel discussion sa Rappler Social Good Summit noong Oktubre 19.
Ipinakita ng mga nakaraang halalan ang mahalagang papel ng social media sa pag-secure ng mga tagumpay, mula sa 2016 presidential bid ni Duterte hanggang sa networked disinformation at propaganda ni Pangulong Marcos Jr. na tumulong sa kanyang pamilya na mabawi ang Malacañang noong 2022.
Sa AI bilang isang bagong tool sa disinformation arsenal, paano magbubukas ang midterm elections sa Pilipinas? – kasama ang mga ulat mula kay Dwight de Leon/Rappler.com
