‘Ang pagsubaybay ay ang makinang pang-ekonomiya ng industriya ng tech…. Sa palagay ko kailangan nating basahin ang AI bilang halos derivative ng surveillance,’ sabi ni Meredith Whittaker, presidente ng nonprofit na Signal ng messaging app
Marami na ang nasabi tungkol sa artificial intelligence (AI) na may kapangyarihang magpakalat ng disinformation sa laki. Maaari rin bang sukatin ng AI ang modelo ng negosyo sa pagsubaybay kung saan binuo ang mga tool sa internet?
Tinalakay ng mga eksperto sa teknolohiya ang posibilidad na ito sa Ang AI Seriesisang espesyal na edisyon ng media outlet na Al Jazeera’s Studio B: Walang script kasama ang Rappler CEO at Nobel Peace Prize laureate na si Maria Ressa.
“Ang pagsubaybay ay ang makinang pang-ekonomiya ng industriya ng tech…. I think we have to read AI as almost a surveillance derivative,” sabi ni Meredith Whittaker, presidente ng secure messaging app nonprofit Signal, habang binanggit niya ang isang pag-aaral noong 2012 na kinikilala kung paano magagamit din ang data ng user na nakolekta ng mga social media platform para sanayin ang AI.
“Ito ay kumukuha mula sa modelo ng negosyo ng pagsubaybay na ito. Nangangailangan ito ng data ng pagsubaybay at ang mga imprastraktura na ginawa upang iproseso at iimbak ang data na ito. At gumagawa ito ng mas maraming data habang pinapataas nito ang surveillance ecosystem kung saan lahat tayo ay nakatira.”
Sa Nobel Prize Summit noong Mayo 2023, binatikos din ni Ressa ang modelo ng negosyo ng mga social media platform, kung saan sinusubaybayan at tina-target ang mga user na i-maximize ang pakikipag-ugnayan online at impluwensyahan ang gawi offline. Ang modelong ito, na tinawag niyang “surveillance for profit,” ay naging sanhi ng pagkalat ng disinformation, poot, at karahasan online.
Si Camille Francois, co-leader ng Innovation Lab on AI and Democracy sa Columbia University’s Institute of Global Politics, ay na-flag din ang bilis ng pag-deploy ng mga teknolohiya ng AI nang walang mga pagsusuri sa kaligtasan.
“Noong nagsasaliksik pa rin ng mga proyekto o pag-uusap sa mga practitioner, medyo nagkaroon kami ng karangyaan na tanungin ang ating sarili: ano ang ibig sabihin nito – halimbawa, para sa disinformation – na ngayon ang lahat ay maaaring gumawa ng sintetikong teksto? O ano ang ibig sabihin kapag alam natin na may mga bias at stereotype na naka-embed sa mga makinang ito? Paano natin iisipin ang (kanilang) epekto sa lipunan?” siya elaborated.
“At sa palagay ko, nagbabago ang sukat sa mga tuntunin ng pagkaapurahan ng mga tanong na iyon kapag, biglang, lahat ay may access sa mga teknolohiyang ito at bigla silang na-deploy nang napakabilis sa lipunan.”
Sa isang naunang episode ng Ang AI Seriesbinibigyang-diin ng mga eksperto na sina Mike Wooldridge at Urvashi Aneja, kasama si Ressa, kung paano makakalat ng disinformation at mapoot na salita ang mga tool ng AI tulad ng ChatGPT dahil sa kung paano sila sinanay sa data ng internet, na puno rin ng disinformation at hate speech.
“Ang mga desisyong iyon ay hindi ginawa dahil sinusuri nila ang iskolarsip … o kinikilala ang iba pang mga kahihinatnan sa lipunan,” iginiit ni Whittaker.
“Ang mga desisyon na iyon ay ginawa dahil bawat quarter, kailangan nilang mag-ulat sa kanilang board ng mga positibong hula o mga resulta sa paligid ng kita at paglago. Kaya mayroon kaming mga makapangyarihang teknolohiya na sa huli ay kinokontrol ng isang maliit na kumpanya na palaging uunahin ang (kita at paglago).
Sa regulasyon ng gobyerno
Dapat bang kontrolin ng gobyerno ang paggamit ng AI? Hindi pa, sabi ni Whittaker.
“Ang espasyo ng solusyon, sa aking pananaw, ay tila hindi nalalayo,” komento niya, at idinagdag na ang mga kamakailang ipinasa na batas sa tech regulation ay hindi umaatake sa modelo ng negosyo sa pagsubaybay na nagpapatakbo ng mga digital na platform.
“Ang mga solusyon ay kadalasang mukhang tulad ng pagpapalawak ng pagsubaybay at kontrol sa gobyerno, pagpapalawak ng surveillance apparatus ng malalaking tech na kumpanya sa…mga aktor ng gobyerno na magkakaroon ng kamay sa pagtukoy kung ano ang katanggap-tanggap na pananalita, kung ano ang katanggap-tanggap na nilalaman.”
Itinuro ni Whittaker ang pagtaas ng awtoritaryan na pamamahala sa buong mundo. Sa Estados Unidos, binanggit niya, ang mga isyu ng pangangalaga sa kalusugan ng reproduktibo na ginagawang kriminal o mga libro na ipinagbabawal ang namamayani. Samantala, sa Pilipinas, ang mga tagapagtaguyod ay inaatake online at offline dahil sa pagpuna sa gobyerno.
Iminungkahi ni Francois ang pagkakaiba-iba ng mga platform na hindi nauugnay sa pagsubaybay sa mga modelo ng negosyo ng kapitalismo at sa halip ay gumagana batay sa pampublikong interes, seguridad, at kaligtasan – tulad ng Whittaker’s Signal, halimbawa.
Ipinaliwanag ng isang artikulo noong Nobyembre 2023 sa website ng Signal na, pagsapit ng 2025, ang platform ay mangangailangan ng hindi bababa sa $50 milyon (humigit-kumulang P2.8 bilyon) para gumana ito, at idinagdag na ang halaga ay “napakaling kumpara sa iba pang sikat na messaging apps na hindi huwag mong igalang ang iyong privacy.”
Noong 2023, nakakuha ang Meta ng $134.90 bilyon sa kita habang nagkakaroon ng $88.15 bilyon sa mga gastos at gastos.
Iminungkahi din ni Whittaker ang “klasikong sagot” ng “mga manggagawa na nagsasama-sama upang gamitin ang kanilang kolektibong pagkilos upang itulak ang kanilang mga tagapag-empleyo.”
Bilang halimbawa, binanggit niya ang welga ng Writers Guild of America (WGA) noong 2023, kung saan huminto sa pagtatrabaho ang mga manunulat ng pelikula at palabas sa telebisyon nang ilang buwan habang hinahangad nila, bukod sa iba pa, ang paggamit ng AI na makontrol sa scriptwriting.
“(W) e dapat at nagagawa nating mag-imbento ng mga alternatibong futures, mga alternatibong modelo, at pagkatapos ay sabihin, sa katunayan, hindi ito ang gusto nating mamuhay sa teknolohiya,” sabi ni Francois.
“Hindi pagiging isang Luddite para sabihin na hindi ito mga modelo na dapat magpatuloy. Mag-imbento tayo ng mga alternatibong futures na mas nangangalaga ng karapatan, na mas mabuti para sa lipunan.”
Ang AI Series malalim ang pagsisid sa mga pangako at mga panganib ng AI, at kung ano ang magagawa ng publiko tungkol sa mga ito. Panoorin ito sa Al Jazeera’s Studio B: Walang script dito. – Rappler.com