‘Ito talaga ang pagnanais na sukatin ang lahat…sa serbisyo ng paglago at kita…At siyempre, iyon ang makina ng kolonyalismo,’ sabi ng presidente ng The Signal Foundation na si Meredith Whittaker
MANILA, Philippines – Ang laganap, malalim na hindi pagkakapantay-pantay sa lipunan at kawalang-katarungan ang nagpapanatili sa pagkakahati-hati ng lipunan at inaapi ang mga marginalized na grupo sa loob ng libu-libong taon. Kaya ano ang mangyayari kapag nagdagdag ka ng teknolohiya sa halo?
Ito ang tinalakay ni The Signal Foundation president Meredith Whittaker at Rappler CEO at Nobel laureate na si Maria Ressa sa isang talakayan tungkol sa “Tech and Its Harms” sa 2024 Social Good Summit ng Rappler noong Sabado, Oktubre 19.
Tinalakay nina Whittaker at Ressa ang mga problemang nakapalibot sa naka-code na bias, na tumutukoy sa paraan ng pagsasama ng mga bias ng tao sa data at mga tool na pinapagana ng artificial intelligence. Halimbawa, ang 2020 na dokumentaryo Naka-code na Bias tinalakay ang pagtuklas ng mananaliksik na si Joy Buolamwini na ang mga teknolohiya sa pagkilala sa mukha ay hindi tumpak na nakakakita ng mga madilim na balat na mukha.
Sa panahon ng summit, ipinaliwanag ni Whittaker na dahil ang data ay impormasyong nakolekta tungkol sa mundong ating ginagalawan, isinasaalang-alang na nito ang ilang mga istruktura ng kapangyarihan sa mga tao at institusyon na umiiral sa lipunan ngayon.
“Ang data ay nag-encode ng mga istruktura at interes ng kapangyarihan at mga relasyon sa ekonomiya na hindi kailanman neutral. Iyon ay palaging magpapakita ng mga umiiral na hierarchy, mga rehimen ng racialization at pag-uuri, at (ito) ay hindi maaaring kunin bilang isang snapshot ng ating katotohanan, bilang isang bagay na kahit papaano ay layunin…. nang hindi isinasaalang-alang ang katotohanan na ito ay sumasalamin sa mga istrukturang ito ng kapangyarihan, “sabi niya.
Idinagdag ni Whittaker na ang data ay “ang sagot sa tanong ng makapangyarihan,” at “hindi kinakailangang salamin ng iba pang bahagi ng mundo.”
Pagsasamantala sa paggawa sa Global South
Karamihan sa mga talakayan na nakapalibot sa AI at tech ay nakatuon din sa mga isyu sa paggawa sa Global South, kabilang ang Pilipinas, na kilala sa murang paggawa at kasanayan sa Ingles. Ang malawakang paggamit ng AI ay nag-trigger ng mga takot sa paglilipat ng trabaho at nag-udyok sa mga manggagawa ng iba’t ibang mga industriya na pataasin ang kasanayan at muling pag-isipan ang kanilang mga kasalukuyang daloy ng trabaho.
“Kami sa Pilipinas ay gumawa ng maraming content moderation para sa mga kumpanya ng social media. Ginagawa rin namin ang paglilinis para sa malalaking modelo ng wika. Dalawang beses na halos kolonisasyon,” Ressa said.
Isang ulat mula sa Ang Washington Post nalaman na ang mga manggagawang nakabase sa Pilipinas na nag-uuri at naglalagay ng label sa data para sa mga modelo ng AI ay kadalasang binabayaran sa napakababang mga rate, at ang kanilang mga pagbabayad ay regular na naantala o pinipigilan. Natuklasan ng isa pang ulat mula sa Bloomberg na ang mga fast-food chain sa US na may umano’y AI-powered drive-thrus ay talagang umaasa sa mga manggagawang nakabase sa Pilipinas upang makuha nang tama ang mga order ng mga customer.
Hindi lang ito nangyayari sa Pilipinas. Ang mga outsourced AI na manggagawa na nakabase sa iba pang mahihirap na lugar, kabilang ang mga bansa sa Africa tulad ng Uganda at Kenya, ay binabayaran din ng napakaliit, sa kabila ng pagtatrabaho para sa bilyong dolyar na industriya.
Sinabi ni Whittaker na ang power imbalance sa pagitan ng mga binuo at umuunlad na bansa ay “maaaring hindi isang produkto ng teknolohiya,” ngunit sa halip ay hinihimok ng “uri ng modelo ng negosyo na nakikita ang malawakang pandaigdigang dominasyon bilang pangwakas na layunin, at mga istruktura mismo para sa layuning iyon.”
“Ito talaga ang pagnanais na sukatin ang lahat, hawakan ang lahat, upang maging lahat ng imprastraktura sa serbisyo ng paglago at kita na pinag-uusapan natin. At siyempre, iyon ang makina ng kolonyalismo. Yan ang makina ng imperyo,” she added.
Nagbabala din si Whittaker laban sa paniniwalang ang AI ay “sobrang kakayahan,” at sinabi na ang mga tao ay dapat sa halip ay tumingin sa “lalaki sa likod ng kurtina.”
“Kapag nangungulit tayo sa ibabaw, kadalasan ay mas kamukha nitong neokolonyalismong ito na naglilipat ng paggawa at naglilipat ng mga mapagkukunan sa mga kamay ng mga tech na kumpanyang ito kaysa sa napakalaking pagsulong ng siyensya sa mga autonomous na sistema,” sabi niya.
Armas ng teknolohiya para sa mga layuning militar
Ang modernong teknolohiya ay pinagsamantalahan din para sa digmaan, lalo na sa pagsalakay ng militar ng Israel sa Gaza, kung saan hindi bababa sa 42,600 Palestinian ang napatay mula noong Oktubre 2023 na pag-atake ng Hamas.
Binanggit nina Whittaker at Ressa ang isang programang pinapagana ng AI na tinatawag na Lavender, na idinisenyo upang tukuyin ang dapat na mga operatiba ng Hamas at Palestinian Islamic Jihad bilang mga potensyal na target ng pambobomba. Ang software ng Lavender ay umasa sa impormasyong nakolekta sa mga residente ng Gaza Strip, na nakuha sa pamamagitan ng mass surveillance.
+972 Magasinisang independiyenteng magasin na pinamamahalaan ng mga mamamahayag ng Israeli at Palestinian, ay nag-ulat na ang hukbo ng Israel ay “halos ganap na umasa” sa sistema ng pagtuklas ng Lavender sa mga unang yugto ng digmaan, nang hindi masusing sinusuri ang hilaw na data ng katalinuhan kung saan nakabatay ang mga pagpipilian ng makina.
Ginamit ng hukbo ng Israel ang Lavender data upang atakehin ang mga natukoy na target sa kanilang mga tahanan, sa gabi, kung kailan naroroon ang lahat sa kanilang mga pamilya. Ang +972 Magasin nalaman din ng ulat na kilala si Lavender upang makilala ang mga Palestinian na maluwag na nakaugnay sa mga militanteng grupo, o walang koneksyon sa kanila.
“Ito talaga, sa akin, ay naglalantad nang eksakto sa kapangyarihang kawalaan ng simetrya sa pagitan ng kung sino ang nangongolekta ng data, kung sino ang magpapasya kung ano ang ginawa dito, at kung kanino ang data ay nakolekta, at kung paano nito mahuhugis ang kanilang buhay o magdulot ng kanilang pagpatay,” Whittaker sabi. – Rappler.com
