Mahigit sa dalawang dosenang mga internasyonal na organisasyong civil society ang tatawag sa mga pangunahing tech firm na palakasin ang kanilang mga patakaran sa AI para labanan ang “sexist at misogynistic” na disinformation na sumasalot sa mga social media platform, ayon sa draft ng isang open letter na nakita ng AFP noong Huwebes.
Ang liham sa mga punong ehekutibo ng anim na higante — Meta, X, YouTube, TikTok, Snapchat, at Reddit — ay kasunod ng online boom sa non-consensual deepfake porn pati na rin ang panliligalig at mga scam na pinagana ng mura, malawak na magagamit na mga tool sa artificial intelligence .
“Ito ay maliwanag na ang mga pinsalang ito ay hindi pantay na nararamdaman,” sabi ng liham, na nilagdaan ng 27 digital at human rights na organisasyon kabilang ang UltraViolet, GLAAD, ang National Organization for Women, at MyOwn Image.
“Sa partikular, ang mga kababaihan, mga taong trans, at mga hindi binary na tao ay katangi-tanging nasa panganib na makaranas ng masamang epekto ng nilalamang batay sa AI sa social media.”
Ang liham, na sinabi ng mga grupo na isapubliko sa Biyernes, ay gumawa ng isang dosenang rekomendasyon upang palakasin ang mga patakaran ng AI.
Kasama sa mga iyon ang malinaw na pagtukoy sa mga kahihinatnan para sa pag-post ng hindi pinagkasunduan na tahasang materyal — na dapat ay kasama ang pagsususpinde ng mga umuulit na nagkasala — pagpapatupad ng tool ng third-party upang matukoy ang mga visual na binuo ng AI, at malinaw na pag-label ng naturang nilalaman.
Ang mga grupo ay humingi din ng magkakaugnay na pamamaraan para sa mga user na mag-flag at mag-ulat ng mapaminsalang nilalaman at ang mga platform ay nagsasagawa ng komprehensibong taunang pag-audit ng mga patakaran nito sa AI.
– Misogynistic, sexist na pag-atake –
Ang liham ay dumating halos isang buwan bago ang malawakang sinisingil bilang unang AI halalan ng America noong Nobyembre 5. Ang mahigpit na karera sa White House ay nakakita ng isang firehose ng disinformation.
Ang partikular na target ng disinformation na may kasarian ay ang nominado ng Democratic Party na si Kamala Harris, na kinabibilangan ng baha ng misogynistic at sexist na mga salaysay na umaatake sa unang Black, South Asian at babaeng vice president sa kasaysayan ng US.
“Ang mga pinsalang ito ay nagpapatahimik sa amin online, lumalabag sa aming karapatang kontrolin ang aming sariling imahe, at baluktutin ang aming mga halalan,” sabi ni Jenna Sherman, ang direktor ng kampanya sa UltraViolet.
“Ngunit mas masahol pa, sila ay nag-normalize at kahit na algorithm ay nag-codify ng sekswal na pagsasamantala at nagpapatibay ng mga nakakapinsalang stereotype tungkol sa kasarian, sekswalidad, at pahintulot.”
Ang paglaganap ng non-consensual deepfakes ay lumalampas sa mga pagsisikap na i-regulate ang teknolohiya sa buong mundo, sabi ng mga eksperto, na may ilang mga photo app na digital na naghuhubad ng mga babae at minamanipula ang mga larawang nagpapalakas ng “sextortion” na mga raket.
Habang ang mga kilalang tao tulad ng mang-aawit na si Taylor Swift at aktres na si Emma Watson ay naging biktima ng deepfake porn, sinasabi ng mga eksperto na ang mga kababaihan na wala sa mata ng publiko ay pantay na mahina.
“Lalong pinadali ng mga teknolohiya ng AI ang paglikha at pagkalat ng panggigipit at pang-aabuso na nakabatay sa kasarian online,” sabi ni Ellen Jacobs, senior US digital policy manager sa Institute for Strategic Dialogue, na kabilang sa mga organisasyong pumirma sa liham.
“Kailangan namin ng epektibong mga patakaran na partikular na tumutugon sa mga mas mataas na panganib sa kababaihan, babae, at LGBTQ+ na tao.”
Ang mga platform ay hindi kaagad tumugon sa isang kahilingan para sa komento bago ang paglabas ng liham.
“Ipinakita ng mga pinakamalaking platform sa mundo na hindi sila nasangkapan upang mahawakan ang pagtaas ng AI-facilitated hate, harassment, at disinformation campaign, kabilang ang mga deepfakes at bot na maaaring magbuga ng imaheng nakabatay sa poot sa napakalaking sukat,” sabi ni Leanna Garfield, kaligtasan ng social media program manager sa GLAAD.
Ang mga platform ay “kailangang gumawa ng konkretong aksyon ngayon, upang ang lahat ay makaramdam ng ligtas online.”
ac/bgs
