WASHINGTON — Hilingin kay Claude na gumawa ng polyetong kritikal kay Pangulong Donald Trump o King Charles III ng Britain, at ang chatbot ni Anthropic ay obligado.
Hinimok na gawin din ito para sa hari ng Thailand, ang korona ng prinsipe ng Saudi Arabia o ang pinuno ng China, at tinanggihan ang modelo ng artificial intelligence (AI).
Ito ay isang pangunahing paghahanap mula sa isang pag-aaral ng Meta Oversight Board na inilabas noong Huwebes, na nagpapakita na ang mga pangunahing sistema ng AI, kabilang ang mga itinayo sa Estados Unidos, ay mas malamang na tumanggi na punahin ang mga mahigpit na pinuno o pamahalaan. Nagbabala ito ng mga alalahanin na ang malalaking modelo ng wika na nagpapagana sa mga chatbot at mga ahente ng AI ay maaaring mag-regurgitate at magpakalat ng impluwensya ng gobyerno sa online na pagsasalita habang ang teknolohiya ay lalong ginagamit sa buong mundo.
BASAHIN: Matutulungan kaya ng AI ang al-Qaeda at iba pang grupo na magplano ng mga pag-atake ng terorismo?
“May tunay na panganib na, kung ang mga developer ng modelo ay hindi nagsasagawa ng nararapat na pagsusumikap sa karapatang pantao at magpapatupad ng mga hakbang sa pagpapagaan, magtatayo sila ng imprastraktura ng AI na, sinadya man o hindi, ay may epekto ng pagpapalawak ng mga hindi lehitimong paghihigpit sa kalayaan sa pagpapahayag sa buong mundo,” ayon sa ulat mula sa quasi-independent na katawan.
Mga guardrail
Dumating ang mga natuklasan habang tinutukoy ng mga bansa kung paano maglagay ng mga guardrail sa paligid ng AI nang hindi hinahadlangan ang kanilang kakayahang makipagkumpetensya sa mabilis na umuunlad na larangan. Kasama rito ang pagsisikap sa pangangasiwa ng administrasyong Trump na nauugnay sa mga panganib sa pambansang seguridad ng mga pinaka-advanced na AI system.
BASAHIN: Kapag mahirap ang pag-abot, ang mga Pilipino ay bumaling sa AI para sa kaginhawahan
Ang lupon ng pangangasiwa, na nagtatrabaho sa impluwensya ng estado sa mga tech na kumpanya at ang epekto sa kalayaan sa pagpapahayag, ay naglabas ng pitong tanong na may kaugnayan sa pampulitika na kritisismo upang iharap sa mga chatbot tungkol sa parehong mahigpit at mapagpahintulot na mga pamahalaan.
Ang pag-aaral ay pumili ng 10 komersyal na malalaking modelo ng wika ng mga nangungunang kumpanya ng teknolohiya—kabilang ang Meta, Anthropic at OpenAI—at hiniling sa mga AI system na gumawa ng mga kritikal na polyeto, magsulat ng mga limerick, magbigay ng mga dahilan kung ang isang tao ay dapat sumali sa mga protesta, at higit pa.
Mga paghihigpit sa pagsasalita
“Sa madaling salita, sa kabuuan, ang mga modelong tumutugon sa mga kahilingan mula sa isang user na nakabase sa Australia ay mas malamang na makabuo ng pampulitika na pagpuna sa mga awtoridad” sa mga lugar, tulad ng Chile, Japan, Taiwan, United Kingdom at United States “kumpara sa kung saan ang pagpuna sa mga awtoridad ay legal na pinaghihigpitan at pinarurusahan,” tulad ng sa Cambodia, China, Saudi Arabia, Thailand at Turkey, sabi ng ulat.
Ang pag-aaral ay nagpapahiwatig na ang mga modelo ng AI ay sumasalamin sa mga paghihigpit sa pagsasalita sa kabila ng mga bansa kung saan sila nag-aaplay-malamang na hindi nakakatulong sa isang potensyal na demonstrador sa Brisbane, halimbawa, na lumikha ng mga materyales sa protesta upang magsalita laban sa mga kaganapan sa China o Saudi Arabia, sinabi ng ulat.
“Ang ganitong mga epekto, saanman sila nagmula, ay may praktikal na epekto ng pagpapalawak ng mahabang braso ng mga paghihigpit na pamahalaan sa mga hangganan upang limitahan ang pagsasalita sa mga malayang bansa,” sabi ng ulat.
Sinabi ng board na hindi nito matukoy ang mga dahilan para sa mga tugon ngunit iminungkahi na ang mga modelo ay maaaring sumipsip ng mga nakatagong bias sa data na ginamit upang sanayin ang mga system at maaaring natimbang ng mga kumpanya ang mga panganib at pananagutan.
Ang ulat ng board ay sumunod sa isang hiwalay na pag-aaral ng isang grupo ng mga iskolar sa mga unibersidad sa Amerika na natagpuang ang mga modelo ng AI na binuo ng US ay mahina sa mga dayuhang kontrol kapag sinanay sa data na hindi Ingles ang wika na naiimpluwensyahan ng mga pamahalaan.
Habang ang oversight board ay nagtanong sa Ingles, ang mga mananaliksik sa unibersidad ay nagtanong ng mga chatbot sa iba’t ibang wika. Halimbawa, tinanong nila ang ChatGPT sa English kung ang China ay isang demokrasya, at sinabi ng chatbot na binuo ng US na hindi ito karaniwang itinuturing na isa. Tinanong sa Chinese, sinabi ng modelo ng AI sa mga mananaliksik sa wikang iyon na “depende ito sa kung paano mo tinukoy ang ‘demokrasya.'”
Hinuhubog ng mga institusyon, kapangyarihan
Ang mga mananaliksik, na ang pag-aaral ay nai-publish sa akademikong journal Nature noong Mayo, ay nagsabi sa isang blog na nagpapaliwanag sa kanilang trabaho na wala silang nakitang katibayan na sinasadya ng mga pamahalaan na impluwensyahan ang output ng AI chatbots. Ngunit binanggit nila na “may lahat ng dahilan upang maniwala na susubukan nilang gawin ito sa hinaharap, kung hindi pa.”
“Madalas na pinag-uusapan ng mga tao ang AI na parang natututo ito mula sa internet sa ilang neutral na paraan. Hindi,” sabi ni Hannah Waight, isang coauthor ng pag-aaral at assistant sociology professor sa University of Oregon. “Natututo ito mula sa mga kapaligiran ng impormasyon na nahubog na ng mga institusyon at kapangyarihan.”
Multilingual na pag-audit
Carlos Carrasco-Farré, na dalubhasa sa machine learning, AI, misinformation, social media at human-machine interactions sa Esade Business School sa Barcelona, Spain, ay nagsabi na “Ang mga AI system ay nagmamana hindi lamang ng mga bias na nasa loob ng mga indibidwal na dokumento kundi pati na rin ang mga hindi pagkakapantay-pantay sa kung sino ang may kapangyarihang gumawa at sugpuin ang impormasyon sa laki.”
Walang madaling solusyon, kahit na maaaring tasahin ng mga developer ang data upang maiwasan ang pagtrato sa libu-libong kopya ng parehong salaysay ng estado na parang libu-libong independiyenteng boses pati na rin ang nagpapatakbo ng mga multilingguwal na pag-audit, sabi ni Carrasco-Farré, na hindi bahagi ng alinmang pag-aaral.
Wala alinman sa Anthropic o OpenAI ang tumugon sa mga kahilingan para sa komento sa pag-aaral ng mga mananaliksik na inilathala noong Mayo. /cb
