Para sa mga tao sa trend-setting tech festival dito, ang iskandalo na sumiklab matapos ang Gemini chatbot ng Google ay nag-crank ng mga larawan ng mga Black at Asian Nazi soldiers ay nakita bilang isang babala tungkol sa kapangyarihan ng artificial intelligence na maaaring magbigay ng tech titans.
Ang CEO ng Google na si Sundar Pichai noong nakaraang buwan ay binatikos bilang “ganap na hindi katanggap-tanggap” na mga error ng Gemini AI app ng kanyang kumpanya, matapos ang mga gaffes tulad ng mga larawan ng magkakaibang etnikong mga tropang Nazi ay pinilit itong pansamantalang pigilan ang mga user sa paggawa ng mga larawan ng mga tao.
Ang mga gumagamit ng social media ay tinutuya at pinuna ang Google para sa mga hindi tumpak na larawan sa kasaysayan, tulad ng mga nagpapakita ng isang babaeng itim na senador ng US noong 1800s — noong hindi nahalal ang unang senador hanggang 1992.
“Tiyak na ginulo namin ang henerasyon ng imahe,” sabi ng co-founder ng Google na si Sergey Brin sa isang kamakailang “hackathon” ng AI, na idinagdag na dapat na sinubukan ng kumpanya ang Gemini nang mas lubusan.
Ang mga taong nakapanayam sa sikat na South by Southwest arts and tech festival sa Austin ay nagsabi na ang Gemini stumble ay nagtatampok sa napakalaking kapangyarihan na mayroon ang ilang kumpanya sa mga platform ng artificial intelligence na nakahanda upang baguhin ang paraan ng pamumuhay at pagtatrabaho ng mga tao.
“Essentially, it was too ‘woke,'” sabi ni Joshua Weaver, isang abogado at tech entrepreneur, ibig sabihin ay lumampas na ang Google sa pagsisikap nitong i-proyekto ang pagsasama at pagkakaiba-iba.
Mabilis na naitama ng Google ang mga pagkakamali nito, ngunit nananatili ang pinagbabatayan ng problema, sabi ni Charlie Burgoyne, punong ehekutibo ng Valkyrie na nag-apply ng science lab sa Texas.
Tinutumbas niya ang pag-aayos ng Google kay Gemini sa paglalagay ng Band-Aid sa isang tama ng bala.
Bagama’t matagal nang nagkaroon ng karangyaan ang Google na magkaroon ng oras upang pinuhin ang mga produkto nito, ngayon ay nag-aagawan na ito sa isang karera ng AI kasama ang Microsoft, OpenAI, Anthropic at iba pa, sabi ni Weaver, at idinagdag, “Mas mabilis silang gumagalaw kaysa alam nila kung paano lumipat.”
Ang mga pagkakamaling ginawa sa pagsusumikap sa pagiging sensitibo sa kultura ay mga flashpoint, lalo na dahil sa maigting na pagkakahati sa pulitika sa Estados Unidos, isang sitwasyong pinalala ng platform ng X ng Elon Musk, ang dating Twitter.
“Ang mga tao sa Twitter ay napakasaya na ipagdiwang ang anumang nakakahiyang bagay na nangyayari sa tech,” sabi ni Weaver, at idinagdag na ang reaksyon sa Nazi gaffe ay “overblown.”
Ang aksidente, gayunpaman, ay nagtanong sa antas ng kontrol ng mga gumagamit ng mga tool sa AI na may higit sa impormasyon, pinananatili niya.
Sa darating na dekada, ang dami ng impormasyon — o maling impormasyon — na nilikha ng AI ay maaaring mas maliit na nabuo ng mga tao, ibig sabihin, ang mga kumokontrol sa mga pananggalang ng AI ay magkakaroon ng malaking impluwensya sa mundo, sabi ni Weaver.
– Bias-in, Bias-out –
Si Karen Palmer, isang award-winning na mixed-reality creator sa Interactive Films Ltd., ay nagsabing maiisip niya ang isang hinaharap kung saan ang isang tao ay makapasok sa isang robo-taxi at, “kung ang AI ay nag-scan sa iyo at sa tingin niya na mayroong anumang mga natitirang paglabag laban sa iyo. … dadalhin ka sa lokal na istasyon ng pulisya,” hindi ang iyong nilalayon na destinasyon.
Ang AI ay sinanay sa mga bundok ng data at maaaring gamitin sa lumalaking hanay ng mga gawain, mula sa pagbuo ng larawan o audio hanggang sa pagtukoy kung sino ang kukuha ng pautang o kung ang isang medikal na pag-scan ay may nakitang cancer.
Ngunit ang data na iyon ay nagmumula sa isang mundong puno ng pagkiling sa kultura, disinformation, at hindi pagkakapantay-pantay sa lipunan — hindi pa banggitin ang online na content na maaaring magsama ng mga kaswal na pakikipag-chat sa pagitan ng mga kaibigan o sadyang pinalaki at mapanuksong mga post — at ang mga modelo ng AI ay maaaring umalingawngaw sa mga bahid na iyon.
Sa Gemini, sinubukan ng mga inhinyero ng Google na muling balansehin ang mga algorithm upang magbigay ng mga resulta na mas mahusay na sumasalamin sa pagkakaiba-iba ng tao.
Nag-backfire ang pagsisikap.
“Maaari talagang maging nakakalito, nuanced at banayad na malaman kung nasaan ang bias at kung paano ito kasama,” sabi ng abogado ng teknolohiya na si Alex Shahrestani, isang managing partner sa Promise Legal law firm para sa mga tech na kumpanya.
Kahit na ang mga inhinyero na may mahusay na intensyon na kasangkot sa pagsasanay ng AI ay hindi maaaring makatulong ngunit dalhin ang kanilang sariling karanasan sa buhay at hindi malay na bias sa proseso, siya at ang iba ay naniniwala.
Ang Valkyrie’s Burgoyne ay pinatulan din ang malaking teknolohiya para sa pagpapanatiling nakatago sa panloob na mga gawain ng generative AI sa “mga itim na kahon,” kaya’t hindi matukoy ng mga user ang anumang mga nakatagong bias.
“Ang mga kakayahan ng mga output ay higit na lumampas sa aming pag-unawa sa pamamaraan,” sabi niya.
Ang mga eksperto at aktibista ay nananawagan para sa higit pang pagkakaiba-iba sa mga team na lumilikha ng AI at mga kaugnay na tool, at higit na transparency sa kung paano gumagana ang mga ito — lalo na kapag muling isinusulat ng mga algorithm ang mga kahilingan ng mga user na “pahusayin” ang mga resulta.
Ang isang hamon ay kung paano angkop na bumuo sa mga pananaw ng marami at magkakaibang mga komunidad sa mundo, sabi ni Jason Lewis ng Indigenous Futures Resource Center at mga kaugnay na grupo dito.
Sa Indigenous AI, nakikipagtulungan si Jason sa malayong mga katutubong komunidad upang magdisenyo ng mga algorithm na gumagamit ng kanilang data sa etikal na paraan habang ipinapakita ang kanilang mga pananaw sa mundo, isang bagay na hindi niya palaging nakikita sa “pagmamataas” ng malalaking pinuno ng teknolohiya.
Ang kanyang sariling gawain, sinabi niya sa isang grupo, ay nakatayo sa “tulad ng kaibahan mula sa retorika ng Silicon Valley, kung saan mayroong isang top-down na ‘Oh, ginagawa namin ito dahil mapapakinabangan namin ang lahat ng sangkatauhan’ kalokohan, tama?”
Nagtawanan ang audience niya.
juj-gc/bbk
