Hindi madalas na ang malamig, mahirap na mga katotohanan ay tumutukoy kung ano ang pinapahalagahan ng mga tao at kung ano ang pinaniniwalaan nila. Sa halip, ito ay ang kapangyarihan at pamilyar sa isang mahusay na kuwento na naghahari sa kataas-taasang. Kung ito ay isang taos -pusong anekdota, isang personal na patotoo o isang meme echoing pamilyar na mga salaysay sa kultura, ang mga kwento ay may posibilidad na dumikit sa amin, ilipat tayo at hubugin ang aming mga paniniwala.
Ang katangian na ito ng pagkukuwento ay tiyak kung ano ang maaaring gawin itong mapanganib kapag ginamit ng mga maling kamay. Sa loob ng mga dekada, ang mga dayuhang kalaban ay gumamit ng mga taktika sa pagsasalaysay sa mga pagsisikap na manipulahin ang opinyon ng publiko sa Estados Unidos. Ang mga platform ng social media ay nagdala ng bagong pagiging kumplikado at pagpapalakas sa mga kampanyang ito. Ang kababalaghan ay nakakuha ng maraming pampublikong pagsisiyasat matapos ang ebidensya na lumitaw ng mga entidad ng Russia na nagsasagawa ng impluwensya sa materyal na nauugnay sa halalan sa Facebook sa lead-up sa 2016 halalan.
Habang ang artipisyal na katalinuhan ay pinapalala ang problema, ito ay sa parehong oras na maging isa sa pinakamalakas na panlaban laban sa mga manipulasyon. Ang mga mananaliksik ay gumagamit ng mga diskarte sa pag -aaral ng machine upang pag -aralan ang nilalaman ng disinformation.
Sa Cognition, Narrative and Culture Lab sa Florida International University, nagtatayo kami ng mga tool sa AI upang matulungan ang mga kampanya ng disinformation na gumagamit ng mga tool ng pagsasalaysay. Sinasanay namin ang AI na lampas sa pagsusuri ng antas ng wika upang maunawaan ang mga istruktura ng pagsasalaysay, bakas ang mga personas at mga takdang oras at mabulok ang mga sanggunian sa kultura.
DISINFORMATION kumpara sa maling impormasyon
Noong Hulyo 2024, ang Kagawaran ng Hustisya ay nagambala sa isang operasyon na suportado ng Kremlin na gumagamit ng halos isang libong pekeng mga account sa social media upang maikalat ang mga maling salaysay. Ang mga ito ay hindi nakahiwalay na mga insidente. Ang mga ito ay bahagi ng isang organisadong kampanya, na pinapagana ng bahagi ng AI.
Ang disinformation ay naiiba sa krus mula sa maling impormasyon. Habang ang maling impormasyon ay simpleng hindi totoo o hindi tumpak na impormasyon – – ang mga katotohanan na mali – ang disinformation ay sinasadya na gawa -gawa at partikular na ibinahagi upang linlangin at manipulahin. Ang isang kamakailang paglalarawan tungkol dito ay dumating noong Oktubre 2024, nang ang isang video na naglalayong magpakita ng isang manggagawa sa halalan ng Pennsylvania na pumunit ng mga mail-in na balota na minarkahan para sa mga platform ng Donald Trump tulad ng X at Facebook.
Sa loob ng mga araw, sinubaybayan ng FBI ang clip sa isang sangkap na impluwensya ng Russia, ngunit hindi bago ito nag -rack ng milyun -milyong mga tanawin. Ang halimbawang ito ay malinaw na nagpapakita kung paano ang mga dayuhang impluwensya sa mga kampanya ng artipisyal na paggawa at palakasin ang mga gawaing gawa sa gawa -gawa upang manipulahin ang politika sa US at stoke ang mga dibisyon sa mga Amerikano.
Ang mga tao ay wired upang maproseso ang mundo sa pamamagitan ng mga kwento. Mula sa pagkabata, lumalaki tayo ng mga kwento ng pakikinig, na sinasabi sa kanila at ginagamit ang mga ito upang magkaroon ng kahulugan ng kumplikadong impormasyon. Ang mga salaysay ay hindi lamang makakatulong sa mga tao na alalahanin – tinutulungan nila kaming makaramdam. Pinasisigla nila ang mga koneksyon sa emosyonal at hinuhubog ang aming mga interpretasyon sa mga kaganapan sa lipunan at pampulitika.
Ginagawa nitong lalo na ang mga makapangyarihang tool para sa panghihikayat – at, dahil dito, para sa pagkalat ng disinformation. Ang isang nakakahimok na salaysay ay maaaring mag -override ng pag -aalinlangan at mas mabisa ang opinyon kaysa sa isang baha ng mga istatistika. Halimbawa, ang isang kwento tungkol sa pagligtas ng isang pagong sa dagat na may isang plastik na dayami sa ilong nito ay madalas na gumagawa ng higit na pag -aalala tungkol sa polusyon sa plastik kaysa sa dami ng data sa kapaligiran.
Mga username, konteksto ng kultura at oras ng pagsasalaysay
Gamit ang mga tool ng AI upang magkasama ang isang larawan ng tagapagsalaysay ng isang kwento, ang timeline para sa kung paano nila ito sasabihin at mga detalye ng kultura na tiyak sa kung saan naganap ang kuwento ay makakatulong na matukoy kung ang isang kuwento ay hindi magdagdag.
Ang mga salaysay ay hindi nakakulong sa mga gumagamit ng nilalaman na ibinabahagi – pinalawak din nila ang mga gumagamit ng personas upang sabihin sa kanila. Kahit na ang isang hawakan ng social media ay maaaring magdala ng mga mapanghikayat na signal. Bumuo kami ng isang sistema na nagsusuri ng mga username upang mas mababa ang mga demograpikong katangian at pagkakakilanlan tulad ng pangalan, kasarian, lokasyon, damdamin at kahit na pagkatao, kapag ang mga nasabing mga pahiwatig ay naka -embed sa hawakan. Ang gawaing ito, na ipinakita noong 2024 sa International Conference sa Web at Social Media, ay nagha -highlight kung paano kahit isang maikling string ng mga character ay maaaring mag -signal kung paano nais ng mga gumagamit na makita ng kanilang madla.
Halimbawa, ang isang gumagamit na nagtatangkang lumitaw bilang isang kapani -paniwala na mamamahayag ay maaaring pumili ng isang hawakan tulad ng @jamesburnsnyt sa halip na isang bagay na mas kaswal tulad ng @jimb_nyc. Parehong maaaring magmungkahi ng isang lalaki na gumagamit mula sa New York, ngunit ang isa ay nagdadala ng bigat ng kredensyal ng institusyon. Ang mga kampanya ng disinformation ay madalas na sinasamantala ang mga pang -unawa na ito sa pamamagitan ng paggawa ng mga hawakan na ginagaya ang mga tunay na tinig o mga kaakibat.
Bagaman ang isang hawakan lamang ay hindi makumpirma kung ang isang account ay tunay, gumaganap ito ng isang mahalagang papel sa pagtatasa ng pangkalahatang pagiging tunay. Sa pamamagitan ng pagbibigay kahulugan sa mga usernames bilang bahagi ng mas malawak na salaysay ng isang account ng account, mas mahusay na masuri ng mga sistema ng AI kung ang isang pagkakakilanlan ay ginawa upang makakuha ng tiwala, timpla sa isang target na komunidad o palakasin ang mapanghikayat na nilalaman. Ang ganitong uri ng interpretasyong semantiko ay nag -aambag sa isang mas holistic na diskarte sa pag -disinformation detection – isa na isinasaalang -alang hindi lamang ang sinabi ngunit kung sino ang tila sinasabi nito at kung bakit.
Gayundin, ang mga kwento ay hindi palaging nagbubukas ng magkakasunod. Ang isang thread ng social media ay maaaring magbukas ng isang nakagugulat na kaganapan, flash pabalik sa mga naunang sandali at laktawan ang mga pangunahing detalye sa pagitan.
Ang mga tao ay hawakan ito nang walang kahirap -hirap – sanay na kami sa fragment storytelling. Ngunit para sa AI, ang pagtukoy ng isang pagkakasunud -sunod ng mga kaganapan batay sa isang salaysay na account ay nananatiling isang malaking hamon.
Ang aming lab ay bumubuo din ng mga pamamaraan para sa pagkuha ng timeline, pagtuturo sa AI upang makilala ang mga kaganapan, maunawaan ang kanilang pagkakasunud -sunod at mapa kung paano sila nauugnay sa isa’t isa, kahit na ang isang kuwento ay sinabi sa nonlinear fashion.
Ang mga bagay at simbolo ay madalas na nagdadala ng iba’t ibang mga kahulugan sa iba’t ibang kultura, at nang walang kamalayan sa kultura, ang mga sistema ng AI ay nanganganib sa maling pag -unawa sa mga salaysay na kanilang sinuri. Ang mga dayuhang kalaban ay maaaring samantalahin ang mga nuances sa kultura upang gumawa ng mga mensahe na mas malalim sa mga tiyak na madla, pagpapahusay ng mapanghikayat na kapangyarihan ng disinformation.
Isaalang -alang ang sumusunod na pangungusap: “Ang babaeng nasa puting damit ay napuno ng kagalakan.” Sa isang konteksto ng Kanluran, ang parirala ay nagtatanggal ng isang masayang imahe. Ngunit sa mga bahagi ng Asya, kung saan ang puti ay sumisimbolo sa pagdadalamhati o kamatayan, maaari itong makaramdam ng hindi mapakali o kahit na nakakasakit.
Upang magamit ang AI upang makita ang disinformation na nag -armas ng mga simbolo, sentimento at pagkukuwento sa loob ng mga naka -target na komunidad, kritikal na bigyan ang ganitong uri ng pagbasa sa kultura. Sa aming pananaliksik, natagpuan namin na ang pagsasanay sa AI sa magkakaibang mga salaysay sa kultura ay nagpapabuti sa pagiging sensitibo nito sa mga pagkakaiba -iba.
Sino ang nakikinabang sa salaysay na may kamalayan sa AI?
Ang mga tool na may kamalayan sa AI ay makakatulong sa mga analyst ng intelihensiya na mabilis na makilala ang mga orkestra na impluwensya ng mga kampanya o mga storylines na sisingilin sa emosyon na kumakalat nang hindi pangkaraniwang mabilis. Maaari silang gumamit ng mga tool ng AI upang maproseso ang malalaking dami ng mga post sa social media upang mai-map ang mapanghikayat na mga arko ng salaysay, kilalanin ang mga malapit na magkaparehong mga storylines at naka-coordinate na tiyempo ng aktibidad ng social media. Ang mga serbisyo ng intelihensiya ay maaaring gumamit ng mga countermeasures sa totoong oras.
Bilang karagdagan, ang mga ahensya ng pagtugon sa krisis ay maaaring matulin na matukoy ang mga nakakapinsalang salaysay, tulad ng mga maling pang-emergency na pag-angkin sa mga natural na sakuna. Maaaring gamitin ng mga platform ng social media ang mga tool na ito upang mahusay na ruta ang mataas na peligro na nilalaman para sa pagsusuri ng tao nang walang kinakailangang censorship. Ang mga mananaliksik at tagapagturo ay maaari ring makinabang sa pamamagitan ng pagsubaybay kung paano nagbabago ang isang kwento sa mga pamayanan, na ginagawang mas mahigpit at maibabahagi ang pagsasalaysay.
Ang mga ordinaryong gumagamit ay maaari ring makinabang mula sa mga teknolohiyang ito. Ang mga tool ng AI ay maaaring mag -flag ng mga post sa social media sa totoong oras hangga’t maaari sa disinformation, na nagpapahintulot sa mga mambabasa na mag -aalinlangan sa mga kwentong pinaghihinalaang, sa gayon ang pagsuway sa mga kasinungalingan bago sila mag -ugat.
Habang ang AI ay tumatagal ng isang mas malaking papel sa pagsubaybay at pagbibigay kahulugan sa online na nilalaman, ang kakayahang maunawaan ang pagkukuwento na lampas lamang sa tradisyonal na pagsusuri ng semantiko ay naging mahalaga. Hanggang dito, nagtatayo kami ng mga sistema upang alisan ng takip ang mga nakatagong mga pattern, mabulok ang mga signal ng kultura at mga bakas na mga oras ng pagsasalaysay upang maihayag kung paano humahawak ang disinformation. – rappler.com
Ang kwentong ito ay orihinal na lumitaw sa pag -uusap.
Mark Finlayson, Associate Professor ng Computer Science, Florida International University
Azwad Anjum Islam, Ph.D. Mag -aaral sa Computing and Information Sciences, Florida International University
