Sinasanay muli ng Character.AI ang chatbot para sa kaligtasan ng kabataan kasunod ng mga demanda

Ang Character.AI, ang tech firm sa likod ng kinikilalang chatbot sa buong mundo, ay nag-anunsyo ng mga bagong feature sa kaligtasan ng mga kabataan noong Huwebes, Disyembre 12.

Halimbawa, ididirekta ng bot ang mga user sa US National Suicide Prevention Lifeline kung may nakita itong content na tumutukoy sa pananakit sa sarili at pagpapakamatay.

Ang mga pag-upgrade na ito ay dumating pagkatapos makatanggap ang Character.AI ng maraming demanda na nagsasabing ang chatbot nito ay nagiging sanhi ng pananakit ng mga kabataan sa kanilang sarili at sa iba.

Ang artikulo ay nagpapatuloy pagkatapos ng patalastas na ito

Ano ang mga bagong hakbang sa kaligtasan ng kabataan?

Dadalhin ng chatbot ang mga user sa Suicide Prevention Hotline at ipapatupad ang mga sumusunod na feature:

• Mga Kontrol ng Magulang: Makakatulong ito sa mga magulang na subaybayan ang kanilang oras sa Character.AI, kasama ang oras na ginugol sa platform at ang kanilang mga paboritong Character.
• Notification ng Oras na Ginugol: Sasabihin ng app sa mga user kapag gumugol sila ng isang oras sa platform. Gayundin, ang mga user na wala pang 18 ay magkakaroon ng higit pang mga limitasyon sa kanilang kakayahang baguhin ang feature na ito.
• Mga Prominenteng Disclaimer: Ipapaalala ng programa sa mga user na hindi ito totoong tao, kaya dapat nilang ituring ang mga output nito bilang fiction.

Noong 2021, itinatag ng mga dating inhinyero ng Google na sina Daniel De Freitas at Noam Shazeer ang Character.AI.

Hinahayaan ng platform ang mga user na lumikha ng mga chatbot na may mga natatanging personalidad, na kilala rin bilang “Mga Karakter.”

Ang artikulo ay nagpapatuloy pagkatapos ng patalastas na ito

Iniulat ng B2B media platform na Business of Apps na ang Character.AI ay mayroong 28 milyong aktibong user noong Agosto 2024, na ginagawa itong isa sa mga pinakasikat na chatbot sa buong mundo.

BASAHIN: Mga bagong feature sa kaligtasan ng bata para sa Google at YouTube

Maaaring gabayan ng platform ang mga tao sa paglikha ng AI chatbots. Sa kalaunan, ang mga user ay maaaring magkaroon ng hilig para sa artificial intelligence at bumuo ng mga kasanayang lubos na hinahangad sa pandaigdigang AI revolution.

Ano ang ilang isyu sa Character.AI?

Sa kabilang banda, ang programa ay nakakuha ng kawalang-hiyaan bilang isa sa mga app na nagpapahintulot sa mga tao na lumikha ng AI girlfriend at boyfriend.

Idineklara ng World Health Organization ang kalungkutan bilang isang “pandaigdigang pag-aalala sa kalusugan ng publiko,” at ginamit ng ilan ang teknolohiyang ito bilang solusyon.

Ang mga Pilipino ay bumaling din sa mga katulad na app tulad ng Replika upang maibsan ang pakiramdam ng kalungkutan.

Magbasa dito upang matuto nang higit pa tungkol sa krisis sa kalusugan ng isip ng Pilipinas.

Ang mga gumagamit ay maaaring bumuo ng mga parasocial na relasyon kapag ang mga tao ay emosyonal na nakakabit sa mga karakter ng media na hindi tumutugon sa kanilang mga damdamin.

Noong 1950s, ang hindi pangkaraniwang bagay na ito ay ipinakita lamang sa mga tagahanga ng mga icon ng pop culture tulad ni Elvis Presley o Micheal Jackson.

BASAHIN: Inakusahan ng ina ang kumpanya ng AI, sinabing ang pakikipag-ugnayan ng chatbot ay humantong sa pagkamatay ng anak

Ito rin ang paksa ng kanta ni Eminem, “Stan,” na umiikot sa isang fan na nagpapadala ng mga liham sa kanyang paboritong rapper.

Mag-click dito upang matuto nang higit pa tungkol sa mga parasocial na relasyon.

Sa ngayon, ang mga tao ay maaaring bumuo ng mas malakas na parasocial bond sa mga chatbot tulad ng Character.AI dahil maaari silang tumugon sa mga user nang real-time.

Mas masahol pa, ang ilang mga pakikipag-ugnayan ay hinihikayat ang mga kabataan na saktan ang kanilang sarili at ang iba.

Noong nakaraang Oktubre 30, iniulat ng CNN ang ina sa Florida na si Megan Garcia. Sinisisi niya si Character.AI sa pagkamatay ng kanyang 14 na taong gulang na anak na si Sewell Setzer III.

Dahil dito, nagsampa si Garcia ng kaso na nagsasabing ang kanyang pakikipag-ugnayan sa bot ay nag-trigger ng mga ideyang magpakamatay.

Iniulat ng BBC ang pinakahuling kaso noong Martes, Disyembre 10. Ayon sa outlet ng balita na nakabase sa UK, dalawang pamilya ang nagdemanda sa Character.AI matapos nitong “hinikayat ang isang tinedyer na patayin ang kanilang mga magulang.”