Isang AI chatbot ang idinemanda ng isang ina sa Florida na nagsasabing ang chatbot ang nagtulak sa kanyang anak na magpakamatay.
Megan Garcia ay nagdemanda kay Character.ai, na nag-aangkin ng mga mapanlinlang na kasanayan sa negosyo, kawalang-ingat, at maling kamatayan. Ang kaso, na inihain noong Miyerkules sa isang pederal na hukuman sa Florida, ay humihingi ng danyos para sa pagkamatay ni Sewell Setzer IIIisang 14 na taong gulang na batang lalaki na namatay sa Orlando noong Pebrero ng taong ito. Ayon sa kanyang ina, araw at gabi niyang ginagamit ang role-playing chatbot ng kumpanya.
Ayon sa mga ulat, nagkaroon si Setzer ng pagkahumaling sa chatbot, na tinawag niyang karakter ng Game of Thrones na si Daenerys Targaryen. Ang kanyang ina ay nagreklamo na siya ay nagte-text sa artificial intelligence ng maraming beses sa isang araw at gumugol ng maraming oras sa kanyang silid na nakikipag-usap dito.
Ang binatilyo, si Sewell, ay nagpahayag ng kanyang pagmamahal sa chatbot sa pamamagitan ng pagsasabing, “Ipinapangako ko na uuwi ako sa iyo,” ayon sa mga screenshot ng text exchange sa pagitan ng juvenile at AI. Dany, you have my undying affection, it also evidently shows that the teenager and AI had a sexual exchange of messages.
Sa kanyang demanda, sinabi ni Garcia na ang negosyo ay gumawa ng isang sangkap na nagpalala sa depresyon ng kanyang anak. Inaangkin niya na ang produkto ng Character.ai ang naging sanhi ng depresyon. Ayon sa demanda, nagtanong pa ang chatbot kung naisip na ba ni Setzer ang pagpapakamatay.
Pinangalanan din ang Google bilang isang nasasakdal para sa pagiging nauugnay bilang pangunahing kumpanya ng Character. AI. Sinabi rin ng Google sa isang pahayag na hindi sila nagmamay-ari ng isang stake sa kumpanya, mayroon lamang itong kasunduan sa paglilisensya sa kumpanya.
