OpenAI hit na may multistate probe sa posibleng pinsala ng user

NEW YORK — Nakatanggap ang OpenAI ng subpoena mula sa ilang estado bilang bahagi ng pagsisiyasat sa kaligtasan ng mga user ng chatbot nito habang naghahanda itong mag-alok ng stock sa publiko sa unang pagkakataon.

Ang kumpanya sa likod ng sikat na chatbot, ang ChatGPT, ay nagsabi na tutugon ito sa pagtatanong nang “nakabubuo” at mayroon na itong mga hakbang upang maprotektahan ang mga customer nito.

“Ang AI ay isang bago at makapangyarihang teknolohiya, at nagtatrabaho kami araw-araw upang ligtas na maihatid ang mga benepisyo nito sa mga tao sa isang responsableng paraan,” sabi ng isang naka-email na pahayag mula sa isang tagapagsalita. “Sineseryoso namin ang mga alalahanin na ibinangon ng mga pangkalahatang abogado ng estado.”

Ang OpenAI ay umani ng batikos para sa ChatGPT na diumano’y nag-aalok ng mga nakakahikayat na salita sa mga user na nag-iisip na pumatay sa kanilang sarili o gumawa ng mga kriminal na gawain. Nasa ilalim din ito ng pagsisiyasat kung paano nito ginagamit ang data ng kalusugan at iba pang personal na impormasyon ng mga customer nito.

BASAHIN: Humingi ng paumanhin ang OpenAI CEO matapos mabigong alertuhan ang pulisya bago ang mga pagpatay sa Canada

Noong Huwebes, ang kumpanya ay idinemanda ng isang Canadian na sinisisi ang chatbot sa desisyon ng kanyang anak na magbigti. Mas maaga noong Hunyo, idinemanda ng Florida attorney general ang kumpanya matapos ang dalawang magkahiwalay na pamamaril kung saan ang mga sinasabing gunmen ay iniulat na nagtanong sa ChatGPT habang pinaplano ang kanilang mga krimen.

Sinabi ng OpenAI sa isang pahayag na ang mga modelo nito ay paulit-ulit na hinihikayat ang mga indibidwal na humingi ng suporta sa totoong mundo, kabilang ang mula sa mga propesyonal sa kalusugan ng isip. Sinabi rin ng kumpanya na nakipagtulungan ito sa pagpapatupad ng batas sa parehong mga kaso ng pamamaril.

Ang bagong pagsisiyasat ay darating ilang araw lamang matapos itong maghain ng mga dokumento sa mga regulator ng seguridad ng US para sa isang pinaka-inaasahang paunang pampublikong alok ng stock. Ang karibal ng artificial intelligence na SpaceX ay nagdiwang ng sarili nitong IPO noong Biyernes. Ang tagagawa ng rocket na itinatag ni Elon Musk ay nagpapatakbo din ng isang negosyong AI na responsable para sa isang karibal na chatbot na tinatawag na Grok.

Kung paano dapat tumugon ang mga pamahalaan sa potensyal para sa mabuti at posibleng mapanganib ng AI ay nagiging isang malaking isyu sa pulitika.

Nagbukas ang mga Regulator Europe ng mga pagsisiyasat sa Musk’s Grok tungkol sa antisemitic na content at sexualized na materyal, kasama ang mga deepfake na nudes. At isa pang kumpanya ng chatbot na naghahanda ng isang IPO, ang Anthropic, ay inutusan ng administrasyong Trump noong Biyernes upang isara ang dalawa sa mga online na modelo nito sa mga gumagamit sa ibang bansa para sa mga dahilan ng pambansang seguridad.

Ang subpoena ng OpenAI ay naunang iniulat ng The Wall Street Journal.

Ang Associated Press ay nagpadala ng mga email sa isang dosenang state attorney general noong Sabado na humihingi ng mga detalye ng pagsisiyasat ngunit hindi nakatanggap ng anumang mga tugon.

Sa pahayag nito, binigyang diin ng OpenAI ang mga hakbang na ginawa nito upang mapanatiling ligtas ang mga bata na gumagamit ng chatbot nito.

“Ang ChatGPT ngayon ay may kasamang mas proteksiyon na karanasan para sa mga menor de edad at mga taong nakakaranas ng mahihirap na sitwasyon, na may mga pananggalang na nagdidirekta sa kanila sa totoong mundo na mga mapagkukunan at pinagkakatiwalaang mga contact ng tao,” ang bahagi ng pahayag ay binasa. “Naniniwala kami na ang mga bata ay dapat tratuhin na parang mga bata, kaya naman gumawa kami ng hula sa edad, naglabas ng mga tool ng magulang para gabayan ang paggamit ng AI ng kanilang mga anak, at hindi pinapayagan ang advertising na nagta-target sa mga bata.”