Tumanggi ang Safe Superintelligence na ibahagi ang halaga nito ngunit sinasabi ng mga source na malapit sa usapin na nagkakahalaga ito ng $5 bilyon
Ang Safe Superintelligence (SSI), na bagong co-founder ng dating punong siyentipiko ng OpenAI na si Ilya Sutskever, ay nakalikom ng $1 bilyon na cash upang makatulong na bumuo ng mga ligtas na artificial intelligence system na higit na nakahihigit sa mga kakayahan ng tao, sinabi ng mga executive ng kumpanya sa Reuters.
Ang SSI, na kasalukuyang mayroong 10 empleyado, ay nagpaplano na gamitin ang mga pondo upang makakuha ng kapangyarihan sa pag-compute at kumuha ng nangungunang talento. Tutuon ito sa pagbuo ng isang maliit na pinagkakatiwalaang pangkat ng mga mananaliksik at inhinyero na nahati sa pagitan ng Palo Alto, California at Tel Aviv, Israel.
Tumanggi ang kumpanya na ibahagi ang halaga nito ngunit sinabi ng mga source na malapit sa usapin na nagkakahalaga ito ng $5 bilyon. Binibigyang-diin ng pagpopondo kung paano handa pa rin ang ilang mamumuhunan na gumawa ng mga outsized na taya sa pambihirang talento na nakatuon sa foundational AI research. Iyan ay sa kabila ng pangkalahatang paghina ng interes sa pagpopondo sa mga naturang kumpanya na maaaring hindi kumikita sa loob ng ilang panahon, at na naging sanhi ng ilang mga startup founder na umalis sa kanilang mga post para sa mga tech giant.
Kasama sa mga mamumuhunan ang mga nangungunang kumpanya ng venture capital na Andreessen Horowitz, Sequoia Capital, DST Global at SV Angel. Ang NFDG, isang investment partnership na pinamamahalaan ni Nat Friedman at ng SSI’s Chief Executive na si Daniel Gross, ay lumahok din.
“Mahalaga para sa amin na mapalibutan ng mga mamumuhunan na nauunawaan, gumagalang at sumusuporta sa aming misyon, na gumawa ng isang tuwid na pagbaril sa ligtas na superintelligence at partikular na gumugol ng ilang taon sa paggawa ng R&D sa aming produkto bago ito dalhin sa merkado,” Sinabi ni Gross sa isang panayam.
Ang kaligtasan ng AI, na tumutukoy sa pagpigil sa AI na magdulot ng pinsala, ay isang mainit na paksa sa gitna ng pangamba na ang rogue AI ay maaaring kumilos laban sa mga interes ng sangkatauhan o maging sanhi ng pagkalipol ng tao.
Ang isang panukalang batas sa California na naglalayong magpataw ng mga regulasyon sa kaligtasan sa mga kumpanya ay naghati sa industriya. Sinasalungat ito ng mga kumpanya tulad ng OpenAI at Google, at sinusuportahan ng xAI ng Anthropic at Elon Musk.
Si Sutskever, 37, ay isa sa mga pinaka-maimpluwensyang technologist sa AI. Itinatag niya ang SSI noong Hunyo kasama si Gross, na dating namuno sa mga inisyatiba ng AI sa Apple, at Daniel Levy, isang dating mananaliksik ng OpenAI.
Si Sutskever ay punong siyentipiko at si Levy ay punong siyentipiko, habang si Gross ang may pananagutan sa pag-compute ng kapangyarihan at pangangalap ng pondo.
Bagong bundok
Sinabi ni Sutskever na may kabuluhan ang kanyang bagong pakikipagsapalaran dahil “natukoy niya ang isang bundok na medyo naiiba sa kung ano ang ginagawa ko.”
Noong nakaraang taon, bahagi siya ng board ng non-profit na magulang ng OpenAI na bumoto na patalsikin ang CEO ng OpenAI na si Sam Altman dahil sa isang “pagkasira ng mga komunikasyon.”
Sa loob ng ilang araw, binaligtad niya ang kanyang desisyon at sumama sa halos lahat ng empleyado ng OpenAI sa pagpirma ng liham na humihiling sa pagbabalik ni Altman at sa pagbibitiw ng board. Ngunit ang pagliko ng mga kaganapan ay nabawasan ang kanyang tungkulin sa OpenAI. Inalis siya sa board at umalis sa kumpanya noong Mayo.
Pagkatapos ng pag-alis ni Sutskever, binuwag ng kumpanya ang kanyang “Superalignment” na koponan, na nagtrabaho upang matiyak na mananatiling nakahanay ang AI sa mga halaga ng tao upang maghanda para sa isang araw na ang AI ay lumampas sa katalinuhan ng tao.
Hindi tulad ng hindi karaniwan na istruktura ng korporasyon ng OpenAI, na ipinatupad para sa mga kadahilanang pangkaligtasan ng AI ngunit naging posible ang pagpapatalsik kay Altman, ang SSI ay may regular na istrukturang para sa kita.
Kasalukuyang nakatuon ang SSI sa pagkuha ng mga taong babagay sa kultura nito.
Sinabi ni Gross na gumugugol sila ng ilang oras sa pagsusuri kung ang mga kandidato ay may “magandang katangian”, at naghahanap ng mga taong may pambihirang kakayahan sa halip na bigyang-diin ang mga kredensyal at karanasan sa larangan.
“Isang bagay na nakaka-excite sa amin ay kapag nakakita ka ng mga taong interesado sa trabaho, na hindi interesado sa eksena, sa hype,” dagdag niya.
Sinasabi ng SSI na plano nitong makipagsosyo sa mga provider ng cloud at mga kumpanya ng chip para pondohan ang mga pangangailangan nito sa computing power ngunit hindi pa napagpasyahan kung aling mga kumpanya ito gagana. Ang mga startup ng AI ay madalas na nakikipagtulungan sa mga kumpanya tulad ng Microsoft at Nvidia upang matugunan ang kanilang mga pangangailangan sa imprastraktura.
Si Sutskever ay isang maagang tagapagtaguyod ng scaling, isang hypothesis na ang mga modelo ng AI ay mapapabuti sa pagganap dahil sa napakaraming kapangyarihan sa pag-compute. Ang ideya at ang pagpapatupad nito ay nagsimula ng isang alon ng AI investment sa mga chips, data center at enerhiya, na naglalagay ng batayan para sa mga generative na pagsulong ng AI tulad ng ChatGPT.
Sinabi ni Sutskever na lalapit siya sa scaling sa ibang paraan kaysa sa kanyang dating employer, nang hindi nagbabahagi ng mga detalye.
“Ang lahat ay nagsasabi lamang ng scaling hypothesis. Ang bawat tao’y napapabayaan na magtanong, ano ang sinusukat natin?” sabi niya.
“Ang ilang mga tao ay maaaring magtrabaho nang mahabang oras at mas mabilis silang pupunta sa parehong landas. Hindi naman ganoon ang style namin. Ngunit kung iba ang gagawin mo, magiging posible para sa iyo na gumawa ng isang espesyal na bagay.” – Rappler.com
