Ang imaheng ito sa pamamagitan ng AFP photojournalist na si Omar al-Qattaa ay nagpapakita ng isang balangkas, underfed na batang babae sa Gaza, kung saan ang pagbara ng Israel ay nagpukaw ng mga takot sa taggutom ng masa sa teritoryo ng Palestinian.
Ngunit nang tinanong ng mga gumagamit ng social media si Grok kung saan nanggaling, ang artipisyal na artipisyal na chatbot ng boss na si Elon Musk ay tiyak na nakuha ang litrato sa Yemen halos pitong taon na ang nakalilipas.
Ang hindi totoo na tugon ng AI Bot ay malawak na ibinahagi sa online at isang left-wing pro-Palestinian French lawmaker na si Aymeric Caron, ay inakusahan ng paglalakad ng disinformation sa digmaang Israel-Hamas para sa pag-post ng larawan.
Sa isang oras na ang mga gumagamit ng Internet ay bumabalik sa AI upang mapatunayan ang mga imahe nang higit pa, ipinapakita ng balahibo ang mga panganib ng mga nagtitiwala na tool tulad ng Grok, kapag ang teknolohiya ay malayo sa walang error.
Sinabi ni Grok na ipinakita ng larawan si Amal Hussain, isang pitong taong gulang na si Yemeni Child, noong Oktubre 2018.
Sa katunayan ang larawan ay nagpapakita ng siyam na taong gulang na si Mariam Dawwas sa mga bisig ng kanyang ina na si Modallala sa Gaza City noong Agosto 2, 2025.
Bago ang digmaan, na pinukaw ng Oktubre 7, 2023 na pag -atake sa Israel, tumimbang si Mariam ng 25 kilograms, sinabi ng kanyang ina sa AFP.
Ngayon, siyam lamang ang tinitimbang niya. Ang tanging nutrisyon na nakukuha niya upang matulungan ang kanyang kondisyon ay gatas, sinabi ni Modallala sa AFP-at kahit na “hindi laging magagamit”.
Hinamon sa hindi tamang tugon nito, sinabi ni Grok: “Hindi ako kumakalat ng pekeng balita; ibinabatay ko ang aking mga sagot sa mga napatunayan na mapagkukunan.”
Ang chatbot sa kalaunan ay naglabas ng tugon na kinikilala ang error – ngunit bilang tugon sa karagdagang mga query sa susunod na araw, inulit ni Grok ang pag -angkin nito na ang larawan ay mula sa Yemen.
Nauna nang naglabas ang Chatbot ng nilalaman na pinuri ang pinuno ng Nazi na si Adolf Hitler at na iminungkahi na ang mga taong may apelyido ng mga Hudyo ay mas malamang na kumalat sa online na poot.
– radikal na tamang bias –
Ang mga pagkakamali ni Grok ay naglalarawan ng mga limitasyon ng mga tool ng AI, na ang mga pag -andar ay hindi maiiwasan bilang “itim na kahon”, sabi ni Louis de Diesbach, isang mananaliksik sa teknolohikal na etika.
“Hindi namin alam nang eksakto kung bakit nila ito ibinibigay o ang tugon na iyon, o kung paano nila inuuna ang kanilang mga mapagkukunan,” sabi ni Diesbach, may -akda ng isang libro sa mga tool ng AI, “Hello Chatgpt”.
Ang bawat AI ay may mga biases na naka -link sa impormasyong ito ay sinanay at ang mga tagubilin ng mga tagalikha nito, aniya.
Sa view ng mananaliksik na si Grok, na ginawa ng pagsisimula ng Xai ng Musk, ay nagpapakita ng “lubos na binibigkas na mga biases na lubos na nakahanay sa ideolohiya” ng bilyunaryong South Africa, isang dating confidante ng Pangulo ng US na si Donald Trump at isang standard-bearer para sa radikal na karapatan.
Ang pagtatanong sa isang chatbot upang matukoy ang pinagmulan ng isang larawan ay tumatagal ng tamang papel nito, sabi ni Diesbach.
“Karaniwan, kapag hinahanap mo ang pinagmulan ng isang imahe, maaaring sabihin nito: ‘Ang larawang ito ay maaaring makuha sa Yemen, maaaring makuha sa Gaza, maaaring makuha sa halos anumang bansa kung saan may taggutom’.”
Hindi kinakailangang humingi ng kawastuhan ang AI – “Hindi iyon ang layunin,” sabi ng eksperto.
Ang isa pang litrato ng AFP ng isang gutom na Gazan na bata ni al-Qattaa, na kinuha noong Hulyo 2025, ay nagkamali na matatagpuan at napetsahan ni Grok kay Yemen, 2016.
Ang error na iyon ay humantong sa mga gumagamit ng internet na inaakusahan ang pagpapalaya sa pahayagan ng Pransya, na naglathala ng larawan, ng pagmamanipula.
– ‘Friendly Pathological Liar’ –
Ang isang bias ng AI ay naka-link sa data na ito ay pinakain at kung ano ang mangyayari sa panahon ng pag-aayos-ang tinatawag na phase ng pag-align-na kung saan ay tinutukoy kung ano ang magiging rate ng modelo bilang isang mabuti o masamang sagot.
“Dahil lamang sa ipinaliwanag mo na ang mali ng sagot ay hindi nangangahulugang magbibigay ito ng ibang,” sabi ni Diesbach.
“Ang data ng pagsasanay nito ay hindi nagbago at wala rin ang pagkakahanay nito.”
Si Grok ay hindi nag -iisa sa maling pagkilala ng mga imahe.
Nang tinanong ng AFP ang Le Chat ni Mistral AI-na kung saan ay sa bahagi na sinanay sa mga artikulo ng AFP sa ilalim ng isang kasunduan sa pagitan ng French start-up at ang ahensya ng balita-ang bot ay nagkamali rin ng larawan ni Mariam Dawwas bilang mula sa Yemen.
Para sa Diesbach, ang mga chatbots ay hindi dapat gamitin bilang mga tool upang mapatunayan ang mga katotohanan.
“Hindi sila ginawa upang sabihin ang katotohanan,” ngunit upang “makabuo ng nilalaman, totoo man o mali”, aniya.
“Kailangan mong tingnan ito tulad ng isang palakaibigan na sinungaling na pathological – maaaring hindi ito palaging kasinungalingan, ngunit laging magagawa.”
Dou-aor/sbk/rlp
