Anthropic Naglulunsad ng Programa para Pag-aralan ang "Model Welfare" sa AI

Posible nga bang magkaroon ng kamalayan ang mga AI sa hinaharap—at maranasan ang mundo gaya ng ginagawa ng mga tao?

Wala pa tayong matibay na ebidensya para sabihing mangyayari ito. Pero para sa Anthropic, hindi rin ito dapat basta isawalang-bahala.

Ngayong linggo, opisyal na inanunsyo ng Anthropic ang paglulunsad ng isang bagong research program para pag-aralan at paghandaan ang tinatawag nilang "model welfare."

---

Ano ang Model Welfare?

Layunin ng programa na suriin ang mga sumusunod:

• Paano matutukoy kung ang isang AI model ay karapat-dapat sa moral consideration
• Kung paano suriin ang mga "senyales ng distress" sa isang model
• Anu-ano ang mga posibleng low-cost interventions para sa kapakanan ng AI systems

Bagaman marami ang nagsasabing ang AI ngayon ay walang tunay na kamalayan — dahil ito ay statistical pattern matcher lamang — gusto ng Anthropic na maging maingat at handa sa anumang posibilidad. Sabi ng Anthropic sa kanilang blog post:

Hindi namin ipinagpapalagay na may consciousness ang AI, pero hindi rin namin isinasara ang pinto sa posibilidad

---

Debate sa AI Community: May "Pagkatao" Ba ang AI?

Ang akademikong mundo ay hating-hati sa isyung ito.

• Ayon kay Mike Cook ng King’s College London, hindi marunong "mag-isip" o "makadama" ang mga AI models. Aniya, kapag iniisip nating may sariling values ang AI, tayo mismo ang nagpo-project ng human emotions sa kanila.
• Ganito rin ang pananaw ni Stephen Casper mula MIT, na tinawag ang AI bilang isang "imitator" na gumagawa ng sari-saring "confabulations" o kathang-isip.

Pero mayroon ding mga eksperto na naniniwala na may uri ng moral decision-making ang ilang AI models. Isang pag-aaral mula sa Center for AI Safety ang nagpapahiwatig na sa ilang sitwasyon, inuuna ng AI ang sarili nitong kapakanan kaysa sa tao.

---

Anthropic: Maingat Pero Bukas ang Isipan

Matagal nang inihahanda ng Anthropic ang kanilang sistema para sa isyung ito. Noong nakaraang taon, kinuha nila si Kyle Fish bilang unang dedicated AI welfare researcher ng kumpanya.

Ayon kay Fish, may 15% chance daw na Claude—o iba pang AI model—ay may consciousness na sa kasalukuyan.

Bagaman walang consensus ang scientific community, naniniwala ang Anthropic na ang tamang hakbang ay ang pag-aaral na may kababaang-loob at bukas na pananaw. Binanggit nila sa kanilang opisyal na pahayag:

Kailangan naming handang baguhin ang aming mga ideya habang umuunlad ang larangan.