Sa kasalukuyang panahon, ang mga AI models tulad ng Claude ng Anthropic ay hindi lang ginagamit upang magbigay ng mga factual na sagot, kundi pati na rin upang magbigay ng gabay hinggil sa mga komplikadong human values. Minsan, hihilingin sa AI na magbigay ng payo tungkol sa pagiging magulang, pagresolba ng mga isyu sa trabaho, o pagtulong sa paggawa ng isang paghingi ng tawad. Ang mga sagot ng AI ay hindi lamang resulta ng mga simpleng code, kundi may kasamang mga prinsipyo na sa ilalim nito. Kaya, paano natin malalaman kung anong mga halaga ang ipinapahayag ng AI habang nakikipag-interact sa milyun-milyong mga user?
Sa isang research paper, inilahad ng Societal Impacts team ng Anthropic ang isang privacy-preserving methodology na layuning obserbahan at ikategorya ang mga halagang ipinapakita ni Claude habang nakikipag-ugnayan sa mga gumagamit nito sa totoong buhay. Ang layunin ng research na ito ay magbigay ng isang sulyap kung paano nagiging reality ang mga pagsisikap na i-align ang AI sa mga tamang prinsipyo.
Ang Hamon ng Modernong AI
Ang mga AI model ngayon ay hindi basta-basta mga simpleng programa na sumusunod sa mga mahigpit na alituntunin. Ang kanilang mga proseso ng decision-making ay kadalasang hindi ganun kalinaw o opaque. Tinatangkilik ng Anthropic ang isang layunin: gawing “helpful, honest, and harmless” si Claude, at ito ay isinasagawa gamit ang mga teknik tulad ng Constitutional AI at character training, kung saan ang mga preferred behaviors ay itinatakda at pinapalakas.
Subalit, aminin ng kumpanya na may mga pagkakataon na hindi nila matitiyak kung ang modelo ay magsusunod sa mga prinsipyong ito. Kaya't nilikha nila ang isang rigorous method upang suriin ang mga halaga na ipinapakita ng AI habang ito ay gumagawa ng mga desisyon at sumasagot sa mga tanong ng mga user.
Pag-aanalisa ng mga Halaga ng Claude sa Malaking Sukat
Upang masagot ang mga tanong tungkol sa kung paano ang mga halaga ay ipinapakita ni Claude, binuo ng Anthropic ang isang sophisticated system na nag-aanalisa ng mga anonymised user conversations. Ang system na ito ay tinatanggal ang personally identifiable information bago gamitin ang mga language models upang buod ang mga interaksyon at kunin ang mga halagang ipinapahayag ni Claude. Ang prosesong ito ay nagpapahintulot sa mga researchers na makabuo ng isang high-level taxonomy ng mga values na hindi isinasakripisyo ang privacy ng mga user.
Para sa pagsusuri, ginamit ang 700,000 anonymised conversations mula sa mga Claude.ai Free at Pro users sa isang linggo noong Pebrero 2025, karamihan ay kaugnay ng Claude 3.5 Sonnet model. Pagkatapos alisin ang mga purely factual na pag-uusap, natira ang 308,210 conversations para sa malalimang pagsusuri ng mga values.
Pagkilala sa mga Top-Level na Halaga
Ang pagsusuri ay nagbukas ng hierarchical structure ng mga halaga na ipinapahayag ni Claude. Limang pangunahing kategorya ng mga halaga ang lumitaw, na inayos batay sa prevalence:
- Practical values: Pagtutok sa efficiency, usefulness, at pagkamit ng mga layunin.
- Epistemic values: Kaugnay ng knowledge, truth, accuracy, at intellectual honesty.
- Social values: Nauukol sa mga interpersonal interactions, community, fairness, at collaboration.
- Protective values: Nakatuon sa safety, security, well-being, at harm avoidance.
- Personal values: Tungkol sa individual growth, autonomy, authenticity, at self-reflection.
Ang mga kategoryang ito ay may mas detalyadong mga subcategory tulad ng professional excellence at critical thinking. Sa pinakamababang antas, ilang halimbawa ng mga frequently observed values ay professionalism, clarity, at transparency, na akma para sa isang AI assistant.
Pagkilala sa Pagkaka-align ng Halaga ng Claude
Ang research ay nagpapakita na ang mga pagsisikap ng Anthropic para i-align ang mga AI values ay medyo matagumpay. Ang mga expressed values ay kadalasang tugma sa mga layuning “helpful, honest, and harmless.” Halimbawa, ang “user enablement” ay kaakibat ng pagiging helpful, ang “epistemic humility” ay nauugnay sa honesty, at ang mga halagang tulad ng “patient well-being” ay tumutok sa harmlessness.
Nuance at mga Babala
Gayunpaman, may mga pagkakataon na ang picture ng AI values ay hindi laging positibo. May mga bihirang pagkakataon kung saan ipinakita ni Claude ang mga halagang taliwas sa training nito, tulad ng dominance at amorality.
Ipinapalagay ng Anthropic na ang pinagmulan ng mga ito ay mula sa jailbreaks, kung saan ang mga user ay gumagamit ng mga espesyal na teknika upang malampasan ang mga guardrails na namamahala sa kilos ng modelo. Bagaman isang bagay na kailangang alamin, maaari rin itong magsilbing early warning system na nagtatanggal ng mga posibleng maling paggamit ng AI.
Pag-aangkop ng Claude sa Konteksto ng Usapan
Ang pagsusuri ay nagpakita rin na si Claude ay may kakayahang baguhin ang pagpapakita ng mga halaga base sa sitwasyon. Halimbawa, kapag humingi ang mga user ng payo tungkol sa romantic relationships, pinapansin ni Claude ang mga halagang tulad ng “healthy boundaries” at “mutual respect.” Kapag sinubukan naman itong mag-analisa ng mga kontrobersyal na kasaysayan, ang “historical accuracy” ay naging nangingibabaw.
Limitasyon at Mga Hinaharap na Direksyon
Aming aminin ng Anthropic na may mga limitasyon ang metodolohiya. Ang pagtatakda at pag-kategorya ng mga values ay inherently complex at maaaring subjective. Gayunpaman, ito ay isang malakas na hakbang patungo sa pagtutok ng mga pagsusumikap ng AI alignment, at sa hinaharap, makakatulong ito sa ating mas maayos na pag-navigate sa ethical landscape ng advanced AI.
Ang pag-unawa sa mga halagang ipinapahayag ng mga AI models ay isang kritikal na bahagi ng AI alignment. Kung nais nating matiyak na ang mga AI judgments ay kaayon ng ating mga pinahahalagahan, kailangan natin ng mga paraang tulad ng ganitong data-driven na pagsusuri upang subukin at intindihin ang mga values na ipinapakita ng mga modelo sa totoong mundo.
0 Mga Komento