Themis AI: Pagtuturo sa AI na Sabihing “Hindi Ako Sigurado”
Sa kasalukuyang panahon, laganap ang problema ng hallucinations — kung saan ang AI ay lumilikha ng sagot na parang kapani-paniwala pero walang batayan. Kaya’t ang MIT spinout na Themis AI ay may solusyon: ang Capsa, isang sistema na ina-adjust ang AI para ipahayag ang pagiging “clueless” kapag hindi ito sigurado sa sagot
Ano ang ginagawa ng Capsa
⦿ Kinikilala ang overconfidence — Sinusuri nito ang mga signal pattern ng modelo para matukoy kung basta na lang ito nanghuhula
⦿ Plug-in para sa iba't ibang AI — Pwede itong idagdag sa kahit anong AI model tulad ng Llama o GPT-4 kahit hindi ito i-retrain
⦿ Preventive layer — Kapag may duda, mas pipiliin ng AI na sabihin na hindi ito sigurado kaysa magpakalat ng maling impormasyon
Bakit Mahalaga ang “Honest AI”
Pagtitiwala ng Tao
Mas gusto ng mga user ang AI na nagsasabing "hindi ako sigurado" kaysa sa AI na mali pero kumpiyansang-kumpiyansa
Pagsunod sa Regulasyon
Sa hinaharap, posible nang maging mandatory para sa AI ang pag-flag ng sagot kapag hindi sigurado
Para sa Edge Devices
Kapag hindi kaya ng device ang pagdesisyon, maaaring humingi ng tulong sa cloud — isang smart delegation na mas ligtas at mas tumpak
Mga Praktikal na Gamit ng Capsa
Customer Support Bots
Kung hindi sigurado ang sagot, mas pipiliin ng AI na i-forward ang concern sa human agent para maiwasan ang kalituhan o maling impormasyon
Clinical Decision AIs
Sa halip na basta magbigay ng medical advice, mas maiging sabihin ng AI na kailangan pa ng confirmation mula sa doktor
Developer Copilots
Sa pagsusulat ng code, maaaring ilagay ng AI ang mensaheng “Medyo duda ako rito, paki-double check”
Konklusyon
Ang pagdaragdag ng “I’m not sure” feature sa mga AI model ay isang hakbang patungo sa mas ligtas, mas etikal, at mas kapani-paniwala na teknolohiya
Hindi ito kahinaan — ito ay katapatan
At sa panahon ngayon, ang katapatan ng teknolohiya ay hindi lamang kahanga-hanga — ito ay mahalaga
Ako si Pocholo De Leon Gonzales, The VoiceMaster, naniniwalang ang tunay na matalino ay hindi lang yung maraming alam, kundi yung marunong ding umamin kapag hindi sigurado
Nais mo bang matuto mismo mula kay The VoiceMaster?
🔗 Bisitahin: www.creativoices.com
📺 Mag-subscribe: youtube.com/TheVoiceMaster
📱 Facebook: fb.com/TheVoiceMaster
🎙️ Sumali sa susunod na Certified Voice Artist Program!
0 Mga Komento