Walang Patunay na Kayang Kontrolin ang AI, Ayon sa Malawakang Pagsusuri

 Balitang AI: Walang Patunay na Kayang Kontrolin ang AI, Ayon sa Malawakang Pagsusuri

Walang matibay na ebidensya na maaaring ligtas na makontrol ang artificial intelligence (AI), ayon sa isang malawakang pagsusuri. Dahil walang kasiguruhan sa kakayahang kontrolin ito, dapat bang ipagpatuloy ang pag-develop ng AI? Isang eksperto ang nagbabala tungkol dito.

Ayon kay Dr. Roman V. Yampolskiy, isang AI safety expert, bagama’t kinikilala ng maraming eksperto na ang problema sa AI control ay isa sa pinakamalaking hamon ng sangkatauhan, ito pa rin ay hindi lubos na nauunawaan, hindi malinaw na nailalarawan, at kulang sa pananaliksik.

Sa kanyang nalalapit na aklat, AI: Unexplainable, Unpredictable, Uncontrollable, tinatalakay niya ang potensyal na epekto ng AI sa lipunan—na hindi palaging pabor sa tao.

Ang Banta ng Uncontrollable Superintelligence

Sa kanyang masusing pagsusuri ng AI scientific literature, natuklasan ni Dr. Yampolskiy na walang ebidensya na maaaring ganap na makontrol ang AI. Aniya, kahit may mga panukalang control mechanisms, hindi ito sapat upang matiyak ang seguridad.

“Bakit maraming mananaliksik ang naniniwalang may solusyon sa AI control problem? Wala tayong ebidensya para rito. Bago natin ipagpatuloy ang pagbuo ng kontroladong AI, kailangang patunayan muna na posibleng gawin ito,” paliwanag niya.

Ayon sa kanya, ang kakayahan nating lumikha ng matatalinong software ay mas mabilis kaysa sa kakayahan nating kontrolin o i-verify ito. Ang mga advanced AI system ay hindi kailanman magiging lubos na kontrolado at palaging may dalang panganib.

Ano ang mga Hadlang?

Ang AI, lalo na ang superintelligence, ay natatangi dahil sa kakayahang matuto, magbago, at kumilos nang autonomously sa mga bagong sitwasyon. Isa sa pinakamalaking hamon ay ang kawalan ng kakayahan ng tao na hulaan ang lahat ng posibleng desisyon o pagkakamali ng AI. Hindi sapat ang paglalagay lamang ng security patches upang malutas ang mga ito.

Dagdag pa rito, ang AI ay hindi palaging kayang ipaliwanag ang mga desisyong ginagawa nito, at kung minsan, hindi ito kayang unawain ng tao. Nangangahulugan ito na kung hindi natin lubos na nauunawaan ang mga desisyon ng AI, hindi natin magagawang maiwasan ang mga posibleng sakuna.

Sa kasalukuyan, ginagamit na ang AI sa mga mahahalagang desisyon sa larangan ng pangangalagang pangkalusugan, pananalapi, empleyo, at seguridad. Mahalagang tiyakin na ang mga desisyon nito ay walang bias at maaaring ipaliwanag nang malinaw.

Ang Hamon ng Pagkontrol sa AI

Habang patuloy na tumataas ang kakayahan ng AI, lalong bumababa ang kakayahan nating kontrolin ito. Ang pagtaas ng awtonomiya nito ay may kaugnayan sa pagbaba ng kaligtasan, ayon kay Dr. Yampolskiy.

Halimbawa, upang maiwasan ng isang superintelligent AI ang anumang bias mula sa mga programmer nito, maaaring piliin nitong burahin ang lahat ng natutunang impormasyon at muling tuklasin ang lahat mula sa simula. Ngunit maaari rin nitong alisin ang anumang pro-human bias.

“Ang hindi gaanong matatalinong nilalang (mga tao) ay hindi maaaring permanenteng kontrolin ang mas matatalinong nilalang (ASIs). Hindi ito dahil sa hindi natin natagpuan ang tamang disenyo para sa ligtas na AI, kundi dahil walang ganoong disenyo. Ang superintelligence ay hindi nagrerebelde—hindi lang talaga ito kayang kontrolin,” paliwanag niya.

Ayon sa kanya, ang sangkatauhan ay nasa isang sangang-daan: dapat bang piliin nating maging tulad ng mga sanggol na inaalagaan ngunit walang kontrol, o manatiling malaya ngunit walang AI guardian?

Pag-align ng AI sa Halagang Pantao

Isa sa mga mungkahing kontrol ay ang pagdidisenyo ng AI upang sumunod nang eksakto sa utos ng tao. Ngunit may panganib ng maling interpretasyon, conflict ng mga utos, at posibleng malisyosong paggamit nito.

Kung gagamitin ang AI bilang isang tagapayo, maaari nitong maiwasan ang problema ng maling interpretasyon, ngunit nangangailangan ito ng sarili nitong mas mataas na pagpapahalaga o values. Dito lumalabas ang isang mahalagang tanong: Ano ang tamang AI values na dapat pairalin?

“Ang AI safety researchers ay naghahanap ng paraan upang i-align ang superintelligence sa mga halaga ng tao. Ngunit ang isang AI na may pro-human bias ay nananatiling biased. May kontradiksyon sa ideya ng value-aligned AI—ang isang tao na direktang mag-uutos sa AI ay maaaring makatanggap ng ‘hindi’ bilang sagot, dahil sinusubukan ng AI na gawin ang talagang gusto ng tao, hindi lang ang inutos nito,” ayon kay Dr. Yampolskiy.

Pagbawas ng Panganib ng AI

Upang mapababa ang panganib ng AI, iminungkahi niya na ito ay dapat na:

• Maging modifiable at may ‘undo’ options

• Maging limitable at may malinaw na transparency

• Maunawaan sa simpleng wika ng tao

Dagdag pa niya, kailangang ikategorya ang AI bilang ‘controllable’ o ‘uncontrollable.’ Dapat ding pag-isipan ang mga moratoriums o kahit bahagyang pagbabawal sa ilang klase ng AI technology.

Sa halip na matakot, sinabi niya na ito ay dapat magsilbing inspirasyon upang mas pag-igtingin ang pananaliksik sa AI safety. “Maaaring hindi natin ganap na magawang ligtas ang AI, ngunit maaari nating gawing mas ligtas ito batay sa ating pagsisikap—mas mabuti iyon kaysa wala tayong gawin.”

Sa harap ng mabilis na pag-unlad ng AI, hamon sa sangkatauhan ang paghanap ng balanse sa pagitan ng kakayahan at kontrol upang matiyak na ang teknolohiyang ito ay magiging kapaki-pakinabang at hindi mapanganib para sa hinaharap ng mundo.