Ipinakita ng mga mananaliksik mula sa ByteDance, ang kumpanyang nagmamay-ari ng TikTok, ang OmniHuman-1, isang bagong AI system na may kakayahang lumikha ng mga deepfake video na halos imposibleng makilala mula sa totoong footage.
Bagong Antas ng Deepfake Technology
Sa kasalukuyan, marami nang AI applications ang kayang maglagay ng mukha ng isang tao sa larawan o gawing parang nagsasalita ang isang tao ng mga bagay na hindi naman talaga niya sinabi. Ngunit karamihan sa mga deepfake, lalo na sa video format, ay madaling makilala dahil sa mga bahagyang pagkakamali sa paggalaw o ekspresyon ng mukha.
Ngunit ayon sa mga sample na inilabas ng ByteDance, ibang antas ang naabot ng OmniHuman-1. Nakagawa ito ng mga pekeng video ng isang TED Talk, isang lecture ni Albert Einstein, at isang pekeng pagtatanghal ni Taylor Swift, na may pambihirang detalye at realismo.
Paano Gumagana ang OmniHuman-1?
Ayon sa mga mananaliksik ng ByteDance, isang reference image at audio lamang ang kailangan upang makalikha ng video na may kahit anong haba. Kaya rin nitong baguhin ang proportion ng katawan ng isang subject at i-adjust ang aspect ratio ng output video.
Ginamit ng OmniHuman-1 ang 19,000 oras ng video content mula sa hindi tinukoy na mga source upang matutunan ang realistic na galaw at ekspresyon ng mukha. Bukod sa paglikha ng bagong deepfake videos, kaya rin nitong i-edit ang mga umiiral nang video at baguhin ang kilos ng katawan ng isang tao.
Hindi Perpekto, Ngunit Mas Advanced
Bagaman mas advanced kaysa sa ibang deepfake tools, may mga limitasyon pa rin ang OmniHuman-1. Sinabi ng ByteDance na ang mababang kalidad ng reference image ay maaaring magresulta sa hindi gaanong makatotohanang output. Mayroon din itong kahirapan sa pagproseso ng ilang mga pose, tulad ng hindi natural na kilos ng mga kamay sa isang sample video.
Mga Pangamba sa Maling Paggamit ng Teknolohiya
Bagaman hindi pa inilalabas ng ByteDance ang OmniHuman-1 sa publiko, maraming AI experts ang nangangamba na maaaring madali itong ma-reverse engineer ng AI community, gaya ng nangyari sa ibang AI models.
May seryosong implikasyon ito, lalo na't tumataas ang bilang ng pekeng balita at panloloko gamit ang deepfake videos.
Sa nakaraang taon, lumaganap ang mga pekeng video na may halong political propaganda sa buong mundo. Sa Taiwan, isang pro-China AI-generated audio ang ginamit upang palabasing sinusuportahan ng isang politiko ang isang pro-China na kandidato. Sa Moldova, isang deepfake video ang nagpakitang nagbitiw sa pwesto ang pangulo ng bansa. Sa South Africa naman, lumabas ang isang deepfake video na nagpapakitang sumusuporta si Eminem sa isang partido ng oposisyon.
Hindi lamang sa politika nagagamit ang deepfake technology. Ginagamit na rin ito sa mga panlolokong may kaugnayan sa pananalapi. Maraming consumers ang nalilinlang ng deepfake videos ng mga celebrity na tila nag-eendorso ng mga pekeng investment schemes. Maging ang malalaking kumpanya ay naloloko ng deepfake impersonators, na nagresulta sa mahigit $12 bilyon na pagkalugi noong 2023 ayon sa Deloitte. Inaasahang aabot ito sa $40 bilyon sa 2027 kung walang mahigpit na regulasyon.
Pagtugon ng Lipunan at Pamahalaan
Noong Pebrero 2024, daan-daang eksperto sa AI ang lumagda sa isang bukas na liham na nananawagan ng mahigpit na regulasyon sa deepfake technology. Sa ngayon, mahigit 10 estado sa U.S. ang may mga batas laban sa AI-aided impersonation. Kung maipapasa, ang bagong batas sa California ay magbibigay ng kapangyarihan sa mga hukom na ipatanggal ang mga pekeng video at magpataw ng multa sa mga lumalabag.
Sa kabila ng mga hakbang na ito, nananatiling mahirap matukoy ang deepfake content. Sa isang survey noong Mayo 2024 ng ID verification firm na Jumio, 60% ng mga sumagot ang nagsabing nakatagpo sila ng deepfake sa nakaraang taon, at 72% ang natatakot na malinlang ng mga pekeng video araw-araw.
Sa patuloy na pagsulong ng AI at deepfake technology, nananatiling isang mahalagang hamon kung paano matutukoy at mapipigilan ang maling paggamit nito upang protektahan ang publiko laban sa disimpormasyon at panloloko.
0 Mga Komento