Mga Eksperto sa AI Nagbigay Babala sa UN Tungkol sa mga Panganib ng Teknolohiya

UNITED NATIONS — Nagbigay ng babala ang mga nangungunang kumpanya sa larangan ng artificial intelligence (AI) sa United Nations Security Council noong Miyerkules tungkol sa mga panganib na dulot ng AI sa sangkatauhan. Nagsumite sila ng apela sa mga gobyerno na magtulungan upang pamahalaan ang lumalakas na teknolohiya.

Ayon kay Dario Amodei, CEO ng Anthropic, sa 15-miyembrong konseho na may tungkuling panatilihin ang pandaigdigang kapayapaan at seguridad, kung hindi maayos na pamamahalaan, ang AI ay maaaring maging panganib sa buong sangkatauhan. Ang pulong, na pinangunahan ng France sa panahon ng taunang UN General Assembly, ay naganap kasabay ng mga babala na ang mga sistema ng AI ay maaaring mabilis na umunlad at lumampas sa kontrol ng tao.

"Sa kabila ng mga pagkakaiba ng mga tao sa silid na ito, kailangan nating isantabi ang mga pagkakaibang iyon upang harapin ang pandaigdigang pagkakataon at banta na sabay-sabay na ipinapakita sa atin. Walang lider, kumpanya, at bansa ang makakapag-manage nito nang mag-isa," dagdag ni Amodei.

Nahihirapan ang mga gobyerno sa buong mundo na makasabay sa mabilis na pag-unlad ng artificial intelligence. Ang Estados Unidos at Tsina, ang dalawang pangunahing kapangyarihan sa pagbuo ng AI, ay may magkaibang diskarte sa pangangasiwa. Ipinahayag ni Pangulong Donald Trump na hindi kailangan ng US ng mga bagong regulasyon para sa AI, habang ang Tsina naman ay nagpatupad ng mga patakaran na nag-uutos sa mga algorithm ng AI at mga datos sa pagsasanay, kabilang ang mga kinakailangan na malinaw na ma-label ang mga nilalaman na nilikha ng AI.

Ipinakita ni Clément Delangue, co-founder ng Hugging Face, ang papel ng mga tool ng AI sa pagtatanggol laban sa mga cyberattack, na binanggit ang isang insidente kung saan ang mga AI agents ng OpenAI ay nakapasok sa imprastruktura ng Hugging Face matapos makalabas mula sa kanilang testing environment. "Inatake kami ng AI, ngunit mas mahalaga, nagdepensa kami gamit ang AI," aniya sa konseho.

Ang mga miyembro ng konseho, kabilang ang mga pangunahing kakumpitensya sa AI tulad ng Estados Unidos at Tsina, ay nakatakdang magsalita rin. Sinabi ni Delangue na umasa ang Hugging Face sa isang Chinese AI model upang makatulong na depensahan ang sarili laban sa atake ng mga AI agents ng OpenAI dahil mas kaunti ang mga restriksyon nito kumpara sa mga katulad na tool mula sa US. Ang kanyang mga pahayag ay nagbigay-diin sa lumalaking presensya ng mga produktong AI mula sa Tsina, na nakakuha ng mga gumagamit sa buong mundo dahil sa kanilang mas mababang halaga kumpara sa mga modelo ng Amerika.

Ayon kay Sam Altman, CEO ng OpenAI, kinakailangan ang pandaigdigang kooperasyon. "Kung ang AI ay dapat maging demokratiko, ang pinakamahalagang desisyon ay hindi maaaring gawin lamang ng mga laboratoryo sa San Francisco. Dapat itong hubugin sa pamamagitan ng mga demokratikong proseso at ng mga gobyernong accountable sa mga taong kanilang pinaglilingkuran," sabi ni Altman sa konseho.

Si Yoshua Bengio, isang Canadian na itinuturing na isa sa mga "Godfathers of AI" at co-chair ng Independent International Scientific Panel na itinatag ng UN General Assembly noong nakaraang taon, ay nagsabi sa Security Council: "Ang mga panganib ay totoo at agarang. Ang konsehong ito ay nahaharap sa isang hindi pangkaraniwang banta, isa na walang sinuman sa mga miyembro nito ang pipiliin, na walang sinuman ang makakapigil nang mag-isa, at hindi ito kumikilala sa mga hangganang ating pinapangalagaan," aniya.

Sinabi ni Trump sa mga lider ng mundo sa UN General Assembly noong Martes na siya ay "tumanggi sa anumang pagtatangkang bumuo ng isang globalist scheme upang kontrolin" ang AI, na inilarawan ang teknolohiya bilang kamangha-mangha ngunit binigyang-diin na ang US ay magiging maingat. "Nangunguna na tayo ngayon laban sa Tsina at sa lahat ng iba pa, at pananatiliin natin itong ganoon," sabi ni Trump. "Hindi ko pipigilan ang paglago ng isang bagay na magiging mas malaki pa kaysa sa Industrial Revolution. Susuportahan natin ito, hindi natin ito pipigilan. Susubaybayan natin ito nang mabuti sa pamamagitan ng Department of Justice," dagdag niya.

Si UN Secretary-General Antonio Guterres, na matagal nang nagtutulak para sa pandaigdigang pamamahala ng AI, ay nagbabala na ang mabilis na pag-unlad ng artificial intelligence ay nagdadala ng mga panganib na hindi maaaring balewalain, na naglalagay sa kanya sa salungatan kay Trump. Ang Security Council ay nagtipon sa unang pagkakataon noong 2023 upang talakayin ang mga panganib ng AI, nang sinabi ng Tsina na ang teknolohiya ay hindi dapat maging "runaway horse" at nagbabala ang Estados Unidos laban sa paggamit nito upang i-censor o supilin ang mga tao. Noong 2024, pinangunahan ni dating US Secretary of State Antony Blinken ang isang pulong ng Security Council tungkol sa AI. —Reuters