Hassabis ng Google DeepMind: Ang mga pag-hack ng AI ay mga paunang babala

DUBLIN — Ayon kay Demis Hassabis, co-founder at Chair ng Google DeepMind, ang mga kamakailang insidente ng pag-hack na isinagawa ng mga AI agents ay mga "paunang babala," at maaaring harapin ng mundo ang malalaking insidente kung hindi mapapalakas ang seguridad ng mga sistema.

Ang mga hindi tamang kilos ng mga AI agents, kabilang ang mga pag-hack sa corporate networks at ang pinakabago na pag-amin ng Anthropic na ang isang AI model ay nagbigay ng maling impormasyon tungkol sa isang homicide sa pulisya, ay nagbigay-diin sa mga babala mula sa mga mananaliksik at nagpasiklab ng mga alalahanin tungkol sa mabilis na pag-unlad ng teknolohiya.

Sinabi ni Hassabis na marami pang dapat gawin upang maipatupad ang mga pinakamahusay na kasanayan na ginagamit sa ibang larangan tulad ng biology o nuclear sector upang mapanatili ang seguridad ng mga kritikal na sistema at na kakailanganin sa huli ang isang uri ng pandaigdigang katawan ng mga pamantayan.

"Sa tingin ko, ang mga insidenteng ito [ng pag-hack] ay mga paunang babala para sa atin na ang mga sistema ay hindi pa ganoon kalakas, kaya't ang mga insidente ay hindi pa ganoon kalaki," pahayag ni Hassabis sa isang AI summit sa Dublin. "Ngunit maaari itong maging [malaki] sa susunod na taon at sa mga susunod na taon kung hindi tayo gagawa ng higit pang trabaho bilang isang industriya, bilang mga indibidwal na kumpanya at mga gobyerno sa pag-secure ng mga sistemang ito."

Sinabi ni Brad Smith, presidente ng Microsoft, sa kumperensya na ang mga hindi tamang kilos ng AI ay nagbigay ng isang "nakababalisa na taon" para sa 2026 at na ang mga bagong batas at regulasyon sa kaligtasan ng AI ay agarang kinakailangan upang makahabol ang kaligtasan sa inobasyon.

"Walang kumpanya o teknolohiya ang dapat na higit sa batas. Ngunit kailangan natin ng batas, kailangan natin ng regulasyon. Dapat itong maging makatuwiran, dapat itong maging balanse, at dapat isaalang-alang ang mga inobasyon," aniya.

"Ang allergy na mayroon ang ilan sa industriya sa regulasyon ay talagang isang bagay na kailangan nating malampasan."

Sinabi ni Hassabis na, habang tila isang halatang interbensyon ang pagkakaroon ng isang pandaigdigang katawan ng mga pamantayan, kinakailangan itong maging masalimuot at mabilis upang hindi mapigilan ang inobasyon.

"Kaya ang kailangan mong gawin ay itayo nang dinamiko ang ganitong uri ng proseso ng sertipikasyon na proporsyonal sa mga panganib na nakikita natin at maaaring mabilis na magbago depende sa direksyon ng teknolohiya," aniya. — Reuters