Apa jadi kalau kita letak “jiwa” dalam server, dan satu hari nanti kita tak boleh kawal dia?
Hari ini, dalam satu event yang dianjurkan Kedutaan Saudi, saya berpeluang berbual dengan pegawai kanan dari TV Alhirah tentang AI 智能体.
Saya kongsi apa yang kami usahakan: AI agent yang boleh hidup dalam server, PC dan mesin, bukan sekadar tunggu arahan, tetapi terus bekerja ke arah matlamat dan niat yang ditetapkan manusia. Dalam operasi e-dagang, bayangkan agent yang pantau stok, harga, pesanan dan kempen marketplace tanpa henti.
Saya gambarkan mudah:
“Macam ada seorang operator dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan timbul.
Bila AI agent makin autonomi dan boleh berkomunikasi serta bekerjasama dengan agent lain, apa jadi apabila guardrails gagal?
Sebab itu saya percaya kill switch mesti dibina secara native dalam setiap AI agent autonomi — dan akhirnya jadi amalan kejuruteraan standard dalam industri.
Kita boleh terus bina AI yang lebih berupaya dan autonomi.
Tetapi manusia mesti sentiasa pegang kuasa akhir untuk hentikannya.
Bina agent. Bina kecerdasan.
Tetapi jangan lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
