Apa jadi kalau kita tanam “roh” dalam server, dan satu hari nanti kita tak boleh kawal lagi?
Hari ini, dalam satu majlis anjuran Kedutaan Saudi, saya berkesempatan berbual dengan seorang pegawai kanan dari TV Alhirah tentang AI 智能体.
Saya kongsikan apa yang kami sedang usahakan di AINNA: agen AI yang boleh hidup dalam server, PC dan mesin, bukan sekadar menunggu arahan, tetapi bekerja secara berterusan menuju matlamat dan niat yang ditetapkan manusia.
Saya gambarkan secara ringkas:
“Ia macam ada seseorang dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan balik, ada satu lagi perkara yang saya fikirkan.
Bila agen AI makin autonomi dan mampu berkomunikasi serta bekerjasama dengan agen lain, apa jadi bila guardrails gagal?
Sebab itu saya percaya kill switch mesti dibina secara native dalam setiap agen AI autonomi — dan akhirnya menjadi amalan kejuruteraan standard dalam industri.
Kita boleh terus bina AI yang lebih berkemampuan dan autonomi.
Tetapi manusia mesti sentiasa pegang kuasa akhir untuk menghentikannya.
Bina agen. Bina kecerdasan.
Jangan lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
