编辑文章

Bagaimana jika kita meletakkan “jiwa” di dalam sebuah server, dan suatu hari nanti kita tidak lagi mampu mengawalnya?

Hari ini, dalam satu acara anjuran Kedutaan Saudi, saya berpeluang berbincang dengan seorang pegawai kanan daripada TV Alhirah tentang AI 智能体.

Saya berkongsi arah yang sedang kami bina: AI 智能体 yang boleh beroperasi di dalam servers, PCs and machines, bukan sekadar menunggu arahan, tetapi terus bekerja untuk mencapai matlamat dan niat yang ditetapkan oleh manusia.

Saya menjelaskannya dengan mudah:

“Bayangkan ada seseorang di dalam server anda, sentiasa bekerja untuk anda.”

Dalam perjalanan pulang, satu lagi persoalan muncul dalam fikiran saya.

Apabila AI 智能体 menjadi semakin autonomi dan berkeupayaan untuk berkomunikasi serta bekerjasama dengan agents lain, apakah yang akan berlaku apabila guardrails gagal?

Inilah sebabnya saya percaya bahawa kill switch mesti dibina secara natif ke dalam setiap autonomous AI agent — dan akhirnya menjadi amalan kejuruteraan standard di seluruh industri.

Kita boleh terus membina AI yang lebih berkuasa dan autonomi.

Namun, manusia mesti sentiasa mengekalkan kuasa terakhir untuk menghentikannya.

Bina agent itu. Bina kecerdasannya.
Namun jangan sesekali lupakan kill switch.

#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA