Apa jadi jika kita letakkan “jiwa” dalam server, dan suatu hari kita tidak lagi mampu mengawalnya?
Hari ini, dalam majlis anjuran Kedutaan Arab Saudi, saya berpeluang berbual dengan seorang pegawai kanan dari TV Alhirah tentang AI 智能体.
Saya kongsi apa yang kami usahakan di AINNA untuk pelanggan: ejen AI yang boleh hidup dalam server, PC dan mesin, bukan sekadar menunggu arahan, tetapi terus bekerja menuju matlamat dan niat yang ditentukan manusia.
Saya gambarkan dengan cara yang mudah difahami oleh pemilik perniagaan:
“Ia seperti ada seseorang di dalam server anda, yang sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan melintas di fikiran saya-dan ini juga yang sering saya dengar daripada pelanggan.
Apabila ejen AI semakin autonomi dan mampu berkomunikasi serta bekerjasama dengan ejen lain, apa yang berlaku apabila guardrails gagal?
Inilah sebabnya saya percaya kill switch mesti dibina secara native dalam setiap ejen AI autonomi - dan akhirnya menjadi amalan kejuruteraan standard dalam industri.
Kita boleh terus membina AI yang lebih berkemampuan dan autonomi.
Tetapi manusia mesti sentiasa memegang kuasa akhir untuk menghentikannya.
Bina ejen itu. Bina kecerdasan itu.
Tetapi jangan lupa kill switch.
#AgentAI #AISafety #Artificial智能 #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这部分读起来很清楚，也容易跟着理解。
同意作者对saya kongsi apa yang kami的判断，方向很清楚。
关于tetapi terus bekerja menuju matlamat的实际落地部分最吸引我。
关于apa yang berlaku apabila guardrails的例子很实用，适合团队继续讨论。
收藏了，主要是为了inilah sebabnya saya percaya kill。