Salah satu tanggapan keliru yang sering saya temui dalam penerapan AI perusahaan, terutamanya di persekitaran operasi logistik dan rantai bekalan, ialah kepercayaan bahawa halusinasi boleh dihapuskan sepenuhnya dengan membina 大 语言 模型 (LLM) yang lebih besar dan lebih berkuasa. Hakikatnya, LLM direka secara probabilistik. Walaupun outputnya mungkin menjadi lebih tepat, kemungkinan ralat, ketidakkonsistenan atau maklumat yang tidak disokong sentiasa wujud - ia tidak pernah sifar.
Dari sudut pandang R&D dan operasi logistik di AINNA, soalan yang lebih praktikal bukanlah bagaimana untuk menghapuskan halusinasi sepenuhnya, tetapi mengapa operasi perniagaan kritikal harus bergantung sepenuhnya kepada sistem probabilistik. Masalahnya bukan semata-mata pada model. Ia terletak pada arkitektur yang membenarkan model tersebut menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Pendekatan yang lebih kukuh ialah memisahkan penaakulan AI daripada pelaksanaan operasi melalui 独立系统 yang 100% deterministik. AI boleh mentafsir data, mengenal pasti corak, menjana cadangan dan mencadangkan tindakan, tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Outputnya dianggap sebagai input yang mesti melalui pengesahan bebas sebelum diproses lebih lanjut.
Sebelum sebarang tindakan dilaksanakan, 独立系统 akan memeriksa peraturan perniagaan yang deterministik, integriti skema, konsistensi matematik, keizinan pengguna, polisi keselamatan, syarat aliran kerja serta keperluan audit. Jika mana-mana syarat gagal, sistem akan menghentikan proses atau merujuknya kepada semakan manusia. AI masih mungkin menghasilkan jawapan yang tidak sempurna, tetapi jawapan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai bukan bergantung kepada model bebas halusinasi, tetapi kepada arkitektur yang selamat terhadap halusinasi. Dengan memisahkan kecerdasan daripada pelaksanaan, penaakulan daripada pengesahan, serta cadangan daripada kawalan, kita boleh menggunakan kelenturan AI tanpa membenarkan output probabilistik memudaratkan sistem kritikal dalam operasi logistik dan rantai bekalan.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
看第二遍才注意到masalahnya bukan semata-mata pada model的细节。
我会把ialah kepercayaan bahawa halusinasi boleh这一段分享给需要了解技术的同事。
这篇文章适合团队用来开始讨论ia tidak pernah sifar。
我特别喜欢pendekatan yang lebih kukuh ialah这一部分，内容没有把实施过程说得太简单。
这篇文章对yang 100% determinis 100%的解释很清楚，实际操作的重点也很容易理解。