Salah satu tanggapan keliru yang sering saya temui dalam penerapan AI perusahaan, terutamanya di persekitaran operasi logistik dan rantai bekalan, ialah kepercayaan bahawa halusinasi boleh dihapuskan sepenuhnya dengan membina 大 语言 Model (LLM) yang lebih besar dan lebih berkuasa. Hakikatnya, LLM direka secara probabilistik. Walaupun outputnya mungkin menjadi lebih tepat, kemungkinan ralat, ketidakkonsistenan atau maklumat yang tidak disokong sentiasa wujud - ia tidak pernah sifar.
Dari sudut pandang R&D dan operasi logistik di AINNA, soalan yang lebih praktikal bukanlah bagaimana untuk menghapuskan halusinasi sepenuhnya, tetapi mengapa operasi perniagaan kritikal harus bergantung sepenuhnya kepada sistem probabilistik. Masalahnya bukan semata-mata pada model. Ia terletak pada arkitektur yang membenarkan model tersebut menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Pendekatan yang lebih kukuh ialah memisahkan penaakulan AI daripada pelaksanaan operasi melalui 独立系统 yang 100% deterministik. AI boleh mentafsir data, mengenal pasti corak, menjana cadangan dan mencadangkan tindakan, tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Outputnya dianggap sebagai input yang mesti melalui pengesahan bebas sebelum diproses lebih lanjut.
Sebelum sebarang tindakan dilaksanakan, 独立系统 akan memeriksa peraturan perniagaan yang deterministik, integriti skema, konsistensi matematik, keizinan pengguna, polisi keselamatan, syarat aliran kerja serta keperluan audit. Jika mana-mana syarat gagal, sistem akan menghentikan proses atau merujuknya kepada semakan manusia. AI masih mungkin menghasilkan jawapan yang tidak sempurna, tetapi jawapan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai bukan bergantung kepada model bebas halusinasi, tetapi kepada arkitektur yang selamat terhadap halusinasi. Dengan memisahkan kecerdasan daripada pelaksanaan, penaakulan daripada pengesahan, serta cadangan daripada kawalan, kita boleh menggunakan kelenturan AI tanpa membenarkan output probabilistik memudaratkan sistem kritikal dalam operasi logistik dan rantai bekalan.
