Di lantai operasi logistik, salah satu tanggapan salah besar mengenai AI dalam perusahaan ialah idea yang menganggap 'hallucination' LLM akan hilang apabila model semakin besar dan bertenaga. Realitinya, LLM direka secara probabilistik. Outputnya mungkin semakin tepat, tetapi kemungkinan ralat, ketidakkonsistenan atau maklumat yang tidak disokong tidak akan menjadi sifar.
Sebagai Ketua Logistik di AINNA, persoalan yang lebih praktikal bukanlah bagaimana membasmi halusinasi AI sepenuhnya, tetapi mengapa operasi kritikal seperti perintah kerja (pick orders), perancangan laluan penghantaran dan perubahan stok SKU perlu bergantung sepenuhnya kepada sistem probabilistik. Masalahnya bukan semata-mata model. Ia berpunca pada arkitektur yang membenarkan AI menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Pendekatan lebih kukuh ialah memisahkan penaakulan AI daripada pelaksanaan operasi melalui 独立系统 yang 100% deterministik. AI boleh mentafsir data operasi-sejarah pergerakan SKU, corak permintaan, prestasi lori, dan kelewatan-serta menghasilkan ramalan dan cadangan tindakan. Namun AI tidak mengawal proses perniagaan akhir. Setiap outputnya dianggap sebagai input yang mesti melalui pengesahan bebas sebelum menjadi arahan dalam WMS, TMS atau OMS.
Sebelum sebarang perintah kerja, perubahan kuantiti inventori, perancangan laluan atau nota pengeluaran dilaksanakan, sistem 分离式 melakukan semakan deterministik: peraturan perniagaan (business rules), keutuhan skema data, konsistensi matematik, kebenaran pengguna (user permissions), dasar keselamatan, syarat aliran kerja (workflow conditions) dan keperluan 审计追踪. Jika mana-mana syarat gagal, sistem menghentikan proses atau meningkatkannya kepada semakan manusia. AI masih mungkin memberi cadangan yang kurang sempurna, tetapi cadangan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai dalam logistik tidak bergantung kepada model bebas halusinasi. Ia bergantung kepada arkitektur yang selamat terhadap halusinasi. Dengan memisahkan kepintaran daripada pelaksanaan, penaakulan daripada pengesahan, dan cadangan daripada kawalan, kita boleh menggunakan fleksibiliti AI di gudang, pengangkutan dan rantai bekalan tanpa membenarkan output probabilistik mengganggu sistem kritikal.
