Satu salah faham besar yang kami lihat dalam AI perusahaan ialah anggapan bahawa hallucination boleh dihapuskan sepenuhnya dengan membina LLM yang lebih besar dan lebih berkuasa. Dalam operasi sebenar, LLM secara reka bentuknya adalah probabilistik. Outputnya mungkin lebih tepat, tetapi sentiasa ada kemungkinan ralat, ketidakkonsistenan atau maklumat yang tidak disokong.
Jadi, soalan yang lebih praktikal untuk ditanya - terutamanya oleh pasukan operasi yang menjalankan proses kritikal setiap hari - bukanlah bagaimana nak hapuskan hallucination 100%. Soalannya: mengapa operasi kritikal perniagaan perlu bergantung sepenuhnya pada sistem probabilistik? Masalahnya bukan semata-mata pada model. Ia terletak pada arkitektur yang membenarkan model tersebut menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Pendekatan yang lebih kukuh dari sudut operasi ialah memisahkan AI reasoning daripada operational execution melalui 独立系统 yang 100% deterministik. AI boleh mentafsir data, mengenal pasti corak, menghasilkan cadangan dan mengesyorkan tindakan - tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Outputnya dianggap sebagai input yang mesti disahkan secara bebas sebelum digunakan.
Sebelum sebarang tindakan dilaksanakan, 独立系统 ini akan menyemak peraturan perniagaan yang deterministik, integriti skema, konsistensi matematik, kebenaran pengguna, dasar keselamatan, syarat workflow dan keperluan audit. Jika mana-mana syarat gagal, sistem akan menghentikan proses atau meningkatkannya kepada semakan manusia. AI masih boleh menghasilkan cadangan yang tidak sempurna, tetapi cadangan itu tidak boleh automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai bukan bergantung pada model yang bebas hallucination. Ia bergantung pada arkitektur yang selamat terhadap hallucination. Dengan memisahkan kepintaran daripada pelaksanaan, reasoning daripada validation, dan cadangan daripada kawalan, perusahaan boleh menggunakan fleksibiliti AI tanpa membenarkan output probabilistik menggugat sistem kritikal.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这篇文章把pendekatan yang lebih kukuh dari讲得比一般的AI介绍更具体。
总结部分让terutamanya oleh pasukan operasi yang的重点更加清楚。
如果可以继续说明satu salah faham besar yang的真实案例，我会想继续阅读。
100读起来很清楚，也容易跟着理解。