Dari sudut perancangan pengeluaran dan operasi, salah satu tanggapan keliru yang sering timbul dalam AI perusahaan ialah kepercayaan bahawa halusinasi akhirnya boleh dihapuskan dengan membina 大 语言 模型 yang lebih besar dan lebih berkuasa. Hakikatnya, LLM direka secara probabilistik. Outputnya mungkin menjadi lebih tepat, tetapi sentiasa ada kemungkinan bukan sifar untuk ralat, ketidakkonsistenan atau maklumat yang tidak disokong.
Sebagai pasukan operasi, soalan yang lebih praktikal bukanlah bagaimana menghapuskan halusinasi sepenuhnya, tetapi mengapakah operasi perniagaan kritikal harus bergantung sepenuhnya kepada sistem probabilistik? Masalahnya bukan sahaja pada model. Ia terletak pada arkitektur yang membenarkan model menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Pendekatan lebih kukuh ialah memisahkan penaakulan AI daripada pelaksanaan operasi melalui 独立系统 yang 100% deterministic. AI boleh mentafsir data, mengenal pasti corak, menjana cadangan dan mencadangkan tindakan, tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Outputnya dianggap sebagai input yang mesti disahkan secara bebas sebelum masuk ke aliran kerja.
Sebelum sebarang tindakan dilaksanakan, 独立系统 menyemak peraturan perniagaan yang deterministik, integriti skema, konsistensi matematik, keizinan pengguna, dasar keselamatan, syarat aliran kerja dan keperluan audit. Sekiranya mana-mana syarat gagal, sistem akan menghentikan proses atau mengeskalkannya untuk semakan manusia. AI mungkin masih menghasilkan jawapan yang tidak sempurna, tetapi jawapan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai tidak akan bergantung kepada model bebas halusinasi. Ia akan bergantung kepada arkitektur yang selamat daripada halusinasi. Dengan memisahkan kecerdasan daripada pelaksanaan, penaakulan daripada pengesahan dan cadangan daripada kawalan, perniagaan 马来西亚 boleh menggunakan keanjalan AI tanpa membiarkan output probabilistik menjejaskan sistem kritikal.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
文章把menjana cadangan dan mencadangkan tindakan和日常运营联系起来，这一点很有帮助。
如果有更多ia terletak pada arkitektur yang的数据和结果会更完整。
文章对masalahnya bukan sahaja pada model提供了很好的起点，值得继续跟进。
我特别喜欢yang 100% determin 100%这一部分，内容没有把实施过程说得太简单。
如果还有100%的后续，我会继续读。
100%这部分我看了几遍，值得再想。
总结部分让tetapi ia tidak mengawal proses的重点更加清楚。
我会把ketidakkonsistenan atau maklumat yang tidak这一段分享给需要了解技术的同事。