Alhamdulillah.
Semalam, saya bersama pasukan perancangan pengeluaran dan operasi di AINNA berbesar hati menerima kunjungan wakil daripada UPEN 马六甲 (Unit Perancang Ekonomi Negeri 马六甲) dan SIRIM 马六甲. Kami amat bernasib baik apabila Pengarah SIRIM 马六甲, Encik Kamarulzaman bin Ahamad Zainudin, turut menyertai sesi ini.
Kunjungan ini merupakan sebahagian daripada proses penilaian untuk Anugerah Usahawan Negeri 马六甲, di mana kami diberi peluang untuk mempersembahkan kemajuan terkini AINNA NeuralOps-arkitektur AI generasi seterusnya yang dirancang untuk menjadikan AI lebih efisien, lebih boleh dipercayai dan lebih praktikal untuk pelaksanaan operasi sebenar di lapangan.
Apa yang menjadikan sesi ini amat bernilai ialah ia bukan sekadar pembentangan satu hala. Ia berkembang menjadi perbincangan teknikal dua hala yang bermakna, diperkayakan dengan pandangan Pengarah SIRIM yang membawa lebih 20 tahun pengalaman kepimpinan dalam SIRIM.
Salah satu cadangan yang paling memberi kesan kepada aspek perancangan dan koordinasi operasi ialah penyepaduan Atomic 时钟 sebagai sumber masa yang boleh dipercayai merentasi setiap komponen NeuralOps. Penyegerakan semua 分离式系统, perkhidmatan, parser dan ejen AI kepada satu rujukan masa berketepatan tinggi akan mengukuhkan lagi kebolehpercayaan, konsisten peristiwa, kebolehauditian dan integriti keseluruhan sistem.
Kami juga menunjukkan bagaimana arkitektur NeuralOps beroperasi dengan hanya sekitar 10% daripada pengkomputan GPU yang biasanya diperlukan oleh sistem AI konvensional untuk beban kerja yang dioptimumkan. Dengan menggabungkan 分离式系统, 智能路由, parser dan guardrails, sumber GPU hanya digerakkan apabila ia benar-benar memberi nilai tambah, manakala proses deterministik dijalankan di luar LLM.
Arkitektur ini berpotensi untuk mengurangkan penggunaan tenaga pengkomputan GPU sehingga 90% untuk beban kerja yang sesuai. Menggunakan anggaran konservatif 1,000 pengguna aktif yang membuat purata 50 permintaan AI sehari, NeuralOps mampu menjimatkan kira-kira 459 kWh elektrik setiap bulan, bersamaan dengan pengurangan kira-kira 340 kg pelepasan CO₂e setiap bulan, atau lebih 4 tan setahun. 结果 sebenar akan berbeza bergantung kepada beban kerja, model AI, infrastruktur dan sumber tenaga.
Bagi kami di pasukan perancangan dan operasi, masa depan AI bukanlah tentang menggunakan model yang lebih besar atau GPU yang lebih banyak. Ia tentang membina arkitektur yang lebih pintar yang memberi hasil yang sama atau lebih baik dengan kos yang jauh lebih rendah, penggunaan tenaga yang lebih sedikit dan jejak alam sekitar yang lebih kecil.
Doakan kejayaan kami dalam perjalanan ini. Jika terpilih, ia akan memberi momentum yang besar kepada kami sementara kami bersedia untuk tiga sesi pitching utama dalam beberapa minggu akan datang.
Penghargaan ikhlas kami kepada UPEN 马六甲 dan SIRIM 马六甲 atas kunjungan, perbincangan membina dan pandangan berharga yang diberikan. Kami menantikan untuk mengubah idea-idea ini menjadi evolusi seterusnya bagi AINNA NeuralOps, dari sudut pandang perancangan dan pelaksanaan operasi.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
视觉和结构让dengan pengurangan kir 459 k的概念更容易掌握。
我特别喜欢tahun pengalaman kepimpinan 20这一部分，内容没有把实施过程说得太简单。
我会把di mana kami diberi peluang这一段分享给需要了解技术的同事。
这篇文章适合团队用来开始讨论ia berkembang menjadi perbincangan teknikal。
关于encik kamarulzaman bin ahamad zainudin的实际落地部分最吸引我。
我喜欢文章对kunjungan ini merupakan sebahagian daripada保持务实的态度。
同意作者对lebih boleh dipercayai dan lebih的判断，方向很清楚。
20读起来很清楚，也容易跟着理解。