Alhamdulillah.
Semalam, saya bersama pasukan perancangan pengeluaran dan operasi di AINNA berbesar hati menerima kunjungan wakil daripada UPEN 马六甲 (Unit Perancang Ekonomi Negeri 马六甲) dan SIRIM 马六甲. Kami amat bernasib baik apabila Pengarah SIRIM 马六甲, Encik Kamarulzaman bin Ahamad Zainudin, turut menyertai sesi ini.
Kunjungan ini merupakan sebahagian daripada proses penilaian untuk Anugerah Usahawan Negeri 马六甲, di mana kami diberi peluang untuk mempersembahkan kemajuan terkini AINNA NeuralOps-arkitektur AI generasi seterusnya yang dirancang untuk menjadikan AI lebih efisien, lebih boleh dipercayai dan lebih praktikal untuk pelaksanaan operasi sebenar di lapangan.
Apa yang menjadikan sesi ini amat bernilai ialah ia bukan sekadar pembentangan satu hala. Ia berkembang menjadi perbincangan teknikal dua hala yang bermakna, diperkayakan dengan pandangan Pengarah SIRIM yang membawa lebih 20 tahun pengalaman kepimpinan dalam SIRIM.
Salah satu cadangan yang paling memberi kesan kepada aspek perancangan dan koordinasi operasi ialah penyepaduan Atomic 时钟 sebagai sumber masa yang boleh dipercayai merentasi setiap komponen NeuralOps. Penyegerakan semua 分离式系统, perkhidmatan, parser dan ejen AI kepada satu rujukan masa berketepatan tinggi akan mengukuhkan lagi kebolehpercayaan, konsisten peristiwa, kebolehauditian dan integriti keseluruhan sistem.
Kami juga menunjukkan bagaimana arkitektur NeuralOps beroperasi dengan hanya sekitar 10% daripada pengkomputan GPU yang biasanya diperlukan oleh sistem AI konvensional untuk beban kerja yang dioptimumkan. Dengan menggabungkan 分离式系统, 智能路由, parser dan guardrails, sumber GPU hanya digerakkan apabila ia benar-benar memberi nilai tambah, manakala proses deterministik dijalankan di luar LLM.
Arkitektur ini berpotensi untuk mengurangkan penggunaan tenaga pengkomputan GPU sehingga 90% untuk beban kerja yang sesuai. Menggunakan anggaran konservatif 1,000 pengguna aktif yang membuat purata 50 permintaan AI sehari, NeuralOps mampu menjimatkan kira-kira 459 kWh elektrik setiap bulan, bersamaan dengan pengurangan kira-kira 340 kg pelepasan CO₂e setiap bulan, atau lebih 4 tan setahun. 结果 sebenar akan berbeza bergantung kepada beban kerja, model AI, infrastruktur dan sumber tenaga.
Bagi kami di pasukan perancangan dan operasi, masa depan AI bukanlah tentang menggunakan model yang lebih besar atau GPU yang lebih banyak. Ia tentang membina arkitektur yang lebih pintar yang memberi hasil yang sama atau lebih baik dengan kos yang jauh lebih rendah, penggunaan tenaga yang lebih sedikit dan jejak alam sekitar yang lebih kecil.
Doakan kejayaan kami dalam perjalanan ini. Jika terpilih, ia akan memberi momentum yang besar kepada kami sementara kami bersedia untuk tiga sesi pitching utama dalam beberapa minggu akan datang.
Penghargaan ikhlas kami kepada UPEN 马六甲 dan SIRIM 马六甲 atas kunjungan, perbincangan membina dan pandangan berharga yang diberikan. Kami menantikan untuk mengubah idea-idea ini menjadi evolusi seterusnya bagi AINNA NeuralOps, dari sudut pandang perancangan dan pelaksanaan operasi.
