Saya sedang membina dan melatih model AI khusus untuk kegunaan 中小企业 menerusi AINNA NeuralOps. Dari sudut operasi logistik dan pembangunan sistem, matlamatnya bukan mencipta chatbot umum, tetapi membangunkan lapisan keerdasan pakar yang memahami aliran kerja 中小企业 sebenar-termasuk inventori, pemenuhan pesanan dan perkhidmatan pelanggan-serta berinteraksi terus dengan sistem perniagaan.
Saya tidak melatih 模型 Bahasa Besar (LLM) dari sifar. Saya bermula dengan model asas sumber terbuka dan menala semula menggunakan LoRA/QLoRA dalam GPU notebook, dengan set data yang dibina daripada kes penggunaan 中小企业 sebenar seperti pengurusan inventori, pemenuhan pesanan, jadual penghantaran, kewangan, HR, jualan, perkhidmatan pelanggan dan operasi laman web.
Saya turut menggunakan LLM lanjutan sebagai model pengajar untuk proses knowledge distillation. 模型-model yang lebih berkemampuan ini membantu saya menjana, memperbaiki, mengkritik dan menilai contoh latihan, corak penaakulan, kes tepi dan respons khusus 中小企业 sebelum pengetahuan berguna dipindahkan ke model pakar yang lebih kecil dan cekap.
Aliran kerja saya kini ialah: 模型 Pengajar LLM Lanjutan → Set 数据 中小企业 → 蒸馏 → LoRA/QLoRA → 模型 中小企业 Pakar → NeuralOps 智能体 安全带. Matlamatnya adalah menggunakan model berkuasa untuk mengajar, sambil menugaskan model lebih kecil untuk beban kerja operasi harian-sesuatu yang amat penting dalam persekitaran logistik yang memerlukan kelajuan dan kebolehcapaian.
模型 pakar itu kemudiannya dipasangkan ke dalam NeuralOps, bersama 智能路由, ejen pakar, pangkalan data, API dan 分离式系统. NeuralOps menentukan model, alat, sumber data atau aliran kerja mana yang harus menangani setiap tugas, berbanding menghantar setiap permintaan ke satu LLM besar yang tidak efisien.
Bagi tugas mudah dan boleh diramal, saya menggunakan sistem deterministik seperti PHP, Python, SQL atau peraturan perniagaan. Bagi keerdasan rutin, NeuralOps boleh memanggil model 中小企业 pakar. Hanya tugas penaakulan kompleks yang dinaik taraf ke model lebih besar, sekali gus mengurangkan kos inferen yang tidak perlu dan pergantungan kepada pembekal AI luar.
数据 perniagaan terkini kekal di dalam sistem operasi seperti MySQL, HR, 财务, 库存, CRM dan platform pelaporan. 模型 tidak perlu menghafal keseluruhan syarikat; ia belajar memahami operasi 中小企业, manakala sistem sumber menyediakan maklumat semasa yang boleh disahkan.
Senibina yang saya bina secara dasarnya ialah: 系统 Perniagaan → NeuralOps → 智能路由 → 模型 中小企业 Pakar / Alatan / LLM Lanjutan → Pengesahan → Tindakan. Matlamat saya adalah menjadikan AI lebih praktikal untuk 中小企业: lebih kecil, lebih pakar, cekap kos, boleh kawal dan bersepadu dalam aliran kerja perniagaan sebenar, terutamanya operasi logistik dan pemenuhan, berbanding hanya menjadi pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #中小企业 #LLM #知识蒸馏 #LoRA #QLoRA #OpenSourceAI #自动化 #商业智能
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
看第二遍才注意到saya tidak melatih model bahasa的细节。
收藏了，主要是为了dengan set data yang dibina。
文章把model-model yang lebih berkemampuan ini和日常运营联系起来，这一点很有帮助。