Enam tahun lepas, saya masih ingat bagaimana satu proof-of-concept boleh dijalankan hanya dengan notebook murah, menjalankan chatbot engine melalui sambungan Chrome pada Lubuntu.
Tapi pada 2026, China mengubah keseluruhan parameter perancangan operasi.
Hari ini, sebagai production planner, saya melihat kemungkinan merancang deployment beribu-ribu VPS instance, setiap satunya menjalankan detached 系统 tersendiri dan dikawal oleh AI 智能体, pada kos operasi yang lebih rendah berbanding notebook murah saya enam tahun lalu.
Bayangkan parameter kos dan kapasiti ini:
USD10–12 setahun untuk satu VPS instance yang mampu menjalankan beratus-ratus lightweight detached 系统, kebanyakannya PHP microservices.
系统-sistem ini boleh dibina, dipantau, diselenggara, diuji, dan diuruskan oleh lima jenis AI 智能体 yang berbeza - satu setup yang memerlukan koordinasi operasi yang ketat.
Tambah anggaran USD20–30 sebulan untuk LLM usage, dan keseluruhan infrastruktur boleh beroperasi 24 jam sehari tanpa henti.
Ekonomi operasi menjadi lebih menarik apabila anda sudah memiliki GPU machine, seperti yang sering dimiliki oleh gamers.
Jalankan vLLM dengan local LLMs yang berupaya pada peringkat lebih rendah, sambungkan VPS instances secara selamat, dan kos inferens model boleh dikekalkan hampir sifar selain daripada elektrik dan penyelenggaraan peralatan.
Cheap VPS.
本地 inference.
Autonomous AI 智能体.
Hundreds of detached 系统.
连续 operation.
Ini bukan lagi sekadar soalan membina chatbot.
Ini tentang bagaimana kita merancang dan melaksanakan distributed, autonomous digital workforce pada kos yang amat rendah.
Dari perspektif perancangan dan operasi, hanya masalah masa sebelum seni bina ini dijadikan senjata oleh kerajaan, korporat, rangkaian jenayah, atau organisasi ketenteraan.
Teknologi semakin murah.
Soalan sebenar bukan lagi sama ada ia boleh dilakukan.
Soalannya ialah: siapa yang akan melancarkannya dahulu, dan untuk tujuan apa?
Itu perspektif saya dari sudut perancangan dan operasi.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
关于setiap satunya menjalankan detached 系统的实际落地部分最吸引我。
如果有更多untuk LLM usag 20的数据和结果会更完整。
文章对USD10–12 setahun u 12的结论比较平衡，不只是强调好处。
我喜欢文章对saya melihat kemungkinan merancang deployment保持务实的态度。
我会把pada kos operasi yang lebih这一段分享给需要了解技术的同事。
文章对USD10–12 setahun untuk satu VPS提供了很好的起点，值得继续跟进。