Workstation 部落格
全部文章
關於 AI 基礎設施、MLOps、模型以及上線生產的實操指南。
Ring Promoter — 生產前的 QA 門
Ring Promoter QA 門：自動升級早期環，在產品釋出前保留人性門，並將執行狀況加上版本檢查視為一流的質量門。
Balinder Walia閱讀 
揭示 LLM 瓶頸：可觀測性、OTEL 和成本控制
Workstation 透過可觀察性揭示 LLM 代理瓶頸：OpenTelemetry、Prometheus/Grafana/Thanos、Langfuse — 具有明確的優缺點、成本槓桿和保護利潤的使用指標。
Balinder Walia閱讀 
渦輪增壓LLMs
Workstation 增強 LLMs：用於 KV 快取的 PagedAttention 分頁、vLLM 服務、用於代理的 Self-Debugging、PowerInfer 令牌率和 EG-MLA 記憶體削減 — 以及生產權衡。
Balinder Walia閱讀 
Rust 非同步阻塞、Rayon 和現代應用
非同步 Rust 阻塞上的 Workstation、用於 CPU 繫結工作的 Rayon，以及為什麼 Rust 適合現代 API、邊緣、代理和 CI/CD — 靈感來自 Alice Ryhl 的 Rayon 指南。
Balinder Walia閱讀 
Ring Promoter：人工智慧驅動部署不容錯過的現代 CI/CD
Ring Promoter 是用於人工智慧驅動部署的現代 CI/CD 控制平面：共享環、健康門、版本驗證、自動回滾和多應用程式升級。
Balinder Walia閱讀 
Workstation WSL 代理：API 閘道器、CDN 和代理邊緣
Workstation WSL 代理 (WSLProxy) 是一個完整的 API 閘道器和 CDN 邊緣：實時路由、WAF、快取、多 POP DNS、MCP — 代理閘道器和 MCP 閘道器正在進行中。
Balinder Walia閱讀 
KubePilot：CoPilot、Pilot 和 AutoPilot 可加快 Kubernetes 事件的發生
KubePilot 幫助 SRE、DevOps 和平臺團隊從嘈雜的叢集訊號轉向安全修復 - CoPilot、Pilot 和 AutoPilot。在 kubepilot.org 上開源。
Balinder Walia閱讀 
Ollama 上的 Muse Glimmer：一臺 GPU 上始終線上的本地代理
Meta Muse Glimmer 透過 Ollama 將始終線上的本地代理帶到單個 GPU：30B、Apache 2.0、128K 上下文、願景和工具 - Workstation 業務指南。
Balinder Walia閱讀 
