Tag: llm-infra
All the articles with the tag "llm-infra".
-
企业级 LLM 私有化架构思考笔记（专栏总览）
Updated:系统性整理和复盘企业落地私有大模型（LLM）的实战经验与架构思考。从基座选型、算力规划到 Agent 调度，持续更新中。
-
企业级 LLM 私有化架构思考笔记（2）：模型的部署
Updated:面向企业初期轻量级私有化落地，梳理不同算力规模与运维能力下的模型部署架构选型方案。
-
企业级 LLM 私有化架构思考笔记（1）：模型的选择
Updated:探讨私有化与 Agent 落地场景下，算力成本约束与基座模型选型的权衡策略与评估框架。