AI Infra Handbook — AI 基础设施学习与实践手册
开发中AI 工程化
AI Infra Handbook 是围绕 AI 基础设施、模型服务、向量检索、GPU 资源、Kubernetes 部署和可观测性展开的学习与实践手册，用来沉淀从概念到工程落地的长期笔记。
项目概要
- 所属阶段
- 进行中
- 公开程度
- 学习手册
- 下一步
- 沉淀模型服务、RAG、Agent/MCP、GPU、Kubernetes、观测和成本治理目录。
- 与其他项目的关系
- 作为 AI Infra 知识底座，和博客中的阶段性文章、项目复盘互相补充。
- 边界说明
- 这是学习与实践手册，不包装成权威课程或未经验证的生产最佳实践。
- 技术栈
- AI Infra
- LLM
- GPU
- Kubernetes
- Vector Database
- Observability
一句话定位
AI Infra Handbook 是我的 AI 基础设施学习与实践手册，记录模型服务、推理部署、向量检索、GPU 资源、Kubernetes、可观测性和成本治理相关的长期笔记。
它不是官方教程，也不伪装成完整课程，而是一个持续整理的工程知识项目：把我学习、验证和实践过的内容，按问题归档成可复用的手册。
为什么做
AI Engineering 不只是接入模型 API。真正落地时，工程师会遇到模型服务化、推理性能、上下文管理、向量数据库、任务编排、日志追踪、成本控制和部署稳定性等问题。
这个手册的目标是把这些问题从“零散收藏”变成“可回顾的系统”。
内容范围
- 模型服务与 OpenAI-compatible API 适配。
- RAG、向量数据库、Embedding 与检索质量。
- GPU、推理服务、吞吐、延迟与成本。
- Kubernetes / Docker 部署与运行观测。
- Agent、MCP、Function Calling 的工程边界。
- 评测、回归、日志、Trace 与故障复盘。
当前状态
当前处于持续整理阶段，优先服务我自己的学习、项目复盘和博客输出。后续如果内容体系稳定，会再整理为更清晰的公开目录。
和博客的关系
AI Infra Handbook 是知识底座，负责把模型服务、RAG、Agent、部署、可观测性和成本治理整理成稳定目录；博客负责输出具体问题、阶段性实践和项目复盘。一个偏系统目录，一个偏过程记录。
边界说明
- 不写未经验证的“万能架构”。
- 不把调研笔记包装成生产最佳实践。
- 不暴露真实内部系统、地址、密钥、业务数据或公司敏感信息。
Project Asset
项目资产连接
这个项目如何连接专题、阅读路径、系列文章和后续内容计划。关联阅读路径
- AI Infra 专题模型服务、RAG、GPU、K8s、可观测、成本治理
- AI Engineering 专题上层应用如何消耗 AI Infra
关联系列
- 大数据系列数据处理和平台基础
- LangChain / LLM 应用系列应用层和基础设施接口
相关内容入口
- LLM 应用工程化AI Infra 的上层需求来源
下一步内容计划
- 补充 LLM 应用架构、RAG 与向量数据库、Agent/MCP、模型服务与推理部署。
- 继续整理 GPU 与算力、Kubernetes、评测与可观测、成本治理、数据处理和工程落地案例。
项目 FAQ
- AI Infra Handbook 是权威课程吗？
- 不是。它是学习与实践手册，不把未经验证的经验包装成生产最佳实践。