没有 GPU 时如何学习和试用 HAMi——Fake GPU + HAMi 使用教程本实验将在 macOS 上使用 OrbStack 自带 Kubernetes 和 run-ai/fake-gpu-operator 搭建一个纯本地 Kubernetes 集群，然后在线安装 HAMi。 来源：HAMi 官网教程 这个实验不需要真实 NVIDIA GPU，适合用于课堂预习、讲解 HAMi 组...

AI 网关不是传统 API 网关的简单升级，而是面向 LLM 和 Agent 场景重新设计的流量控制中枢。它解决的核心问题是：如何让 AI 服务像微服务一样可控、可观测、可治理。 为什么需要 AI 网关？传统 API 网关（如 Nginx、Kong、Envoy）设计用于 REST/gRPC 微服务，但 AI 应用引入了全新的挑战： 传统微服务 AI 服务 请求-响应...

MLOps 解决的是”如何让机器学习模型可靠地上线”，而 AIOps 解决的是”如何让 AI 系统自主运维、自我优化”。两者是演进关系，而非替代关系。 运维范式的三次演进IT 运维经历了三个阶段的演进： 阶段 核心目标 关键技术 典型工具 DevOps 代码快速、可靠地交付 CI/CD、容器化、基础设施即代码 Jenkins、Docker、Terraform M...

AI 原生基础设施正推动云原生与智能化深度融合，成为新一代应用创新的坚实基石。理解其架构与趋势，是每位云原生开发者迈向 AI 时代的关键一步。 AI Native Infra 全景图与核心组件AI Native Infra（AI 原生基础设施）是支撑生成式 AI 应用的新一代技术栈，融合了模型推理引擎、数据检索组件和云原生技术，为智能应用提供高效、可扩展的运行环境。 从宏观上看，AI I...

AI 的未来不只在云端，而在边缘；不只在模型，而在标准与编排。 从”单智能体”到”智能协作体”生成式 AI 的发展推动了 Agent 从简单对话助手演进为能完成复杂任务的系统。随着多个 Agent 协同工作、调用多样工具并访问异构系统，单体式架构的局限性日益突出：缺乏协调、难以追踪、安全不可控。这正是 AI Orchestrator（AI 编排器） 诞生的背景。 AI 编排的核心使命：让...

从云原生到 AI 原生，不仅是技术栈的升级，更是组织能力、工程文化与基础设施的全面重塑。 基础设施的三次跃迁IT 基础设施经历了三次重大跃迁： 阶段 核心特征 关键技术 传统时代 物理服务器、手动运维 虚拟化、SAN 存储 云原生时代 容器化、自动化、弹性伸缩 Kubernetes、微服务、GitOps AI 原生时代 智能化、自主决策、模型即服务 LLM、Agent...

推理系统不是”谁更快”的问题，而是”分工协作、各司其职”。理解三层架构，才能选对工具。 大模型推理的三层架构大语言模型（LLM）推理系统可以精确划分为三层架构： 层级 名称 解决的问题 L0 模型层 模型结构 + 权重 网络结构、参数、算子实现 L1 推理引擎层 vLLM / SGLang / TensorRT / MLC 如何让推理更快、更...

开源生态决定了大模型工程化的底座和未来演进方向，是每个云原生工程师必须关注的技术基石。 大模型开源生态分层架构开源大模型工程体系可分为六层结构，从底层模型到上层应用形成完整的技术栈： llama.cpp 带动端侧生态 vLLM / SGLang 带动高性能推理 LangChain → LangGraph 带动 Agent 工程化 Hugging Face 构建模型、数据、工作...

阿里云创建ECS实例管理云资源启动Cloud Shell选择一种方式启动云命令行： 在控制台中运行单击控制台首页头部导航的命令行按钮，启动云命令行。 独立运行在浏览器中输入 https://shell.aliyun.com 打开云命令行操作界面。 您可以根据实际需要打开多个命令行窗口，但最多可同时打开5个云命令行窗口。 在启动云命令时，请注意：第一次连接云命令行时会为您创建虚拟机，会消耗一些...

主流IaC工具解析(Terraform/Pulumi)选择标准在选择 IaC (Infrastructure as Code) 工具时，我们需要关注以下几个关键点： 快速：工具应易于使用，能够快速编写 IaC 代码，并且运行效率高。 可靠：相同的代码和参数应能产生一致的结果。 可重复：代码应可重用和共享，确保不同环境之间的一致性和可靠性。 发展阶段与工具分类面向主机配置管理 C...