没有 GPU 时如何学习和试用 HAMi——Fake GPU + HAMi 使用教程
没有 GPU 时如何学习和试用 HAMi——Fake GPU + HAMi 使用教程本实验将在 macOS 上使用 OrbStack 自带 Kubernetes 和 run-ai/fake-gpu-operator 搭建一个纯本地 Kubernetes 集群,然后在线安装 HAMi。 来源:HAMi 官网教程 这个实验不需要真实 NVIDIA GPU,适合用于课堂预习、讲解 HAMi 组...
没有 GPU 时如何学习和试用 HAMi——Fake GPU + HAMi 使用教程本实验将在 macOS 上使用 OrbStack 自带 Kubernetes 和 run-ai/fake-gpu-operator 搭建一个纯本地 Kubernetes 集群,然后在线安装 HAMi。 来源:HAMi 官网教程 这个实验不需要真实 NVIDIA GPU,适合用于课堂预习、讲解 HAMi 组...
AI 网关不是传统 API 网关的简单升级,而是面向 LLM 和 Agent 场景重新设计的流量控制中枢。它解决的核心问题是:如何让 AI 服务像微服务一样可控、可观测、可治理。 为什么需要 AI 网关?传统 API 网关(如 Nginx、Kong、Envoy)设计用于 REST/gRPC 微服务,但 AI 应用引入了全新的挑战: 传统微服务 AI 服务 请求-响应...