开源大语言模型（LLM）日新月异，工程师选型不应只看”谁最强”，而要关注”谁最适合业务场景”。

大模型生态与主流模型概览

开源大模型生态主要分为三大类：国际主力模型、国内主力模型、社区增强/衍生模型。

工程视角总结：

国际主力模型：英文与代码能力强，生态成熟。
国内主力模型：中文能力突出，许可证清晰，适合政企/私有化部署。
社区增强模型：轻量化、对话质量提升，补丁价值高。

主流开源模型对比总表

下表是工程师选型的核心参考，涵盖参数规模、训练数据、许可证、本地推理支持、多模态能力及优劣势。

模型	参数规模	许可证	多模态	本地推理支持	优势	劣势
Llama 3 / Llama 2	8B / 70B	Meta 许可（部分商用限制）	有（Llama3-Vision）	✅ 全面支持（GGUF/llama.cpp/vLLM）	英文强、生态最大、社区工具最丰富	许可证仍非纯开源
Mistral / Mixtral	7B / 8×7B MoE	Apache 2.0	有	✅ 极佳	小模型能力强、MoE 吞吐高、本地部署轻量	中文较弱、训练数据更偏西方
Phi-3 系列	3B / 7B	MIT	有	✅ 极佳	体积小、推理快、性价比最高	深推理能力弱
Qwen（通义千问）	0.5B–110B	Apache 2.0	有（Qwen-VL）	✅ 优秀	中文最强之一、代码强、权重开放度高	国际生态稍弱
DeepSeek（各代）	1.5B–671B	MIT	有（DeepSeek-VL）	✅ 极佳	中文理解及推理极强、训练效率领先、私有化适配好	海外生态弱、文档更新频繁
ChatGLM / GLM4	6B / 9B / 130B	Apache 2.0	有	✅ 良好	中文问答优秀、本地部署轻量级	推理能力不如同规模新模型
Baichuan 系列	7B / 13B	商用需申请	无	✅ 良好	均衡、稳定、兼容性好	商用许可略繁琐
InternLM（上海 AI 实验室）	7B / 20B	Apache 2.0	有（InternLM-XComposer）	✅ 良好	学术背景强、中文能力好	英文表现一般

主流开源模型一句话总结

模型	一句话总结
Llama 3 / 2	生态基石、兼容性最广，默认选项。
Mistral / Mixtral	小模型里的性能怪兽，MoE 能把吞吐提高一档。
Phi-3	如果你想便宜又好用，Phi 是最强轻量模型。
Qwen	中文理解 + 代码生成 = 性能最均衡的国产模型。
DeepSeek	推理能力最强的国产模型，性价比高。
ChatGLM / GLM4	中文问答最稳的小型模型。
Baichuan	中英均衡的老牌国产模型，适合集成。
InternLM	学术背景强，适合科研/教育场景。

按用途分类的四大模型家族

工程师选型时，建议先按用途分类，再选具体模型。分为通用对话、代码生成、多模态、领域专用四大类。

通用对话模型（General Chat Models）

面向开放域问答、多轮对话、任务执行，适合 Slack 助手、网站客服、知识助手等场景。

代表模型：Qwen-Chat / Qwen2.5-Chat、DeepSeek-Chat / DeepSeek-R1、Llama3-Chat、ChatGLM、Vicuna（Llama 衍生）。

代码生成模型（Code LLM）

专为代码任务训练，只做一件事：写好代码。

典型任务：单函数补全、代码审查、生成测试、代码解释。

代表模型：DeepSeek-Coder（最强开源代码模型）、CodeLlama（稳定成熟）、StarCoder、Phi-3 Code。

多模态模型（Vision / Audio / Image Generation）

模态	输入	输出	代表模型
图像→文本	Image	Text	Qwen-VL、LLaVA
文本→图像（扩散）	Text	Image	Stable Diffusion、Flux
语音→文本（ASR）	Audio	Text	Whisper
文本→语音（TTS）	Text	Audio	CosyVoice、GPT-SoVITS

领域专用模型（Domain LLM）

针对某一垂直领域深度优化，像 Kubernetes Operator。

领域	示例模型	应用
医疗	Med-PaLM	辅诊、报告生成
法律	Lawyer LLM	案例分析、合同生成
学术	Galactica	文献总结
金融	FinGPT	报表、金融问答

模型用途映射表

通过此表，开发者可快速定位每个模型的最佳用途，避免”用错模型”导致工程灾难。

模型	对话	代码生成	多模态	RAG	领域任务	备注
Qwen 系列	✅✅	✅	✅✅（VL）	✅✅	✅	中文最全能模型
DeepSeek 系列	✅✅	✅	✅（VL）	✅✅	✅	推理能力极强
Llama 3	✅✅	✅	✅（Vision）	✅✅	中等	生态最大
Mistral / Mixtral	✅	✅	❌	✅	❌	轻量性能强
Phi-3	✅	❌	❌	✅	❌	轻量极致性价比
ChatGLM / GLM4	✅✅	❌	✅	✅	✅（中文）	中文对话表现好
CodeLlama	❌	✅✅	❌	❌	❌	专为代码而生
DeepSeek-Coder	❌	✅✅✅	❌	❌	✅（编程）	目前最强开源代码模型
LLaVA / Qwen-VL / MiniCPM-V	✅	❌	✅✅✅	❌	❌	图像理解最强

任务类型（Task Types）

任务类型	输入	输出	示例
Text Generation	Text	Text	对话、写作、总结
Embedding	Text	Vector	RAG 语义检索
Text Classification	Text	Label	垃圾邮件检测
Translation	Text	Text	中英翻译
Summarization	Text	Text	长文压缩
Image-to-Text	Image	Text	OCR、看图问答
Text-to-Image	Text	Image	生成图片

典型 Prompt 模板

通用对话模型（Chat）

你是一名专业的技术助手，请根据以下要求回答：

- 使用简体中文
- 输出结构化内容（标题、列表、代码块）
- 避免泛泛而谈，直接给出最优解
- 必要时给出示例与对比表

问题：{{用户问题}}

代码生成模型（Code LLM）

你是一名高级软件工程师，只输出可运行代码，不解释不多话。

要求：
- 使用 {{语言}}
- 保证代码可运行
- 无多余注释
- 如未指定框架，选择社区主流方案

任务：写一个 {{功能描述}}

RAG（Embedding 检索）

你是一名知识库问答模型，请严格基于"上下文"回答，不得编造。

【上下文】
{{context}}

【问题】
{{query}}

请遵循：
- 若答案不在上下文中，必须回答"上下文未包含对此问题的答案"
- 引用上下文的句子作为证据

工程避坑指南

不要用对话模型写代码，会生成会话风格、”看似合理但不可运行”的代码。
不要用代码模型对话，常识与自然语言能力弱。
不要用多模态模型做 RAG，Embedding 和检索效果极差。
不要让一个模型做所有任务，分布不同表现会崩坏。
不要忽略许可证，特别是 commercial use 限制。

总结

选模型时先问：”我到底要它做什么？”用途决定模型：对话 / 代码 / 图像 / 领域。再确认任务类型、能力要求（如 Function Calling、长上下文）、部署环境（本地 vs 云）。多模型协作远优于单模型大锅饭，生态优先：Qwen / Llama / DeepSeek 的组合最稳。

主流开源大模型对比与选型指南（Llama、Qwen、DeepSeek）

大模型生态与主流模型概览

主流开源模型对比总表

主流开源模型一句话总结

按用途分类的四大模型家族

通用对话模型（General Chat Models）

代码生成模型（Code LLM）

多模态模型（Vision / Audio / Image Generation）

领域专用模型（Domain LLM）

模型用途映射表

任务类型（Task Types）

典型 Prompt 模板

通用对话模型（Chat）

代码生成模型（Code LLM）

RAG（Embedding 检索）

工程避坑指南

总结