模型越大越吃显存，先看模型再看显卡。
✅ 官方渠道 🔥 新用户专享 🎁 免费福利先领核心结论：本地跑大模型，显存决定一切：7B 模型约需 16G 显存（量化后更低）、13B 约 24G、70B 需多卡。不想买硬件就用云 API（通义千问/百炼等按量付费，免费额度起步）。决策公式：偶尔用/快速上线=云 API；频繁用/数据敏感/要完全可控=云 GPU 本地部署。
| 模型规模 | 推荐显存 | 说明 |
|---|---|---|
| 1-3B 小模型 | 8G | 简单任务、端侧 |
| 7B（Qwen2.5-7B 等） | 16G（量化 8G 可跑） | 通用对话/文档 |
| 13-32B | 24G+ | 更强推理 |
| 70B+ | 多卡/专业部署 | 企业级，成本高 |
| 维度 | 云 API（百炼等） | 本地部署（云 GPU） |
|---|---|---|
| 上线速度 | 5 分钟接入 | 小时级配置 |
| 成本 | 按量，免费额度起步 | GPU 按小时/包月 |
| 数据安全 | 数据出本地（需合规评估） | 数据不出环境 |
| 控制力 | 低（用平台模型） | 高（可微调/私有化） |
看规模：7B 量化可在 8-16G 显存跑，按量 GPU 测试成本可控；70B 企业级成本高。先用云 API 免费额度试。
模型权重同源则效果基本一致；本地可微调/私有化，API 更省心。
Qwen（通义千问）系列中文能力强、开源生态成熟；国内 API 用百炼等平台接入方便。