AMD 显卡本地部署大模型完全指南（ROCm 实战）
基于你的 AMD 显卡，从零完成大模型本地部署的实战指南：ROCm 环境搭建、Ollama 与 vLLM 两种方案、27B 量化模型实测速度与显存占用，以及驱动、镜像、量化三大常见坑。
AMD R9700AMD RX 7000 系列
阅读完整指南
AI TOOL DIRECTORY · CURATED FOR REAL WORK
找到趁手的 AI
从日常问答到创意生产，按场景整理实用的 AI 工具，帮你快速选对。
- 55
- 精选工具
- 13
- 场景分类
- 6
- 技术文章
INSIGHTS
技术文章
01本地大模型实战对比：DeepSeek / Qwen / Llama 怎么选三款主流开源模型在本地场景下的定位差异、开源协议与选型建议，帮你在 32GB 显存下选对模型。02Ollama + ROCm：AMD 显卡从零跑通本地大模型AMD 显卡用户跑本地模型的完整路径：ROCm 环境准备、ollama-for-amd 部署、模型运行验证与常见坑，附 R9700 实测。03推理成本一年跌了十倍：对本地部署意味着什么大模型 API 价格战白热化，推理成本一年降 10~100 倍。云便宜了，本地部署还有没有价值？算清楚这笔账。04显存不够时怎么办：量化与 CPU offload 实战策略32GB 显存下跑 27B 模型的实用策略：量化精度取舍、offload 机制原理、层切分的真实效果与常见误区。
FEATURED SCENES
场景精选 工具自动聚合
NEW ARRIVALS
最新收录
COMMUNITY CURATED