FEATURED · 精选文章
部署教程5090 单卡 1M 上下文:YaRN + fp8 + 分层缓存
单卡 RTX 5090 32G + SGLang 跑 Qwen3.6-35B NVFP4:YaRN 4.0 扩到 1M,KV cache fp8,分层缓存 24GB。出字快到'成篇文章吐出来',比云端 V4.1 还快。
KNOWLEDGE & PRACTICE
从部署教程、模型评测到行业观察,把复杂问题整理成可执行的路径。
FEATURED · 精选文章
部署教程单卡 RTX 5090 32G + SGLang 跑 Qwen3.6-35B NVFP4:YaRN 4.0 扩到 1M,KV cache fp8,分层缓存 24GB。出字快到'成篇文章吐出来',比云端 V4.1 还快。