旧电脑免费跑本地大模型：LM Studio 实操步骤

【导语】用实测数据算清旧电脑能跑多大模型，附安装步骤、本地 API 接法和免费商用边界。

一台 2.9 万元的机器，把边界测出来了

爱范儿这几天拿到首批搭载英伟达 RTX Spark 的华硕 ProArt 创16，64GB 统一内存版售价 28999 元，128GB 版 37999 元。这台机器把 ARM CPU、Blackwell 架构 RTX GPU 和统一内存做在同一块主板上，也是英伟达第一次以完整平台的身份进入 Windows 笔记本。

实测数字比参数表更有参考价值。64GB 统一内存里可分给 GPU 的显存约 46.7GB，LPDDR5X 带宽峰值 300GB/s。跑 Qwen 27B、思考深度拉到最高时，首 token 2.83 秒，输出速度 14.3 token/s，输入处理 615.7 token/s。换成 32B 的 NVFP4 量化版本，速度回到 55 到 60 token/s，日常对话和写文案基本跟得上手速。

续航也给了参考值：不插电跑 27B，电池放电功率约 86.5W，99.9Wh 电池理论上能撑 1 小时 15 分钟，实测十分钟掉 15% 电量。显卡此时锁在 P4 档、功率约 30W，插上电源才回到 P0 满血状态。

这组数字说明，30B 级别模型是这类机器的舒适区，再往上就得靠更大的内存。反过来说，如果你只需要 8B、14B 的效果，没必要为 46GB 显存掏三万块。

先算一笔账：你的电脑能塞下多大模型

本地跑模型看的是内存和显存容量，跟 CPU 核心数关系不大。粗略公式是：模型文件大小约等于参数量乘每参数字节数，Q4_K_M 量化下每个参数约 0.6 字节，再给上下文缓存留 20% 到 30% 的余量。

按这个算法，常见的几档大致如下（均为 Q4_K_M 量化）：

• 1.5B：文件约 1GB，2GB 显存可跑，适合抽取关键词、简单分类
• 3B：约 2GB，3GB 以上显存，能改写句子、做短问答
• 7B 到 8B：约 4.2 到 5GB，建议 6 到 8GB 显存，近几年的核显本也能起步
• 14B：约 8.5GB，建议 10 到 12GB 显存，RTX 3060 12GB 这一档的甜点区间
• 32B：约 19.5GB，建议 20 到 24GB 显存，RTX 4090 单卡能摸到的上限
• 70B：约 41GB，建议 40 到 48GB 以上，需要多卡或者大容量统一内存平台

显存不够会怎样：能跑，但慢到不想用

模型有一部分被挤到系统内存时，推理仍然出得来结果，速度会掉到原来的十分之一左右。原文的描述很直白：体感从「对话」变成「等邮件」。

另一个常见误判是把量化压到最低。Q3、Q2 的文件确实小了，回答也开始含糊。同样 6GB 显存，7B 的 Q5 通常比 14B 的 Q3 更靠谱。

笔记本还有一层限制：拔掉电源后 GPU 会降档，RTX Spark 那台从 P0 掉到 P4、功率 30W。要跑长任务，插着电更实际。

装 LM Studio：Windows 和 Mac 各六步

LM Studio 是目前门槛最低的本地推理客户端之一，当前版本 0.4.23，2026 年 8 月 28 日发布，Windows、macOS、Linux 都有安装包。它内置 llama.cpp 和 MLX 两套引擎，搜模型、下载、加载都在图形界面里完成，不用碰命令行。

装之前先确认系统：Windows 需要 x64 且支持 AVX2，或者 ARM64（骁龙 X 系列）；macOS 要求 14 以上、M1 及之后的芯片，Intel Mac 不支持；Linux 提供 APPImage，Ubuntu 20.04 以上可用。

• 第一步：打开 lmstudio.AI/download，按系统下载安装包并装好
• 第二步：首次启动后在搜索框输入模型名，比如 Qwen3 8B
• 第三步：在结果里挑带 GGUF、Q4_K_M 标记的版本，点下载
• 第四步：下载完成后回到对话页，顶部下拉选中刚下好的模型
• 第五步：到右侧设置里把上下文长度设成 4096 到 8192，别一上来拉满
• 第六步：发一句「你好」看首 token 延迟，超过 3 秒就换更小的模型或更低量化

把本地模型接进现有工具：三步搞定

本地模型真正的价值是接进日常工具。LM Studio 自带 OpenAI 兼容的本地服务，默认地址 http://localhost:1234，同时也提供 Anthropic 格式的 /v1/messages 端点。

连接流程只有三步：

• 第一步：在 LM Studio 左侧打开 Developer 面板，点 Start Server
• 第二步：在模型列表点一下，复制显示的模型标识（形如 qwen3-8b）
• 第三步：打开 WorkBuddy 或其他支持自定义模型的工具，模型配置里新增自定义项，Base URL 填 http://localhost:1234/v1，模型名填刚才那串标识

WOrkBuddy 的内置入口目前还在 Beta

爱范儿在 RTX Spark 那台机器上测试时，WorkBuddy 的设置里多了一个 Beta 入口，可以直接下载并管理本地模型。下载后让它常驻后台，回到任务界面就能选这个本地模型对话。

那台机器自动下到的是腾讯优化过的 500 亿参数 MoE 模型，文件 16GB，走 CUDA 13 加速。实测用它做一个 Three.js 网页小项目，整段任务用时 13 分 59 秒，过程中 GPU 占用接近 100%，风扇噪音明显。

这个入口目前并非所有机型都有。手上没有的话，按上一节的三步走自定义 API，效果一样，只是模型要自己下载和管理。

免费和商用边界：软件和模型要分开看

LM Studio 本体免费，个人使用和公司内部业务使用都在授权范围内，不需要另外买商业授权。不能做的是转售、把它当服务卖给第三方、做成 SaaS，这类用途要单独谈企业授权。它另有按 token 计费的云端推理和企业部署方案，跑本地模型用不上。

模型许可证要单独确认，常见几类差别不小：

• Qwen3 全系：Apache 2.0，可商用、可微调，保留许可声明即可
• gpt-oss 20B / 120B：Apache 2.0，没有用户量或营收门槛
• DeepSeek 系列、GLM：MIT 许可，商用限制同样很少
• Llama 4：社区许可，产品月活低于 7 亿可商用，需标注「Built with Llama」，微调模型名要以 Llama 开头
• Gemma：免费可再分发，但受 Google 使用政策约束，对方保留限制权

三个容易踩的坑

跑不起来的情况，多数不是硬件不行，而是设置没对。这三处最容易出问题：

• 上下文拉满：32K 上下文的 KV 缓存能吃掉几 GB 显存，8GB 卡上会直接把模型挤到内存
• 一味追低量化：Q2、Q3 掉的是回答质量，省下的空间换不回体验
• 只看参数量：MoE 模型要按总参数算内存，不能按激活参数算

什么时候才值得为本地模型换机器

三类人现在换机器算合理：每天都要跑 27B 以上模型处理长文档；手里的资料不能出内网；需要在本地做微调或跑多模态任务。

只用来聊天、改文案、翻译、整理表格的话，云端免费额度基本够用。本地部署的成本在时间和调试，省下的订阅费通常抵不过折腾的功夫。

硬件价格也得算进去。2026 年显存涨价，二手 RTX 4090 从年初约 1200 到 1400 美元，涨到 8 月约 2100 美元（第三方价格追踪口径，非官方报价）。为跑模型专门配卡，今年比去年贵不少。

更稳妥的顺序是：先用手里的机器跑 8B 把流程跑顺，确认自己真的每天在用，再决定加不加硬件。开源模型几个月就更新一轮，机器的贬值速度比模型快得多。

关注格熊，持续分享最新免费资源！