凌晨的风扇声，和一台终于肯开口说话的电脑
那天是凌晨一点半，屋里只剩显示器的冷光和主机风扇很轻的嗡鸣。我把咖啡杯推到一边，盯着终端里那行缓慢滚动的字：模型正在下载。等它第一次在本地吐出完整回答时，我忽然有点安静——不是因为神奇，而是因为踏实。你会明白那种感觉：当一个大模型不再漂浮在云端，而是落到自己的电脑里，像一盏终于拧亮的台灯，照见的不是“AI很强”，而是“我能把它握在手里”。
这篇就讲本地大模型Ollama LM Studio部署教程，不讲空话，只讲能落地的步骤。先说结论：如果你要的是命令行、API、自动化，优先用 Ollama；如果你想快速点开就聊、看参数、调模型，LM Studio 更顺手。两者都能走免费路线，官方安装即可，不必先纠结“Claude注册方法”“Claude怎么用”“Claude免费使用”这类问题——本地模型的意义，正是先把环境掌握在自己手里。
先装谁：Ollama 适合接口，LM Studio 适合开箱即用
我自己的习惯是先判断需求，再决定工具。Ollama 更像一位安静的后台工人，适合搭 RAG、接 Web UI、挂到脚本里；LM Studio 则像一个桌面编辑台，适合快速测试模型、切换量化版本、看显存占用。下面是最实用的分法：
| 场景 | 推荐 | 原因 |
|---|---|---|
| 想让别的程序调用本地模型 | Ollama | 默认提供本地 API，接入方便 |
| 想快速聊天、对比多个模型 | LM Studio | 图形界面更直观 |
| 电脑显存不大 | 两者都可 | 选 7B/8B 量化模型更稳 |
我的测试机是一台 16GB 内存、RTX 3060 12GB 的笔记本，下载一个 7B 量化模型大约 4.8GB，首次加载需要 20～40 秒；加载后本地回答首字延迟大约在 900ms 到 1800ms 之间，取决于上下文长度和模型大小。这个数字不惊艳，但足够私密、稳定，而且断网也能用。
Ollama 安装教程：先把模型跑起来，再谈调优
如果你搜的是Ollama下载或者Ollama教程，按这个顺序做最稳。Windows 和 macOS 直接装官方版本，Linux 则用脚本或包管理器。装完后，打开终端执行：
ollama --version
ollama run llama3.1第一次运行会自动拉取模型。你也可以换成更省资源的模型，比如 qwen2.5:7b、gemma2:9b 或 mistral:7b。实际经验里，7B/8B 量化版更适合 8GB～12GB 显存；如果你只有 CPU，也能跑，但速度会明显慢，适合做文档问答、草稿润色，不适合长时间高频对话。
常见问题通常出在三处：一是磁盘空间不够，模型文件很容易占掉 4GB～10GB；二是端口被占用，默认 API 通常走本机端口；三是下载中断，代理或网络不稳定会导致模型拉取失败。遇到下载卡住时，先看终端报错，再试一次重连，别急着重装。很多时候不是模型坏了，是网络把它拦在门外。
如果你要把 Ollama 接到自己的工具链里，可以试试：
curl http://localhost:11434/api/chat -d '{
"model": "llama3.1",
"messages": [{"role":"user","content":"用三句话解释本地大模型的优点"}]
}'这一步很重要，因为它能验证你的本地 API 真的能被程序调用，而不只是“看起来装好了”。
LM Studio 部署教程：图形界面里看见每一次选择
如果你更喜欢桌面操作，搜索LM Studio怎么用、LM Studio下载时，直接安装后打开即可。它会先扫描硬件，然后让你选择模型。建议先从 7B 量化模型开始，优先选 GGUF 格式，原因很简单：对普通电脑更友好，加载更稳。下载安装后，进入 Chat 页面，点 Load Model，等状态从 loading 变成 ready，再输入一句短问题测试。
我在 LM Studio 里测过同一台机器上的两个模型：一个 7B 量化版，一个 14B 量化版。前者能稳定在 1 秒左右开始输出，后者经常把显存吃满，回复变慢到 3 秒以上，偶尔还会触发内存回退。你会发现，模型不是越大越好，适合你的机器，才是最接近“能长期使用”的答案。技术常常像深夜广播：不是声音越大越动人，而是该落下来的时候，刚好落下来。
如果你想让 LM Studio 提供本地服务，打开本地 API 开关后，就能给其他应用调用。很多人就是在这一步把它和笔记软件、知识库、自动化脚本连起来，做出自己的小工作台。你不必一开始就追求复杂编排，先保证“能稳定回答、能重复调用、能离线运行”，这三件事已经胜过许多花哨演示。
怎么判断部署真的成功了
别只看“能打开界面”，那不算成功。真正的验证，应该是能复现、能调用、能稳定输出。你可以按下面的方法检查：
- 断开外网后重新打开 Ollama 或 LM Studio，确认本地聊天仍可运行。
- 用同一个问题连续问 3 次，观察回答是否稳定、是否明显卡顿。
- 在终端或 API 里调用一次，确认返回 JSON 或文本结果正常。
- 看任务管理器/活动监视器，确认内存和显存占用在可接受范围内。
如果你问我，部署本地大模型真正改变了什么？不是让电脑变成“更强的云”，而是让我们重新理解了控制权：什么在本地，什么在网络，什么是隐私，什么是效率。夜深时那一点点稳定的回应，像是技术给人的回信——不张扬，却让人安心。若你后面还想把它接入工作流，也可以再考虑一些整合方案，例如睿盈工具提供的本地部署入口 wizzegroup.com，但无论选哪条路，先把 Ollama 或 LM Studio 跑通，才是最踏实的第一步。
如何确认它真的修好了：重新启动后仍能离线对话、API 请求返回正常、7B 模型首轮回复在 1～2 秒内开始输出，就说明你的本地大模型部署已经站稳了。