★ FEATURED ARTICLE 简介这份文档面向希望在个人设备上落地大模型的开发者、研究人员与技术爱好者系统梳理了多平台环境下DeepSeek模型的部署路径。内容覆盖基于Ollama的macOS、Linux、Windows本地部署iPhone快捷指令与Android Termux的移动端方案以及借助Docker与Open WebUI实现浏览器访问的集成方式帮助读者把AI研究成果转化为可用的NLP服务。资源包为1个docx文档约15KB以图文步骤与命令说明为主结构紧凑便于按平台查阅。目前已有3770人学习下载。读者可从中获得各平台从环境安装、模型拉取到启动交互的完整操作链路掌握不同硬件条件下的配置要点并理解模型运行机制从而提升部署效率与使用体验。1. 多平台部署 DeepSeek从终端到手机三条路怎么选很多人第一次接触 DeepSeek 模型部署都会卡在同一个问题上到底该用哪种方式跑起来是直接在笔记本上装个 Ollama 命令行对话还是折腾手机端随时随地用又或者搭一套 Open WebUI 让浏览器访问这三种方案背后对应的是完全不同的使用场景和硬件门槛。Ollama 本地部署最直接适合有台性能还行的电脑、想快速验证模型效果的开发者手机端部署胜在便携但 Android 上需要 Termux 编译iPhone 上走快捷指令调 API两条路的体验差异很大Open WebUI 则是把 Ollama 包装成 Web 服务适合团队共享或者想要图形界面的用户。这篇笔记把三条路都拆开讲清楚包括每一步的命令、参数含义、容易翻车的地方以及我实际跑下来觉得最值得注意的细节。如果你正在纠结选哪种方案或者已经动手但卡在某个环节下面的内容应该能帮你省不少时间。2. Ollama 本地部署从安装到模型拉取的完整链路2.1 为什么选 Ollama 作为本地推理入口在本地跑 DeepSeek 模型最省心的方式就是用 Ollama。它把模型下载、量化版本管理、推理服务启动这几件事打包成了一个命令行工具不需要你手动配置 Python 环境、CUDA 版本或者推理框架。Ollama 支持 macOS、Linux、Windows 三个平台安装包直接下载双击就行省去了编译环节。另一个关键点是 Ollama 内置了模型库ollama run命令会自动从官方仓库拉取对应模型的量化版本默认是 4-bit 量化对显存和内存的要求比原始 FP16 模型低很多。以 DeepSeek-R1 7B 为例4-bit 量化后模型文件大约 4-5GB16GB 内存的笔记本就能跑起来。如果你选的是 8B 或更大的版本内存建议至少 16GB 起步32GB 会更从容。Ollama 的另一个好处是它同时启动了一个本地 API 服务默认监听 11434 端口后面要接 Open WebUI 或者其他前端时直接复用这个端口就行不用额外配置。2.2 安装 Ollama 与拉取 DeepSeek 模型安装步骤本身不复杂但不同系统下有几个细节容易忽略。macOS 和 Windows 直接去 Ollama 官网下载安装包双击安装即可。Linux 用户可以用一行脚本完成安装# Linux 下安装 Ollama curl -fsSL https://ollama.com/install.sh | sh # 安装完成后验证版本 ollama --version安装完成后拉取并运行 DeepSeek 模型# 拉取 DeepSeek-R1 7B 模型并进入交互模式 ollama run deepseek-r1:7b # 如果需要指定其他版本比如 8B ollama run deepseek-r1:8b第一行命令执行后Ollama 会自动从模型库下载对应的量化文件下载进度会在终端显示。下载完成后直接进入交互式对话界面输入问题回车即可看到模型回复。这里有个参数值得注意模型名称里的7b、8b指的是参数量参数量越大模型能力越强但对内存和显存的要求也越高。7B 模型在 16GB 内存的机器上跑起来比较流畅8B 会稍微吃紧一些。如果你机器配置一般建议先从 7B 开始试。2.3 验证服务与常见配置调整模型跑起来之后建议验证一下 Ollama 的 API 服务是否正常。打开另一个终端窗口执行# 检查 Ollama 服务是否在监听 curl http://localhost:11434 # 查看已下载的模型列表 ollama list # 查看正在运行的模型 ollama pscurl http://localhost:11434如果返回Ollama is running说明服务正常。ollama list会列出本地已经下载的所有模型及其大小方便你管理磁盘空间。如果你想让 Ollama 监听所有网络接口比如后面要用 Open WebUI 从 Docker 容器里访问需要设置环境变量# Linux/macOS 下设置监听地址 export OLLAMA_HOST0.0.0.0:11434 ollama serveWindows 下则是在系统环境变量里添加OLLAMA_HOST值为0.0.0.0:11434然后重启 Ollama 服务。这个配置在后面接 Open WebUI 时会用到因为 Docker 容器内部的localhost和宿主机的localhost不是同一个东西不设这个变量容器里访问不到宿主机上的 Ollama。3. 手机端部署iPhone 快捷指令与 Android Termux 两条路3.1 iPhone 快捷指令方案轻量但依赖 API KeyiPhone 上跑 DeepSeek 模型严格来说不是“本地部署”而是通过快捷指令调用远程 API。整个流程分三步安装快捷指令、配置 API Key、测试运行。快捷指令可以从 iCloud 链接直接下载安装安装后在快捷指令应用里找到对应的指令点击编辑把获取到的 API Key 填入指定位置。首次运行时系统会弹出权限请求点击“允许访问”即可。这个方案的优势是零门槛不需要越狱也不需要装额外应用适合只想在手机上快速体验模型对话的用户。但要注意两点一是 API Key 需要妥善保管不要截图分享或者提交到公开仓库二是这种方式的响应速度取决于网络状况和 API 服务端的负载和本地推理的体验有本质区别。3.2 Android Termux 方案真·本地推理的硬核路线Android 上通过 Termux 部署 Ollama 是真正在手机本地跑模型不依赖外部 API。但这条路对手机性能有要求建议至少 8GB 内存起步存储空间预留 10GB 以上。整个流程分四步环境准备、编译 Ollama、启动服务、拉取模型。第一步安装 Termux 并配置基础环境# 设置存储权限 termux-setup-storage # 更新软件包列表并升级已安装的包 pkg update pkg upgrade # 安装编译 Ollama 所需的依赖 pkg install git cmake golang libjpeg-turbo这里termux-setup-storage会弹出系统权限请求允许后 Termux 才能访问手机存储。pkg update pkg upgrade是更新包管理器索引和已安装软件建议每次安装新包之前都跑一遍。git用于克隆仓库cmake和golang是编译 Ollama 的必要工具libjpeg-turbo是图像处理相关的依赖库。第二步克隆 Ollama 仓库并编译# 浅克隆 Ollama 仓库减少下载量 git clone --depth 1 https://github.com/ollama/ollama.git # 进入仓库目录 cd ollama # 生成必要的代码文件 go generate ./... # 编译 Ollama 二进制文件 go build .--depth 1表示只克隆最近一次提交能显著减少下载体积。go generate ./...会执行仓库里定义的代码生成任务这一步不能跳过否则编译会报错。go build .在当前目录生成可执行文件编译时间取决于手机处理器性能一般在几分钟到十几分钟之间。第三步启动 Ollama 服务并验证# 后台启动 Ollama 服务 ./ollama serve # 验证服务是否正常运行 curl http://localhost:11434如果curl返回 Ollama 的版本信息或运行状态说明服务启动成功。符号让服务在后台运行这样你可以继续在同一个终端窗口执行其他命令。第四步拉取并运行 DeepSeek 模型# 拉取 DeepSeek-R1 8B 模型 ./ollama pull deepseek-r1:8b # 运行模型进入交互模式 ./ollama run deepseek-r1:8b手机端跑 8B 模型对硬件压力比较大如果出现卡顿或者内存不足的报错可以换更小的版本试试。另外 Termux 的后台进程在手机锁屏后可能会被系统杀掉建议在 Termux 设置里开启 wake lock保持后台运行。3.3 两种手机方案的选型对比对比项iPhone 快捷指令Android Termux部署方式调用远程 API本地编译推理硬件要求无特殊要求8GB 内存起步网络依赖必须联网下载模型后离线可用部署难度低几分钟搞定中高需要编译模型版本取决于 API 服务端可自选 7B/8B 等响应速度受网络影响受手机性能影响选哪个方案取决于你的核心诉求如果只是想随时随地有个能对话的入口iPhone 快捷指令最省事如果你追求数据不出本地、完全离线可用Android Termux 是唯一选择但要做好折腾的心理准备。4. Open WebUI 部署用 Docker 把 Ollama 包装成浏览器服务4.1 为什么需要 Open WebUI从命令行到图形界面Ollama 的命令行交互适合快速测试但如果你想让不熟悉终端的同事也能用或者想要对话历史管理、多模型切换、提示词模板这些功能就需要一个图形界面。Open WebUI 是目前比较流行的开源方案它通过 Docker 容器运行连接后端的 Ollama 服务提供一个类似 ChatGPT 的网页界面。整个架构分两层Ollama 负责模型推理Open WebUI 负责前端展示和会话管理。两者通过 HTTP 通信默认走 11434 端口。4.2 Docker 环境准备与 Open WebUI 启动在开始之前确保你已经装好了 Ollama 并且至少下载了一个 DeepSeek 模型。然后安装 Docker DesktopWindows 和 macOS 去 Docker 官网下载安装包Linux 用包管理器安装。安装完成后验证 Docker 是否正常# 检查 Docker 版本 docker --version # 检查 Docker 服务是否运行 docker ps接下来拉取并启动 Open WebUI 容器# 拉取 Open WebUI 镜像并启动容器 docker run -d \ -p 3000:8080 \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main逐项解释一下参数-d表示后台运行容器-p 3000:8080把容器内部的 8080 端口映射到宿主机的 3000 端口之后在浏览器访问http://localhost:3000就能打开界面-v open-webui:/app/backend/data把容器内的数据目录挂载到命名卷这样重启容器后对话记录和配置不会丢失--name open-webui给容器起个名字方便管理--restart always让容器在 Docker 启动时自动运行最后一行是镜像地址。4.3 连接 Ollama 与模型管理容器启动后打开浏览器访问http://localhost:3000首次使用需要注册一个管理员账号。登录后在设置里找到“连接”选项把 Ollama 的地址填进去。如果你是在同一台机器上跑 Ollama 和 Open WebUI地址填http://host.docker.internal:11434Windows/macOS或者宿主机的局域网 IPLinux。这里就是前面提到要设置OLLAMA_HOST0.0.0.0:11434的原因不设的话容器里访问不到宿主机的 Ollama 服务。连接成功后在模型下拉列表里应该能看到已经下载的 DeepSeek 模型。如果没有显示检查两个地方一是 Ollama 服务是否在运行二是地址是否填对。可以在 Open WebUI 的设置页面点击“刷新”按钮重新拉取模型列表。选中模型后就可以在网页里直接对话了界面支持 Markdown 渲染、代码高亮、对话历史导出这些功能比终端体验好不少。5. 避坑指南部署过程中最容易翻车的五个地方5.1 模型拉取卡住或超时现象执行ollama run deepseek-r1:7b后下载进度条长时间不动或者报错pull model manifest: Get https://registry.ollama.ai/...: dial tcp: i/o timeout。原因模型文件从境外仓库拉取网络不稳定时容易中断。另外磁盘空间不足也会导致下载失败。解决先检查磁盘剩余空间7B 模型需要至少 5GB 可用空间。如果空间够但下载卡住可以尝试重新执行命令Ollama 支持断点续传。如果反复失败可以手动指定其他镜像源或者用ollama pull命令单独拉取拉取完成后再ollama run。5.2 Android Termux 编译报错现象执行go build .时报错cannot find package或者undefined: xxx。原因依赖没有装全或者go generate ./...这一步跳过了导致代码生成不完整。解决确保pkg install git cmake golang libjpeg-turbo全部执行成功然后按顺序执行go generate ./...和go build .。如果还报错尝试pkg upgrade更新所有包后重试。另外 Termux 的 Go 版本可能比较旧可以用go version检查必要时手动安装新版 Go。5.3 Open WebUI 连不上 Ollama现象Open WebUI 界面里模型列表为空或者提示连接失败。原因Docker 容器内的localhost指向容器本身不是宿主机。Ollama 默认只监听127.0.0.1容器访问不到。解决设置OLLAMA_HOST0.0.0.0:11434后重启 Ollama 服务。然后在 Open WebUI 的连接设置里填http://host.docker.internal:11434Windows/macOS或宿主机的局域网 IPLinux。填完后点刷新模型列表应该就能出来了。5.4 内存不足导致模型崩溃现象模型加载到一半报错out of memory或者对话过程中突然退出。原因模型参数量超过了可用内存。7B 模型 4-bit 量化后大约需要 4-5GB 内存8B 需要 5-6GB加上系统和 Ollama 本身的开销16GB 内存的机器跑 8B 会比较紧张。解决换更小的模型版本比如从 8B 降到 7B。或者关闭其他占用内存的应用。如果是在 Docker 里跑检查 Docker Desktop 的内存限制设置默认可能只分配了 2GB需要手动调大。5.5 iPhone 快捷指令运行无响应现象点击快捷指令后没有反应或者提示“无法连接到服务器”。原因API Key 填写错误、网络不通、或者快捷指令的权限没有正确授予。解决重新检查 API Key 是否完整复制注意不要有多余空格。确认手机网络正常尝试切换 Wi-Fi 和移动数据。首次运行时注意点击“允许访问”弹窗如果误点了“不允许”去系统设置里找到快捷指令应用重新授予网络权限。6. 进阶技巧模型版本选择与性能调优的实操建议跑通基本流程之后下一步就是根据实际需求调整模型版本和运行参数。DeepSeek 在 Ollama 上提供了多个参数量版本常见的有 1.5B、7B、8B、14B、32B 等。参数量越大模型的理解能力和生成质量越好但对硬件的要求也越高。我一般会按下面的逻辑来选如果只是做简单的文本分类、信息抽取这类任务1.5B 或 7B 就够用响应速度快资源占用低如果需要处理复杂的推理链、多轮对话或者代码生成建议上 14B 或更大但内存至少要 32GB 起步。手机端受限于硬件7B 是比较现实的选择8B 在部分旗舰机上也能跑但发热和耗电会比较明显。除了模型版本Ollama 还支持一些运行时参数调整。比如通过--num-ctx参数控制上下文窗口大小默认是 2048调大可以支持更长的对话历史但会占用更多内存# 启动时指定上下文窗口为 4096 ollama run deepseek-r1:7b --num-ctx 4096 # 查看当前模型的详细参数 ollama show deepseek-r1:7b--num-ctx的值需要根据实际对话长度来定设太大浪费内存设太小会导致长对话被截断。ollama show可以查看模型的架构、参数量、量化方式等信息方便你确认下载的版本是否符合预期。另一个实用技巧是结合 Open WebUI 的模型切换功能做 A/B 测试。在 Open WebUI 里可以同时连接多个模型对话时随时切换对比不同版本在同一问题上的表现。我一般会准备两个模型一个 7B 做日常快速问答一个 14B 做复杂任务根据问题难度手动切换。这样既保证了响应速度又能在需要时获得更好的生成质量。验证部署是否成功最直接的方法就是问一个需要多步推理的问题比如“一个水池有两个进水管和一个出水管进水速度分别是每小时 3 吨和 5 吨出水速度是每小时 4 吨水池容量 60 吨多久能注满”观察模型是否能给出正确的推理过程和答案。如果回答逻辑清晰、计算正确说明模型运行正常。如果回答混乱或者答非所问可能是模型版本太小或者量化损失太大考虑换更大的版本试试。从那以后我每次部署完新模型都会先用几个标准问题跑一遍验证确认推理链路没问题再接入实际业务。这个习惯帮我省了不少事后排查的时间。希望帮到你。本文还有配套的精品资源点击获取
阅读完成 · 觉得有帮助？
