（文末DeepSeek交流群）

一、工作场景

1、内网需要使用DeepSeek、qwen等大模型，这时就需要在内网（无互联网状态下）部署，

2、内网部署DeepSeek、qwen等大模型提供服务以供内网同事使用。

网上目前大部分本地部署大模型DeepSeek、qwen都是基于本地有网状态下部署的，本文将祥细介绍，如果在离线的状态下搭建一套DeepSeek、qwen等大模型应用。

二、准备工具

1、一台有互联网的电脑（win10以上，本人部署在windows上，在macOS、Linux均可）

2、内网电脑（win10以上），最好是专业服务器（内存大的，没有显卡的也可以），如果没有服务器高一点配置的电脑也可以。

3、U盘一个，互联网电脑拷贝文件到内网使用。

三、下载软件

需要软件：Ollama、Chatbox AI

四、安装过程

互联网电脑操作

1、第一步：搭建基础环境（安装Ollama）

Ollama 是一个轻量级AI模型运行框架，支持多个开源模型，我们将用它来运行DeepSeek、qwen等。

 下载 Ollama

访问 Ollama 官网

根据你的操作系统选择安装包（Windows 选择 .exe，Mac 选择 .dmg）

https://ollama.com/download

本机使用windows，下载windows版本

下载完成后，按照提示进行安装：

Windows：双击安装包，一路“Next”即可

网上指导，Mac：拖拽 Ollama 图标到 Applications 文件夹

访问:11434/显示如下，证明安装成功

2. 验证安装 安装完成后，打开终端（Windows 按 Win + R 输入 cmd，Mac 直接打开 Terminal），输入：

ollama list

本机已经安装下载了3个模型显示如下，如果没有下载显示是空的。

2、第二步：部署DeepSeek、qwen等模型

访问 Ollama 官网  https://ollama.com 点击models会显示各种模型下载命令

各种模型

下载命令

cmd命令下执行命令：

ollama run deepseek-r1:7b

4.7G大小如下

下载成功后，

执行ollama list命令 ，会显示已安装

3、安装可视化界面（Chatbox AI）

终端交互虽然好用，但如果你更喜欢类似 ChatGPT 那样的可视化界面，可以安装 Chatbox AI。

1. 下载 Chatbox

访问 Chatbox 官网 下载对应系统的安装包

按照默认设置完成安装

2. 连接本地模型

打开 Chatbox，进入 ⚙️ 设置

在 模型设置 里选择：

API 类型：Ollama API

模型名称：deepseek-r1:8b

点击 检查连接，如果状态正常

然后就可以进行使用了，提问周杰伦简历

五、内网离线部署(重点模型包的安装)

1、安装软件

U盘拷贝Ollama 和 Chatbox AI 软件 ，按照上面的步骤进行安装

2、拷贝大模型文件包

此文件下的models整体打包复制过去

不同的语义包

六、OllamaAi设置外网访问

Ollama在windows环境中如何支持通过IP来访问接口

1、首先停止ollama服务的允许。由于windows下安装的ollama不是一个标准的windows service，所以只能直接杀掉两个ollama进程。

2、为当前windows系统添加环境变量：电脑-属性-高级系统设置-环境变量

变量：OLLAMA_HOST，值：0.0.0.0:11434

3、关掉已打开的命令行窗口，打开新命令行，用ollama serve或者ollama start来启动ollama服务，此时ollama服务在启动时将读取环境变量中的OLLAMA_HOST，支持IP端口访问

访问内网IP:11434/

显示如下，证明安装成功

Ollama在linux环境中如何支持外部或者宿主机通过IP访问其接口

1、首先停止ollama服务：systemctl stop ollama

2、修改ollama的service文件：/etc/systemd/system/ollama.service

在[Service]下边增加一行：Environment=“OLLAMA_HOST=0.0.0.0:8080”，端口根据实际情况修改

3、重载daemon文件 systemctl daemon-reload

4、启动ollama服务 systemctl start ollama

七、chatbox里设置访问

API域名换成内网IP的，即可访问

八、测试功能

九、优化交互和性能

让AI跑得更顺畅几个小技巧：

关闭其他大型程序，避免占用过多内存

复杂问题分步提问，能提高模型的理解力

使用英文关键词，有时能提升响应速度

定期重启 Ollama，释放内存，让AI保持最佳状态

Q1：运行时提示显存不足？ A：尝试使用 8B 版本，或升级显卡驱动。

Q2：AI 回答乱码？ A：在 Chatbox 设置中切换编码为 UTF-8。

Q3：如何更新模型？ A：在终端执行：

ollama pull deepseek-r1:8b

就能获取最新版本。

新建了一个交流群，欢迎扫码。超过200人，加V hackingheibaihong。

网络靶场思维导图

资料获取

回复“电子书”获取web渗透、CTF电子书:

回复“视频教程”获取渗透测试视频教程;  

回复“内网书籍”获取内网学习书籍;        

回复“CTF工具”获取渗透、CTF全套工具;

回复“内网渗透”；获取内网渗透资料;

回复“护网”；获取护网学习资料 ;

回复“python”,获取python视频教程；

回复“java”，获取Java视频教程;

回复“go”，获取go视频教程

知识星球

【Hacking藏经阁】知识星球致力于分享技术和认知。

1、技术方面。主攻渗透测试（web和内网）、CTF比赛、逆向、护网行动等；

400G渗透教学视频、80多本安全类电子书、50个渗透靶场（资料主要来自本人总结、以及学习过程中购买的课程）

2、认知方面。副业经营、人设IP打造，具体点公众号运营、抖*yin等自媒体运营（目前主要在运营两个平台4个号）。

如果你也想像我一样，不想35岁以后被动的去面试，那么加入星球我们一起成长。

欢迎加入99米/年，平均每天2毛7分钱，学习网络安全一整年。

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

▶

长按-识别-关注

Hacking黑白红

点分享

点收藏

点点赞

点在看

原文始发于微信公众号（Hacking黑白红）：本地离线部署DeepSeek、qwen等，超详细教程