相信很多朋友都听说过 DeepSeek,这个强大的 AI 模型最近在技术圈引起不小的轰动。今天,我要和大家分享如何在本地部署它的无限制版本 —— DeepSeek-r1-abliterated,一个移除了各种限制的特殊版本。
关于无限制版本
这个版本最大的特点是移除了内容审查和各种限制,让模型能够更自由地发挥其能力。它现在已经在 Hugging Face 上开放下载,提供了多个不同规模的版本:
- 8B 版本
- 14B 版本
- 32B 版本
你可以在 huihui-ai 的 Hugging Face 主页 找到这些模型。
关于模型大小的一个误解
很多人可能会担心,无限制版本会不会不如官方的 671B 版本智能?这其实是个误解。虽然官方版本确实是 671B 参数量的庞然大物,但这种规模的模型普通用户根本无法在本地运行。我们能够使用的 7B、8B、14B、32B 等版本都是经过精心蒸馏压缩的,虽然参数量小了,但在实际应用中完全够用。
进阶选择
如果你恰好拥有强劲的硬件配置,还可以尝试运行 70B 版本。这个版本可以在 Ollama 上找到。
部署步骤
要开始使用无限制版 DeepSeek,第一步就是安装 Ollama。你可以直接前往 Ollama 官网 下载安装程序。
本地部署越狱版步骤
1、下载并安装Ollama 【点击下载】
2、在终端下通过命令下载DeepSeek R1越狱版
7b
ollama run huihui_ai/deepseek-r1-abliterated:7b
8b
ollama run huihui_ai/deepseek-r1-abliterated:8b
14b
ollama run huihui_ai/deepseek-r1-abliterated:14b
32b
ollama run huihui_ai/deepseek-r1-abliterated:32b
70b
ollama run huihui_ai/deepseek-r1-abliterated:70b
本地部署官方版步骤
1.5B Qwen DeepSeek R1
ollama run deepseek-r1:1.5b
7B Qwen DeepSeek R1
ollama run deepseek-r1:7b
8B Llama DeepSeek R1
ollama run deepseek-r1:8b
14B Qwen DeepSeek R1
ollama run deepseek-r1:14b
32B Qwen DeepSeek R1
ollama run deepseek-r1:32b
70B Llama DeepSeek R1
ollama run deepseek-r1:70b
图形界面和联网AnythingLLM 下载
1、Github 开源版 【点击下载】
2、官方版:【点击下载】
注意:本地部署也是支持开启联网搜索模式的
只需在AnythingLLM的设置界面中,找到“代理技能”选项。 启用Web Search:在代理技能列表中找到 Web Search ,点击开启。 选择搜索引擎即可!