Featured image of post 本地部署 deepseek R1 大模型

本地部署 deepseek R1 大模型

Hits

检查配置

这网站很强的,好多命令都能在里面直接找,不需要看别的东西 https://tools.thinkinai.xyz/

下载ollama

https://ollama.com/

运行命令安装模型

包括下载镜像速度还挺快的不用翻墙
这个模型还是挺大的10个 g
也不知道他下哪儿去了反正我电脑空间多

ollama run deepseek-r1:14b

Windows 电脑还要安装这个cuda (这是网站教程上说的但是我实测好像并不需要)

安装 webui

毕竟用这个网页端还是比较方便 命令行也太麻烦了

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

预想好之后会开启在这个网站: 你就可以体验到你自己本地在跑的模型了。

http://127.0.0.1:3000/

据说这里能有无审查版的模型下载 https://huggingface.co/huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2

Licensed under CC BY-NC-SA 4.0
最后更新于 Feb 15, 2025 00:00 UTC
comments powered by Disqus
吸引力法则,大圣灵、外星人和心灵能量
使用 Hugo 构建
主题 StackJimmy 设计