因为
我打算尝试部署本地deepseek阉割版
有大佬能指点一二吗
直接ollama就行,网上一大把教程
weiderui 不怕烧盘?我之前本地部署结果没几天写入好几tb(运存不够后果)
如果电脑配置好确实可以考虑本地部署,但不好……
ZCYZL 如果电脑配置好确实可以考虑本地部署,但不好……
蒸馏的小模型呗,8b、16b 这种
CreeperAWA 7b的deepseek都会狂写虚拟内存(8G运存而已)
ZCYZL 8G运存而已
8G运存就别想的跑AI了(我32G运存极限只能跑32b的
看你以前发的配置……如果你要写代码的话,基本告别本地部署(
比如OpencodeZen这种平台的deepseek v4 flash都是免费的,用不着本地部署吧 限额也非常高,如果被限了就换个节点
完了deepseek不免费了