AI
未读
deepseek部署教程
1、此次教程为Ollama家用级本地模型部署,供个人测试使用并对 Ollama 做好安全策略以防止黑客攻击; 2、使用满血版的部署需要专业服务器,建议在1T内存+起码双H100 80G的推理服务器实现,可以选SGLANG框架或者VLLM框架;视硬件选择最优方案。 一、下载安装 Ollama 家用级部
AI
未读
Ollama工具部署大模型风险点
2025年2月20日,上海市委网信办收到中央网信办下发关于使用Ollama工具部署大模型存在未授权访问的风险提示。 监测发现,用于私有化部署DeepSeek等大模型的境外开源工具Ollama默认未设置身份验证和访问控制功能,其默认服务API接口(http://XX.XX.XX.XX:11434)可以
AI
未读
deepseek 模型各版本硬件要求
目前DeepSeek-R1系列模型在Huggingface上共计开源了8种。 DeepSeek-R1系列的两大明星产品: DeepSeek-R1-Zero:AI界的"极限探索者" • 超强算力:6710亿参数(采用MoE架构,每个t