当前位置: 首页 > news >正文

【用Deepseek搭建免费的个人知识库--综合教程(完整版)】第二篇:Ollama服务器

用Deepseek搭建免费的个人知识库–综合教程(完整版):第二篇:Ollama服务器部署

OLLAMA服务器的配置在很多网上都已经介绍的非常清楚了,我们的重点不在于那些简单的步骤,而是在需要为下一步做准备的地方更加详细的讲解。

安装Ollama,下载模型,本地运行测试

上官网https://ollama.com/ 下载好对应系统的Ollama,运行安装。完成后运行Ollama,然后打开命令行。(linux系统打开Bash终端,MacOS打开终端,windows推荐powershell, 最新的powershell 7.5版本很好用,可以在windows商店直接下载,也可以上网上搜索。如果没有,普通命令行CMD也行)

运行指令:

Ollama run deepseek-r1:1.5b
完成后进入聊天模式:提问题,如果回答了就成功了。说明本地运行没问题了。

配置Ollama的网络和密钥

配置网络

linux/macOS:
export OLLAMA_HOST=0.0.0.0:11434
windows powershell:
$env:OLLAMA_HOST = "0.0.0.0:11434"

或者

Set-ItemProperty -Path "Env:OLLAMA_HOST" -Value "0.0.0.0:11434"

配置密钥:

安装openssl,生成 Base64 编码的随机字符串来定义Ollama api key增加安全性:

openssl rand -base64 24
#输出示例:
UjK4d3VY7+9rQ4c5p7X2m8n9g5f4A3s2w==

然后保存这个密钥短句放到系统的变量环境中:

Set-ItemProperty -Path "Env:OLLAMA_API_Key" -Value "UjK4d3VY7+9rQ4c5p7X2m8n9g5f4A3s2w=="

如果ollama服务器需要在公网直接访问采用这种方式:(可选)

Ollama运行一个HTTP服务器,可以使用诸如Nginx之类的代理服务器公开。为此,配置代理以转发请求,并可选择设置所需的标头(如果不在网络上公开Ollama)。例如,使用Nginx:

server {listen 80;server_name your_domain_or_ip;auth_basic "Restricted Access";auth_basic_user_file /etc/nginx/ollama_users;location / {proxy_pass http://localhost:11434;proxy_http_version 1.1;proxy_set_header Upgrade $http_upgrade;proxy_set_header Connection 'upgrade';proxy_set_header Host $host;proxy_cache_bypass $http_upgrade;}
}

但是由于ollama服务器按照我们的架构,ollama服务器不直接对外提供服务,而是通过网站工具例如(chatbox或者open web UI)所以这里不需要配置这个东西。

tag:本地部署Deepseek,离线部署Deepseek。

第三篇:前端服务器配置:Open-WebUI的安装

http://www.lryc.cn/news/534444.html

相关文章:

  • 【图片合并转换PDF】如何将每个文件夹下的图片转化成PDF并合并成一个文件?下面基于C++的方式教你实现
  • 从基础到人脸识别与目标检测
  • Elasticsearch:在 Elastic 中玩转 DeepSeek R1 来实现 RAG 应用
  • 寒假2.6--SQL注入之布尔盲注
  • CTF中特别小的EXE是怎么生成的
  • git rebase 和 git merge的区别
  • Gitlab中如何进行仓库迁移
  • LabVIEW 开发航天项目软件
  • 深度整理总结MySQL——MySQL加锁工作原理
  • kafka专栏解读
  • 1-portal认证功能
  • MySQL面试题合集
  • spring学习(druid、c3p0的数据源对象管理)(案例学习)
  • WordPress博客在fnOS环境下的极简搭建与公网地址配置指南
  • 【PG】DROP TABLE ... CASCADE
  • 绕组电感 - Ansys Maxwell 磁通链与电流
  • 物联网软件开发与应用方向应该怎样学习,学习哪些内容,就业方向是怎样?(文末领取整套学习视频,课件)物联网硬件开发与嵌入式系统
  • 《LeetCode Hot100》 Day01
  • vue动态table 动态表头数据+动态列表数据
  • 1.3 GPT vs BERT 终极选择指南:从架构差异到企业级落地策略
  • python-leetcode 23.回文链表
  • 食品饮料生产瓶颈?富唯智能协作机器人来 “破壁”
  • Golang GORM系列:GORM CRUM操作实战
  • C++ labmbd表达式
  • 《大规模动画优化(一):GPU 顶点动画的生成》
  • 【前端】几种常见的跨域解决方案
  • 如何在WinForms应用程序中读取和写入App.config文件
  • 【分布式理论7】分布式调用之:服务间的(RPC)远程调用
  • 人工智能应用-智能驾驶精确的目标检测和更高级的路径规划
  • dynamic_cast和static_cast和const_cast