当前位置: 首页 > news >正文

Dify+Ollama+QwQ:3步本地部署,开启AI搜索新篇章

如何来评价本地化部署的价值与优势分析:


成本优化与隐私保障

自定义搜索插件,告别信息过载

一键生成报告、分析,效率翻倍!

接下来我们就尝试跟随来部署本地的价值所在!

1:安装Ollama & 部署QwQ模型

1.1 安装Ollama

去官网ollama.com下载windows版,一路next就好。

1.2 拉取QwQ模型(通义千问官方推理模型)

在windows命令行输入ollama run qwq。

 

ollama run QwQ

QwQ是32B参数的,显存16G以上应该可以流畅运行。

当然也可以安装最新的Qwen3,它有很多不同参数版本,可以找到适合自己电脑配置的版本安装。

1.3安装Docker容器

本地部署Dify要先安装Docker桌面版,跟Ollama一样简单,也是去官网下载对应版本文件,直接安装就OK。

1.4安装Dify

安装 Dify 简单的方式就是git clone,复制其github地址github.com/langgenius/dify,找个文件夹git cloen就好,当然这样需要科学上网。

2:启动Dify,配置Google搜索插件

2.1 启动Dify

命令行进到dify文件夹中的docker目录,将.env.example文件拷贝一个,重命名为.env,然后运行dify启动命令。

 

cd dify
cd docker
copy .env.example .env
docker compose up -d

稍等一下,它会自动安装一些image

 

点开docker桌面版会看到容器里有个带绿点的docker就成功了。 

点开浏览器,地址栏输入http://localhost/insatll,设置自己本地dify的用户名和密码。

2.2 配置ollama本地模型

点开dify页面右上角的用户图标中的设置。

在模型供应商中选择ollama。

在模型供应商ollama中点添加模型。

注意填写模型名字“qwq”和地址“host.docker.internal:11434”。

成功后显示这样。

2.3 获取谷歌搜索API密钥

  1. 访问 serpapi.com

  2. 注册 → 需要邮箱和电话,国内手机就行

  3. 免费版每月可以进行100次搜索

  4. 进入后可以看到自己API密钥

2.4 添加Dify的谷歌搜索插件

Dify的插件功能比起繁琐的MCP服务器好用多了,直接在dify页面中插件,搜索google,直接安装并填入刚获得的谷歌搜索API密钥。

成功后会显示已授权。

 3:创建Dify Agent代理

3.1 创建Agent

这最后一步反而是最简单的,进入dify页面中工作室,agent菜单,创建空白应用。

在工具中添加谷歌。右上角模型中选qwq。 

到此就完成各位看官可以试一下! 

 

 

 

http://www.lryc.cn/news/581646.html

相关文章:

  • 实现Spring MVC登录验证与拦截器保护:从原理到实战
  • 【机器学习深度学习】 如何解决“宏平均偏低 / 小类识别差”的问题?
  • HRDNet: High-resolution Detection Network for Small Objects论文阅读
  • mac中创建 .command 文件,执行node服务
  • Omi录屏专家 Screen Recorder by Omi 屏幕录制Mac
  • 【Linux】基础开发工具(1)
  • 开发项目时遇到的横向越权、行锁表锁与事务的关联与区别、超卖问题
  • Java学习——Lombok
  • Anaconda 常用命令
  • 【Elasticsearch】自定义评分检索
  • 【卫星语音】基于神经网络的低码率语音编解码(ULBC)方案架构分析:以SoundStream为例
  • Maven引入第三方JAR包实战指南
  • Day06- (使用asyncio进行异步编程:事件循环和协程)
  • 群晖 DS3617xs DSM 6.1.7 解决 PhotoStation 安装失败问题 PHP7.0
  • 数据结构---B+树
  • Modbus 与 BACnet 协议互操作:工业协议转换方案(二)
  • 深入理解 classnames:React 动态类名管理的最佳实践
  • 【系统分析师】2023年真题:论文及解题思路
  • 【机器学习笔记Ⅰ】7 向量化
  • 【IOS】XCode创建firstapp并运行(成为IOS开发者)
  • Tuning Language Models by Proxy
  • CentOS-6与CentOS-7的网络配置IP设置方式对比 笔记250706
  • 【Vibe Coding 实战】我如何用 AI 把一张草图变成了能跑的应用
  • 黑马点评系列问题之基础篇16jedis redis依赖引入后仍然还是报错
  • Docker 容器编排原理与使用详解
  • 国内Ubuntu访问不了github等外网
  • 牛客周赛Round 99(Go语言)
  • 【前端工程化】前端工作中的业务规范有哪些
  • 4.2 如何训练⼀个 LLM
  • Redis主从切换踩坑记:当Redisson遇上分布式锁的“死亡连接“