当前位置: 首页 > news >正文

解决llama_index中使用Ollama出现timed out 问题

现象:

  File "~/anaconda3/envs/leo_py38/lib/python3.8/site-packages/httpx/_transports/default.py", line 86, in map_httpcore_exceptionsraise mapped_exc(message) from exc
httpx.ReadTimeout: timed out

代码:

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.ollama import Ollama###定义使用的llm,embedding 模型
llm = Ollama(model="yi:34b")
embed_model = HuggingFaceEmbedding(model_name="BAAI/bge-large-zh-v1.5")
Settings.llm = llm
Settings.embed_model = embed_model## 加载文档
documents = SimpleDirectoryReader("../../data").load_data()
print("documents: ", len(documents))## 构建index
index = VectorStoreIndex.from_documents(documents, show_progress=True)## 构建query engine
query_engine = index.as_query_engine()
query = "身长九尺,髯长二尺的人是谁?"## query
response = query_engine.query(query)
print(f"query:{query}")
print(f"查询结果:{response}")

解决办法是增加timeout时长

llm = Ollama(model="yi:34b", request_timeout=500)
http://www.lryc.cn/news/406785.html

相关文章:

  • Python爬虫技术 第14节 HTML结构解析
  • 【vue3|第18期】Vue-Router路由的三种传参方式
  • ElasticSearch(六)— 全文检索
  • Oracle核心进程详解并kill验证
  • 【BUG】已解决:SyntaxError:positional argument follows keyword argument
  • 怎样在 Nginx 中配置基于请求客户端 Wi-Fi 连接状态的访问控制?
  • 逆向案例二十九——某品威客登录,请求头参数加密,简单webpack
  • 河道高效治理新策略:视频AI智能监控如何助力河污防治
  • [React]如何提高大数据量场景下的Table性能?
  • 基于Vision Transformer的mini_ImageNet图片分类实战
  • JS中map()使用记录
  • JavaWeb学习——请求响应、分层解耦
  • Vue中!.和?.是什么意思
  • 秋招突击——7/22——复习{堆——前K个高频元素}——新作{回溯——单次搜索、分割回文串。链表——环形链表II,合并两个有序链表}
  • android13禁用某个usb设备
  • tmux相关命令
  • 初创小程序公司怎么选服务器合作商
  • 基于微信小程序+SpringBoot+Vue的自习室选座与门禁系统(带1w+文档)
  • 【Linux】进程IO|重定向|缓冲区|dup2|dup|用户级缓冲区|模拟缓冲区
  • bug bug bug
  • 医疗器械上市欧美,需要什么样的网络安全相关申报文件?
  • 【UbuntuDebian安装Nginx】在线安装Nginx
  • Jacoco 单元测试配置
  • App Instance 架构示例
  • 【论文速读】| MoRSE:利用检索增强生成技术填补网络安全专业知识的空白
  • pip install albumentations安装下载超级细水管
  • 驱动开发系列07 - 驱动程序如何分配内存
  • 【Jackson】注解及其使用
  • LeetCode24 两两交换链表中的节点
  • AI OS