当前位置: 首页 > news >正文

LangChain手记 Chains

整理并翻译自DeepLearning.AI×LangChain的官方课程:Chains(源代码可见)

Chains

直译链,表达的意思更像是对话链,对话链的背后是思维链

LLM Chain(LLM链)

首先介绍了一个最简单的例子,LLM Chain:
在这里插入图片描述
在这里插入图片描述
将一个大语言模型和prompt模板组合起来调用LLMChain,即可得到一个LLMChain对象,该对象的run实现的功能即给定输入自动使用prompt模板生成prompt,调用LLM得到回复。

Sequential Chains(顺序链)

在这里插入图片描述
顺序链是另外一种类型的链,它的基本思想是以一个链的输出是下一个链的输入这种方式组合的多个链。

目前有2种类型的顺序链:

  1. SimpleSequentialChain:单个输入/输出组合
  2. SequentialChain:多个输入输出组合

SimpleSequentialChain

在这里插入图片描述
在这里插入图片描述
调用SimpleSequentialChain,传入两个构建好的LLM Chain即可构建一个顺序链,第一个LLM Chain的输出是第二个LLM Chain的输入,同样也可以指定verbose=true将打印对话历史。

图示如下:
在这里插入图片描述

SequentialChain

在这里插入图片描述
第一个chain将review翻译为英文,第二个chain则提取摘要。
在这里插入图片描述
第三个chain识别review的类型。
在这里插入图片描述
第四个chain使用指定语言类型和摘要生成回复。

注意点是这些chain里面的变量名称要对齐,否则会报错。

即将构建的顺序链如下图所示:
在这里插入图片描述
运行一下:
在这里插入图片描述
结果:
在这里插入图片描述

视频可能看不太清楚,整条链的输入输出的依赖关系是依靠每一个子链都设置一个output_key,在下一个链的prompt模板里以{output_key}的形式指定来实现的,写python的朋友估计已经习以为常了,其他语言的小伙伴可能需要点时间思考,如下图:
在这里插入图片描述

Router Chain 路由链

先决定输入要分发到哪个子链,再分发到对应的子链:
在这里插入图片描述
定义回答多个学科的多个prompt模板:
在这里插入图片描述
为每个学科的prompt模板添加一些说明信息:
在这里插入图片描述
为了实现路由链,引入了MultiPromptChainLLMRouterChain
在这里插入图片描述
定义LLM,训练prompt模板列表,构建子链:
在这里插入图片描述
再构建一个默认链(用来兜底):
在这里插入图片描述
定义路由提示词模板:
在这里插入图片描述
定义路由链(注意output_parser指定的是RouterOutputParser对象):
在这里插入图片描述
现在,组合起来构建路由链:

chain = MultiPromptChain(router_chain=router_chain, destination_chains=destination_chains, default_chain=default_chain, verbose=True)

尝试运行一下物理题:
在这里插入图片描述
尝试运行一下数学题:
在这里插入图片描述
如果输入一个不属于路由内的学科,比如下面的生物,则会兜底走默认链,由于GPT也具备生物学知识,所以也可以给出有效回答:
在这里插入图片描述

http://www.lryc.cn/news/129620.html

相关文章:

  • ONNX版本YOLOV5-DeepSort (rknn版本已经Ready)
  • MySQL的约束
  • Lnton羚通关于【PyTorch】教程:torchvision 目标检测微调
  • AMD fTPM RNG的BUG使得Linus Torvalds不满
  • idea 转换为 Maven Project 的方法
  • es1.7.2 按照_type先聚合,再按照时间二次聚合
  • pyqt5 如何修改QplainTextEdit 背景色和主窗口的一样颜色
  • 解决使用element ui时el-input的属性type=number,仍然可以输入e的问题。
  • ShardingSphere 可观测 SQL 指标监控
  • Redisson实现分布式锁示例
  • 使用Nginx作为一个普通代理服务器
  • chatglm2-6b模型在9n-triton中部署并集成至langchain实践 | 京东云技术团队
  • Shell编程之正则表达式(非常详细)
  • RNN模型简单理解和CNN区别
  • 【Axure高保真原型】JS日期选择器筛选中继器表格
  • android bp脚本
  • Redis 数据库 NoSQL
  • RN 项目异常问题整理
  • STM8编程[TIM1多路PWM输出选项字节(Option Byte)操作和IO复用]
  • Java算法_ 反转二叉树(LeetCode_Hot100)
  • C/C++ 标准模版库STL(持续更新版)
  • ARM(实验二)
  • 由“美”出发 听艺术家林曦关于美育与智慧的探讨
  • Serial与Parallel GC之间的不同之处是什么?
  • GB28181设备接入侧如何对接外部编码后音视频数据并实现预览播放
  • 【java】为什么文件上传要转成Base64?
  • SCSS 学习笔记 和 vscode下载live sass compiler插件配置
  • CSS中的字体属性有哪些值,并分别描述它们的作用。
  • 机器学习笔记之优化算法(十五)Baillon Haddad Theorem简单认识
  • HighTec工程用命令行编译