当前位置: 首页 > news >正文

LangChain实战技巧之六:一起玩转config(上篇)——ConfigurableField

简介

    Config 包含两大类内容,

  • ConfigurableField 可配置的字段
  • configurable_alternatives 可配置的替代方案

    分别使用两篇文章来给大家介绍,本篇先介绍ConfigurableField

常规介绍

   一些资料会这样介绍

model_spec = model.configurable_fields(model_name=ConfigurableField(id="model_name",description="指定一个你想要使用的model"))
model_spec.invoke(input="你好啊,我是你的好朋友 —— Song榆钱儿", config={"configurable": {"model_name": "qwen-plus"}})

输出结果

content='你好,Song榆钱儿!很高兴和你成为好朋友。有什么我可以帮助你的吗?' response_metadata={'model_name': 'qwen-plus', 'finish_reason': 'stop', 'request_id': '57cfe500-0520-9ac6-8c5c-50c077539cbc', 'token_usage': {'input_tokens': 21, 'output_tokens': 19, 'total_tokens': 40}} id='run-9fc162a7-4089-4f81-a792-2c17206ef9b0-0'

然后告诉你,可以配置一个model_name作为config参数,在invoke时可以把具体的model_name传递进来,例如:qwen-plus

进阶用法

通常一些资料没告诉你的是,可以有哪些可配置的Field 这里我给大家介绍...授之以渔

model.__fields__.keys()

输出结果

dict_keys(['name', 'cache', 'verbose', 'callbacks', 'tags', 'metadata', 'custom_get_token_ids', 'callback_manager', 'client', 'model_name', 'model_kwargs', 'top_p', 'dashscope_api_key', 'streaming', 'max_retries'])

想用哪个用哪个:)

当然,可以直接用__fields__,这样就把整个dict(每个Field和含义内容都打印出来)

那这个配置除了参数化,还有何用处。。。

应用场景

  • prompt场景

我们看下prompt,提示词config能做些什么 以messages为例,它可以帮助组合成新的提示词 代码如下:

# 先准备两个
prompt_add_1 = ChatPromptTemplate.from_messages([("human", "你好"),("ai", "你好,有什么可以帮助你的吗?")])prompt_add_2 = ChatPromptTemplate.from_messages([("human", "1+1等于几?"),("ai", "1+1的计算结果等于2")])
# 接下来,我们看看怎么用它们
prompt_spec = prompt.configurable_fields(messages=ConfigurableField(id="messages",description="消息列表"))# 见证奇迹的时刻
prompt_spec.invoke({}, config={"configurable": {"messages": [prompt_add_1, prompt_add_2]}})

输出结果

messages=[HumanMessage(content='你好'), AIMessage(content='你好,有什么可以帮助你的吗?'), HumanMessage(content='1+1等于几?'), AIMessage(content='1+1的计算结果等于2')]

细心的小伙伴会发现,上述的方式与这种方式 一毛一样

# 换种方式组合,只不过不用config
prompt = ChatPromptTemplate.from_messages([prompt_add_1, prompt_add_2])
prompt.invoke({})
  • chain场景

看看chain有哪些可config的field

chain.__fields__.keys()

输出

dict_keys(['name', 'first', 'middle', 'last'])

"name"和First"都很简单,下面分别以“middle”、“last”为例

# 定义一个可config的model
model_spec = model.configurable_fields(model_name=ConfigurableField(id="model_name",description="指定一个你想要使用的model"))# 一会儿要用到的函数
def change_me(promptvalue):return promptvalue.to_string().replace("Song榆钱儿", "Songjg")# 一个简单的chain
chain = prompt | model_spec# 将chain做成可config的...
chain = chain.configurable_fields(middle=ConfigurableField(id="process", description="这是啥?"))# 来吧,看实验
chain.invoke(input="你好啊,我是你的好朋友 —— Song榆钱儿", config={"configurable": {"process": [RunnableLambda(change_me)]}})# 不仅有middle,还有last
chain = chain.configurable_fields(middle=ConfigurableField(id="deal", description="这是啥?"),
last=ConfigurableField(id="model_spec", description="这是啥?"))chain.invoke(input="你好啊,我是你的好朋友 —— Song榆钱儿", config={"configurable": {"deal": [RunnableLambda(changeme)],
"model_name": "qwen-plus"}}))

输出结果

content='你好,Songjg!很高兴再次与你交流。有什么我可以帮助你的吗?' response_metadata={'model_name': 'qwen-turbo', 'finish_reason': 'stop', 'request_id': 'dc0bca5d-e0ce-9fc9-b5e5-c76987f09390', 'token_usage': {'input_tokens': 23, 'output_tokens': 18, 'total_tokens': 41}} id='run-a5a4f67f-7a9c-440b-b969-0ac1ffe8b812-0'
Human: 你好啊,我是你的好朋友 —— Song榆钱儿
content='你好,Songjg!很高兴再次见到你。有什么我可以帮助你的吗?' response_metadata={'model_name': 'qwen-plus', 'finish_reason': 'stop', 'request_id': 'c3ff953d-a72f-9de9-be74-7150a1f3dce3', 'token_usage': {'input_tokens': 23, 'output_tokens': 17, 'total_tokens': 40}} id='run-055dcf5b-433f-486a-9beb-5f3d3947b098-0'
  • Agent场景

agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True, handle_parsing_errors=True,callbacks=None, callback_manager=None, return_intermediate_steps=True)agent_executor.__fields__.keys()

看看有什么

dict_keys(['name', 'memory', 'callbacks', 'verbose', 'tags', 'metadata', 'callback_manager', 'agent', 'tools', 'return_intermediate_steps', 'max_iterations', 'max_execution_time', 'early_stopping_method', 'handle_parsing_errors', 'trim_intermediate_steps'])

基本上都是AgentExecutor简单的参数,“偷懒”就不挨个介绍,请各位看官自行实验: )

One more thing

RunnableWithMessageHistory(……………………history_factory_config=[ConfigurableFieldSpec(id="Songjg",annotation=str,name="Song榆钱儿",description="我的名字",default="",is_shared=True)]

这个是一种应用比较广泛的,消息历史相关的Runnable,可定义config传参变量,关于它的详细内容以后再给大家介绍...

http://www.lryc.cn/news/379870.html

相关文章:

  • 扫码称重上位机
  • 操作系统入门 -- 进程的通信方式
  • Python读取wps中的DISPIMG图片格式
  • elasticsearch的入门与实践
  • 神经网络学习6-线性层
  • PHP框架详解 - CodeIgniter 框架
  • 奔驰EQS SUV升级原厂主动式氛围灯效果展示
  • echarts Y轴展示时间片段,series data数据 也是时间片段,鼠标放上去 提示框显示对应的时间片段
  • 20. mediasoup服务器的布署与使用
  • 【leetcode--同构字符串】
  • shell expr功能详解
  • java继承Thead类和实现Runnable接口创建线程的区别
  • interface Ref<T = any> 这是什么写法?为什么写接口还需要加上<T = any>
  • 深入探索 MongoDB GridFS:高效大文件存储与管理的全面指南
  • 基于CentOS Stream 9平台 安装/卸载 Redis7.0.15
  • 激励-保健理论和公平理论
  • 深入探索 Spring Boot 自定义启动画面
  • Redis实战—Redis分布式锁
  • 联想Y7000P 2023款拆机教程及升级内存教程
  • 开发常用依赖
  • 【区分vue2和vue3下的element UI Empty 空状态组件,分别详细介绍属性,事件,方法如何使用,并举例】
  • 【AI作曲】毁掉音乐?早该来了!一个网易音乐人对于 AI 大模型音乐创作的思辨
  • RabbitMQ实践——最大长度队列
  • 【pytorch02】手写数字问题引入
  • 【查看显卡信息】——Ubuntu和windows
  • 在 RK3568 上构建 Android 11 模块:深入解析 m、mm、mmm 编译命令
  • 实战|YOLOv10 自定义目标检测
  • TTS前端原理学习 chatgpt生成答案
  • AI“音乐创作”横行给音乐家带来哪些隐忧
  • SolidityFoundry 安全审计测试 Delegatecall漏洞2