当前位置: 首页 > news >正文

克隆OpenAI(基于openai API和streamlit)

utils.py: 

from langchain_openai import ChatOpenAI
from langchain.memory import ConversationBufferMemory
from langchain.chains import ConversationChain
import osdef get_chat_response(api_key,prompt,memory): # memory不能是函数的内部局部变量,否则会被清空;而且它是引用传递model = ChatOpenAI(model="gpt-3.5-turbo",api_key=api_key,base_url="https://api.gptsapi.net/v1")# 利用带记忆的对话链chain = ConversationChain(llm=model,memory=memory)result = chain.invoke({"input":prompt # 默认提示模板里需要填充input变量}) #返回值是一个字典,包含了input、history、responsereturn result["response"]# memory = ConversationBufferMemory(return_messages=True) 记得创建记忆的实例
# print(get_chat_response(os.getenv("OPENAI_API_KEY"),"牛顿提出过那些知名的定律?",memory))
# print(get_chat_response(os.getenv("OPENAI_API_KEY"),"我上一个问题是什么?",memory))

main.py: 

import streamlit as st
from utils import get_chat_response
from langchain.memory import ConversationBufferMemoryst.title("克隆ChatCPT")with st.sidebar:api_key = st.text_input("请输入OpenAI API 密钥:",type="password")st.markdown("[获取OpenAI API 密钥]()")# 初始化会话状态(记忆和消息列表)
if "memory" not in st.session_state:st.session_state.memory = ConversationBufferMemory(return_messages=True)  st.session_state.messages = [{"role":"ai", "content":"你好,我是你的AI助手,有什么可以帮你的吗?"}] #messages为了便于在前端页面上展示对话# 显示历史对话消息(初始显示)
for message in st.session_state.messages:st.chat_message(message["role"]).write(message["content"])# 获取用户输入
prompt = st.chat_input()
if prompt:if not api_key:st.info("请输入你的OpenAI API密钥")st.stop()st.session_state.messages.append({"role":"human","content":prompt}) #将用户提问封装成消息对象,并添加进messages列表st.chat_message("human").write(prompt) # 在页面显示该消息内容# 获取AI回复with st.spinner("AI正在思考中,请稍等···"):response = get_chat_response(api_key=api_key,prompt=prompt,memory=st.session_state.memory)st.session_state.messages.append({"role":"ai","content":response}) #将AI的回复封装成消息对象,并添加进messages列表st.chat_message("ai").write(response) #在页面上显示该消息内容

 补充:

1、初始化会话状态

  • 如果会话状态中没有 memory 变量,则创建一个 ConversationBufferMemory 实例,并将 return_messages 参数设置为 True,表示返回消息列表。(记忆)
  • 同时,初始化会话状态中的 messages 列表,包含一条初始的 AI 回复消息。(显示在页面上的消息列表)

2、显示历史对话信息

遍历会话状态中的 messages 列表,使用 st.chat_message 函数根据消息的角色(human 或 ai)创建聊天消息框,并自动选择图标和样式来显示消息内容。

3、获取用户输入

  • st.chat_input:创建一个聊天输入框,获取用户输入的消息。
  • 如果用户输入了消息,首先检查是否输入了 API 密钥,如果没有输入,则显示提示信息并停止程序执行。
  • 将用户输入的消息添加到会话状态的 messages 列表中,并在界面上显示该消息。

4、获得AI的回复并显示

  • 调用 get_chat_response 函数,传入 API 密钥、用户输入和对话记忆,获取 AI 的回复。
  • 将 AI 的回复封装成消息对象,添加到会话状态的 messages 列表中,并在界面上显示该消息。

5、关于messages和memory

基于数据结构的灵活性不同、功能侧重点不同以及代码的可读性和维护性,建议将memory和messages分开使用,各自发挥其优势。

6、

 st.session_state.memory = ConversationBufferMemory(return_messages=True)

    # 等价于st.session_state["memory"]=ConversationBufferMemory(return_messages=True)

st.session_state 是 Streamlit 提供的一个用于在应用会话期间存储和共享数据的对象,从底层实现来讲,它的行为类似于 Python 的字典(dict)。

所以可以有两种访问方式:

对象的属性访问—— .

obj = MyClass()
obj.name = "John"  # 设置属性
print(obj.name)    # 访问属性

字典的键值对访问—— [ ]

my_dict = {}
my_dict["name"] = "John"  # 设置键值对
print(my_dict["name"])    # 获取键对应的值

http://www.lryc.cn/news/530702.html

相关文章:

  • 位运算算法题
  • 12 向量结构模块(vector.rs)
  • Android车机DIY开发之学习篇(六)编译讯为3568开发板安卓
  • Codeforces Round 863 (Div. 3) E. Living Sequence
  • 一文讲解HashMap线程安全相关问题(上)
  • MFC 创建Ribbon样式窗口
  • uv 安装包
  • IELTS口语练习题库
  • 图书管理系统 Axios 源码__获取图书列表
  • 基于OSAL的嵌入式裸机事件驱动框架——整体架构调度机制
  • c++ string类 +底层模拟实现
  • 六十分之三十七——一转眼、时光飞逝
  • Shell基础:中括号的使用
  • 《基于Scapy的综合性网络扫描与通信工具集解析》
  • 面经--C语言——sizeof和strlen,数组和链表,#include <>和 #include ““ #define 和typedef 内存对齐概述
  • 使用 Kotlin 将 Vertx 和 Springboot 整合
  • 线性回归算法-01
  • 洛谷 P1130 红牌 C语言
  • 虚幻UE5手机安卓Android Studio开发设置2025
  • 线性代数复习笔记
  • 你需要更深层次的解放
  • 机器学习算法在网络安全中的实践
  • Qt事件处理:理解处理器、过滤器与事件系统
  • DeepSeek相关技术整理
  • DeepSeek 遭 DDoS 攻击背后:DDoS 攻击的 “千层套路” 与安全防御 “金钟罩”
  • 蓝桥杯之c++入门(二)【输入输出(上)】
  • 消息队列应用示例MessageQueues-STM32CubeMX-FreeRTOS《嵌入式系统设计》P343-P347
  • 算法题(55):用最少数量的箭引爆气球
  • 谭浩强C语言程序设计(4) 8章(下)
  • AlexNet论文代码阅读