当前位置: 首页 > news >正文

百度千帆平台构建AI APP的基础概念梳理

百度千帆平台构建AI APP的基础概念梳理

如果想制作大语言模型(LLM)相关的APP, 将利用百度的千帆平台在国内可能是最便捷的途径,因为百度开发了成熟的工作流,前些年还有些不稳定,现在固定下来了,但是对于刚了解的人还是有些眼花缭乱,在这里总结自己学习的一点心得。

appbuilder平台是入口(使用LLM,构建聊天机器人)

因为我们的目的是制作APP,所以appbuilder是入口,还有一个modelbuilder平台是训练模型用的,和我们暂时没大关系,进去以后按照流程一步一步走,大概率能构建出一个聊天的机器人,默认发布为网页模式,还可以发布到微信小程序模式等,支持openAPI调用,可以用gradio和streamlit调用openAPI构建聊天机器人应用。这时候的应用就仅仅是聊天,文字输入和输出。

关键词:聊天机器人,openAPI,LLM
在这里插入图片描述

调用组件,让LLM使用工具

在以上界面中会看到调用组件的选项,选择组件后,构建的APP就支持上传图片和文件,通过组件的功能来识别文字等,来把APP变成一个Agent,即一个可以使用工具的APP,比如一个看图说话的APP,就是通过组件识别图中的内容,然后用LLM对图中的内容进行加工实现的。构建好APP之后,用百度的提供的方式进行发布都是没有问题的,但是如果想外地调用的话openAPI就不灵了,这时候要选择SDK方式在gradio和streamlit等界面进行调用。SDK调用官方示例
比较典型的多模态输入例子(来自官方教程)

import os
import appbuilder# 注意以下示例正确运行依赖的条件包括:
# 1. 在百度智能云千帆AppBuilder官网使用AppBuilderClient创建应用且应用已发布
# 2. 密钥正确有效
# 3. 密钥需要与发布的应用正确对应,即需要使用发布应用的账户下的密钥# 配置密钥与应用ID
os.environ["APPBUILDER_TOKEN"] ="..."
app_id = "7016e0d3-451b-4a47-a818-dc0a16d4b496" # 初始化Agent实例
builder = appbuilder.AppBuilderClient(app_id)# 创建会话ID
conversation_id = builder.create_conversation()# 上传植物图片
file_id = builder.upload_local_file(conversation_id, "./app_builder_resources/tree.png" )# 植物识别
msg = builder.run(conversation_id, "请识别图中的植物类别", file_ids=[file_id])
print("植物识别助理回答内容:", msg.content.answer)

组件也可以单独使用,那就是百度的另外一个平台,智能云平台管理的,需要是可以参考相关的文档。

关键词:组件、SDK、agent

知识库,LLM问答的来源

知识库的意思是自定义的信息,就是把自己的知识作为APP问答的一个来源,百度把它归在modelbuilder平台里面。

关键词:知识库

总结

个人认为让LLM作为agent使用工具是比较有前景的一个方向,而使用百度千帆平台可以很快速地体验这个过程,了解了这些基础概念之后,就很容易上手了。

http://www.lryc.cn/news/510197.html

相关文章:

  • Unity3D Huatuo技术原理剖析详解
  • 记Fastjson2的一个报ConcurrentModificationException的bug
  • 使用TimesFM 对车辆销售进行预测
  • OpenEuler 22.03 不依赖zookeeper安装 kafka 3.3.2集群
  • ubuntu 将python3.8 升级为python3.10并进行版本切换
  • 3. Kafka入门—安装与基本命令
  • 如何使用 python创建图片格式转换器
  • 命令行之巅:Linux Shell编程的至高艺术(上)
  • 【gulp】gulp 的基本使用
  • Linux 下处理 ^M 字符的最佳实践
  • 【优选算法】—复写零(双指针算法)
  • 2024国赛A问题三和四
  • asp.net 高校学生勤工俭学系统设计与实现
  • 《计算机组成及汇编语言原理》阅读笔记:p116-p120
  • C# OpenCvSharp DNN 卡证检测矫正
  • Spring Boot 中 Map 的最佳实践
  • J-LangChain - 智能链构建
  • 开源低代码平台-Microi吾码 打印引擎使用
  • 【MySQL】索引 面试题
  • 【高阶数据结构】AVL树
  • 【Spring】基于XML的Spring容器配置——<bean>标签与属性解析
  • docker mysql5.7安装
  • HDR视频技术之十一:HEVCH.265 的 HDR 编码方案
  • 最新的强大的文生视频模型Pyramid Flow 论文阅读及复现
  • Effective C++ 条款 11:在 `operator=` 中处理“自我赋值”
  • 19、鸿蒙学习——配置HDC命令 环境变量
  • 初始 ShellJS:一个 Node.js 命令行工具集合
  • 网络工程师常用软件之PING测试工具
  • 深入探索仓颉编程语言:函数与结构类型的终极指南
  • Java 对象的内存分配机制详解