当前位置: 首页 > news >正文

微软官方出品:GPT大模型编排工具,支持C#、Python等多个语言版本

随着ChatGPT的火热,基于大模型开发应用已经成为新的风口。虽然目前的大型模型已经具备相当高的智能水平,但它们仍然无法完全实现业务流程的自动化,从而达到用户的目标。

微软官方开源的Semantic Kernel的AI编排工具,就可以很好的满足我们自定义开发。

01 项目简介

Semantic Kernel是一个轻量级的SDK,最基本的功能就是帮我们完成与OpenAI、Azure OpenAI和Hugging Face大模型的API的对接,并且支持C#、Python、Java版本。

Semantic Kernel提供自定义插件、编排计划、信息存储至数据库(如SQLite、MongoDB、Redis、Postgres等)。

总的来说,Semantic Kernel就是可以把用户输入的prompt,经过分解为多个步骤、获取外部数据、执行自定义操作等,转换为一个更好的prompt,再调用大模型API,从而获取结果。

图片

02 使用示例

以下是C#使用示例:

using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.Connectors.OpenAI;var builder = Kernel.CreateBuilder();//OpenAI模型
builder.AddOpenAIChatCompletion("gpt-3.5-turbo","...your OpenAI API Key...");var kernel = builder.Build();//等待用户输入
Console.Write("用户:");
var input = Console.ReadLine();//循环对话
while (input != "quit")
{var prompt = @$"<message role=""user"">{input}</message>";var summarize = kernel.CreateFunctionFromPrompt(prompt, executionSettings: new OpenAIPromptExecutionSettings { MaxTokens = 100 });var result = kernel.InvokeStreamingAsync(summarize);Console.Write("OpenAI:");await foreach (var item in result){Console.Write(item.ToString());}Console.WriteLine();Console.WriteLine();Console.Write("用户:");input = Console.ReadLine();
}

03 核心组件

**语义引擎:**核心组件,用于理解用户的输入的语义,并将这些输入转化为机器可读的格式;

**LLM API包装器:**将传统的编程语言(如C#、Python、Java)与AI大模型集成,使得开发人员无需过多的关注大模型API,只需关心具体的业务开发;

**可扩展编程模型:**整合了自然语言语义功能、传统编程语言的native function以及基于embedding的存储,可以为大模型增强功能与数据。

04 项目地址

https://github.com/microsoft/semantic-kernel

更多开源项目请查看:一个专注推荐.Net开源项目的榜单

- End -

http://www.lryc.cn/news/265792.html

相关文章:

  • docker安装的php 在cli中使用
  • tcp vegas 为什么好
  • 【设计模式】命令模式
  • Unity头发飘动效果
  • 【MIKE】MIKE河网编辑器操作说明
  • RIPV1配置实验
  • 快速实现农业机械设备远程监控
  • 解决用Fiddler抓包,网页显示你的连接不是专用/私密连接
  • 单片机原理及应用:流水灯的点亮
  • 蓝桥杯宝藏排序算法(冒泡、选择、插入)
  • 使用@jiaminghi/data-view实现一个数据大屏
  • 神经网络:池化层知识点
  • 微服务常见的配置中心简介
  • 银河麒麟v10 rpm安装包 安装mysql 8.35
  • 一篇文章带你搞定CTFMice基本操作
  • Spring security之授权
  • 模式识别与机器学习(十一):Bagging
  • 数据压缩(哈夫曼编码)
  • 移动安全APP--Frida+模拟器,模拟器+burp联动
  • MATLAB遗传算法工具箱的三种使用方法
  • 复习linux——时间同步服务
  • 如何在Linux设置JumpServer实现无公网ip远程访问管理界面
  • 【Git】在 IDEA 中合并多个 commit 为一个
  • 性能实战(一) --- clock_gettime造成系统整体cpu过高定位过程
  • Ai 会替代人类工作吗?
  • 神经网络:深度学习基础
  • 如何在Windows上搭建WebDAV服务并通过内网穿透实现公网访问
  • 【Transformer框架代码实现】
  • Apache ShenYu 网关JWT认证绕过漏洞 CVE-2021-37580
  • 锐捷配置重发布RIP进OSPF中