微软官方出品:GPT大模型编排工具,支持C#、Python等多个语言版本

news/2024/5/19 21:44:56 标签: microsoft, gpt, c#, .netcore, asp.net, .net

随着ChatGPT的火热,基于大模型开发应用已经成为新的风口。虽然目前的大型模型已经具备相当高的智能水平,但它们仍然无法完全实现业务流程的自动化,从而达到用户的目标。

微软官方开源的Semantic Kernel的AI编排工具,就可以很好的满足我们自定义开发。

01 项目简介

Semantic Kernel是一个轻量级的SDK,最基本的功能就是帮我们完成与OpenAI、Azure OpenAI和Hugging Face大模型的API的对接,并且支持C#、Python、Java版本。

Semantic Kernel提供自定义插件、编排计划、信息存储至数据库(如SQLite、MongoDB、Redis、Postgres等)。

总的来说,Semantic Kernel就是可以把用户输入的prompt,经过分解为多个步骤、获取外部数据、执行自定义操作等,转换为一个更好的prompt,再调用大模型API,从而获取结果。

图片

02 使用示例

以下是C#使用示例:

using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.Connectors.OpenAI;

var builder = Kernel.CreateBuilder();

//OpenAI模型
builder.AddOpenAIChatCompletion(
         "gpt-3.5-turbo",
         "...your OpenAI API Key...");

var kernel = builder.Build();

//等待用户输入
Console.Write("用户:");
var input = Console.ReadLine();

//循环对话
while (input != "quit")
{
    var prompt = @$"<message role=""user"">{input}</message>";
    var summarize = kernel.CreateFunctionFromPrompt(prompt, executionSettings: new OpenAIPromptExecutionSettings { MaxTokens = 100 });
    var result = kernel.InvokeStreamingAsync(summarize);
    Console.Write("OpenAI:");
    await foreach (var item in result)
    {
        Console.Write(item.ToString());
    }
    Console.WriteLine();
    Console.WriteLine();
    Console.Write("用户:");
    input = Console.ReadLine();
}

03 核心组件

**语义引擎:**核心组件,用于理解用户的输入的语义,并将这些输入转化为机器可读的格式;

**LLM API包装器:**将传统的编程语言(如C#、Python、Java)与AI大模型集成,使得开发人员无需过多的关注大模型API,只需关心具体的业务开发;

**可扩展编程模型:**整合了自然语言语义功能、传统编程语言的native function以及基于embedding的存储,可以为大模型增强功能与数据。

04 项目地址

https://github.com/microsoft/semantic-kernel

更多开源项目请查看:一个专注推荐.Net开源项目的榜单

- End -


http://www.niftyadmin.cn/n/5278668.html

相关文章

华为mpls vpn跨域方案c-1无RR

重要的几点注意&#xff1a; 1、r2和r5上面不需要跑bgp&#xff0c;只开mpls ldp负责传递标签 2、r3和r4上面不需要跑vpnv4路由&#xff0c;只传标签就可以了。所以不要和自己as内的对端建立vpnv4路由&#xff0c;减轻压力。 3、r1和r6使用的是vpnv4路由&#xff0c;vpnv4路由的…

Flink系列之:Checkpoints 与 Savepoints

Flink系列之&#xff1a;Checkpoints 与 Savepoints 一、概述二、功能和限制 一、概述 从概念上讲&#xff0c;Flink 的 savepoints 与 checkpoints 的不同之处类似于传统数据库系统中的备份与恢复日志之间的差异。 Checkpoints 的主要目的是为意外失败的作业提供恢复机制。 …

AUTOSAR从入门到精通-存储配置(NvM)(六)

目录 几个相关概念 Sector Page Block 原理 NVRAM Block NVM基本操作

智能硬件(6)之通用引脚(GPIO)

小编带领大家学习的四大开源硬件和智能模块&#xff0c;他们之间是如何通信的&#xff0c;主控芯片是如何控制智能模块&#xff0c;做某些事情呢&#xff1f;有没有小朋友发起疑问呢&#xff1f; 这里&#xff0c;涉及到了特别重要的知识点&#xff0c;就是通用引脚&#xff0c…

微信小程序开发系列-01创建一个最小的小程序项目

本文讲述了通过微信开发者工具&#xff0c;创建一个新的小程序项目&#xff0c;完全从零开始&#xff0c;不依赖开发者工具的模板。目的是为了更好的理解小程序工程项目的构成。 文章目录 创建一个空项目app.json全局配置pagessitemapLocation app.js 创建一个空项目 打开微信…

react+ts父子组件传值

父传子 ①在父组件中定义const nameFromParent: string "John"; ②从父组件传递给子组件<ChildComponent name{nameFromParent} /> ③在子组件中定义属性的类型interface ChildProps { age: number;} ④如果数据多需要解构再使用const { name,... } props;&a…

Docker安装(CentOS)+简单使用

Docker安装(CentOS) 一键卸载旧的 sudo yum remove docker* 一行代码(自动安装) 使用官方安装脚本 curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun 启动 docker并查看状态 运行镜像 hello-world docker run hello-world 简单使用 使用 docker run …

三防平板定制|5G三防工业平板电脑终端联发科MTK方案

三防平板&#xff0c;顾名思义&#xff0c;是指具备防水、防尘、防坠落等特性的平板电脑。它可以在各种恶劣环境中正常使用&#xff0c;如煤矿、工业制造、户外、建筑等。 三防平板的优势在于其坚固耐用、性能稳定。它通常采用高强度的材料制成&#xff0c;具有较强的抗冲击性和…