分享好友 最新动态首页 最新动态分类 切换频道
如何利用SpringAI接入大模型(OpenAI)
2024-12-26 09:13

首先我们要在SpirngBoot项目中集成SpirngAI的话,对我们SpringBoot的版本有一定的要求,我们一般选择较新SpringBoot(3.0及以上)的版本才支持SpringAI。

这是SpringAI集成大模型的架构图

RAG 是检索增强生成(Retrieval Augmented Generation )的简称,它为大语言模型 (LLMs) 提供了从数据源检索信息的能力,并以此为基础生成回答。

Fine-tuning(微调通过特定领域数据对预训练模型进行针对性优化,以提升其在特定任务上的性能。

函数调用(Function Calling函数调用使您能够更可靠地从模型中获取结构化数据。

首先我们先自动创建一个SpringBoot的项目

 接下来我们选择需要导入的依赖信息,导入Web依赖和OpenAI的依赖既可

 项目创建完成之后我们需要配置项目application.yml文件

 这里我有一个售卖中转key的网站,不是广告,大家按需要购买

如果使用的是OpenAI官方的key,使用官方的调用地址既可,如果中转的key,调用地址需要改为中转的调用地址

我们来编写第一个文生文的请求示例

 配置类(这里可以通过代码内容可以给ChatGpt进行微调,这里微调后,他就会按照一个客服来跟你进行对话)跟OpenAI官方发布的GPTS的功能类似

 
 
 
 

 启动SpringBoot,我们在浏览器中输入路径进行访问localhost:8080/ai/chat?message=你是一名客服吗?

 我们让他使用流的方式进行回复(要指定字符集和格式不然结果会产生乱码)

 

 我们在浏览器中输入路径进行访问localhost:8080/ai/stream?message=你作为一名客服能为我做什么?

 我们接着使用ChatModel的方式对OpenAI官方的接口进行访问,ChatClient是所有大语言模型通用的,如果切换大语言模型,ChatClient的代码不用改动,但我们如果需要一些大语言模型的特有的功能的话,我们就要使用ChatModel来进行调用

 下面我们来使用ChatModel方式来调用OpenAI

 

 在请求时我们可以自定义一些参数,我们选择调用的模型,温度(这是生成内容的想象力的参数),有一系列的参数,SpringAI官网地址:

 我们在浏览器中输入路径进行访问,访问路径:localhost:8080/ai/chat/model

 接下来我们调用OpenAI提供文生图功能

 

 同样也可自定义访问请求的参数,SpringAI官网:

 我们在浏览器中输入路径进行访问,localhost:8080/ai/images

 我们接着使用SpringAI调用OpenAI的文生语音的功能

 

 文生语音自定义参数官方文档地址:

 我们在浏览器中输入路径进行访问,localhost:8080/ai/audio

 我们接着使用SpringAI调用OpenAI的语音转文字的功能

 

 语音转文字官方文档:

 将生成的一段音频文件放入resource文件下让它解析,这个音频是用丁真声音的训练AI的音频内容

这个是开源的地址,大家想玩可以直接在线登录,输入内容就可生成丁真音频内容

  我们在浏览器中输入路径进行访问,localhost:8080/ai/audio2text

 我们继续使用SpringAI调用OpenAI的多模态功能,我们可以上传视屏内容或音频内容等,我们就把刚才那个生成的猫咪图片传给大模型

 
 
 

  我们在浏览器中输入路径进行访问,localhost:8080/ai/mutil

 大模型还可以支持function-call的功能,function-call的功能主要是针对大模型所不知道的实时的问题或者我们系统一些私有性的问题,这类问题调用OpenAI官方的大模型正常无法解决,所以OpenAI采用了function-call来解决这个无法回答即时性的问题和我们系统中一些私有性的一些问题。

这是function-call官方文档说明

最新文章
2021年手游排行榜前十名 好玩的手机游戏有哪些
今天小编为大家带来2021年手游排行榜前十名的推荐,手机游戏多年来一直在热门榜上占有一席之地,那么近期比较值得推荐的此类游戏中有哪些人气比较高呢?下面我们一起来看看。1、《火影忍者-疾风传》《火影忍者-疾风传》同名动漫正版IP授权
2023年中国手机市场排名出炉:小米倒数,华为落榜,第一名实至名归
这几日,多家手机公司都在争抢国内手机市场第一的宝座。首先是雷军发微博称,小米在12月份成为中国区手机市场份额第一,随后vivo表示根据Counterpoint的最新报告,vivo夺得2023年国产手机品牌第一,到底第一的宝座花落谁家,且听分解。根据
7月13日微博热搜榜排名今日最新动态,全面聚焦热点话题
在2024年7月13日的微博热搜榜上,各类话题纷繁复杂,涵盖了政治、经济、文化、娱乐、体育等多个领域,以下是根据搜索量和关注度,整理出的部分热门话题及其排名情况(由于微博热搜榜的实时性,以下排名和话题可能随时间发生变化):1、习近
2024内蒙古青城乳业交易中心有限公司招聘26人公告
为加强内蒙古青城乳业交易中心有限公司人才队伍建设,保证平台正常运营,根据《中华人民共和国公司法》《中华人民共和国劳动法》《中华人民共和国劳动合同法》等法律、法规,围绕公司发展战略要求,遵循总量控制、按需用人、公开平等、竞争
0512-67950666 4000-526-058
  全自动烧录机市场应用价值越来越高,需求量越来越大,所厂家的选择是很重要的,市面上出现的厂家越来越多,每个厂家的专业化生产模式,生产速率是不一样的,全面了解厂家市场排名才能获得专业选择,从而真正了解关于行业生产的模式,现
2024年人工智能助手开发公司与智能硬件制造商合作合同
甲方:XXX乙方:XXX20XXCOUNTRACTCOVER专业合同封面RESUME甲方:XXX乙方:XXX20XXCOUNTRACTCOVER专业合同封面RESUMEPERSONAL
adb命令刷机vivox20_刷机常用adb命令及刷recovery脚本
刷机得多次进到rec与fastboot模式,不想按组合按键可以用命令。前提你得有工具包,手机上打开usb调试模式。adb reboot   重启adb reboot recovery  重启至recoveryadb reboot bootloader  重启至fastboot模式fastboot下刷入
iAd框架详细解析 —— ASM
iAd框架在应用的用户界面的专用部分显示广告。 当用户查看或点击广告时收到收入。接下来几篇我们就一起看一下这个框架。感兴趣的可以看下面几篇文章。1. iAd框架详细解析(一) —— 基本概览(一) 1. 什么是ASM
11月21日专场招聘会报道
“在开展国际贸易工作中,有很多的场合,需要外贸人员介绍企业和产品,并说服客户接受你的产品;有很多的买卖双方的谈判需要外贸人员参与。因此,良好的语言表现力是一个合格外贸人员的重要条件之一。”一位外贸公司的招聘负责人如是说。11
336期[源代者]今晚3d精准直选一注
336期[源代者]今晚3d精准直选一注回顾上期开奖号码:593回顾上期形态:组六形态, 大小形态为大大小,大小比为2:1,奇偶形态为奇奇奇,质合形态为质合质,质合比为:2:1,和值为17点,和尾为7点,跨度为6。独胆推荐:7双胆推荐:57三胆推荐:157杀
相关文章
推荐文章
发表评论
0评