spring AI集成大模型(一)

多客科技

作者：微信文章
上一篇文章我们介绍了如何本地搭建大模型，接下来如何在项目中集成大模型，市面上有两种一种是langChain4j另一种就是spring AI,关于这两者区别，这边网上找了个截图，如下：

我们还是采用了spring AI框架来实现，老步骤，首先还是引入依赖，我们只需要引入deepseek依赖即可，如下：<dependency>    <groupId>org.springframework.ai</groupId>    <artifactId>spring-ai-starter-model-deepseek</artifactId>    <version>1.1.0-M1</version></dependency>剩下的，spring ai都帮我们集成好了各大模型依赖，只需要有这个就行：

spring-ai-bom就把它理解为是一个装好的物料，然后就是配置文件里配置deepseek的配置：
spring.ai.deepseek.api-key=自己的keyspring.ai.chat.options.model=deepseek-chatspring.ai.chat.options.temperature=0.7spring.ai.deepseek.base-url=https://api.deepseek.com如果是yml则如下：

其中key是必填，base-url,model,temperature则是不填的话会有默认值，这里base-url需要提示的就是，如果是使用国外大模型，需要中转这种的话，base-url就是必填，如果是使用国内大模型就可以不填使用默认值。依赖引入了，配置也配置了，接下来上test，进行简单的集成调用。这里附上测试代码：



然后我们看下输出结果：

就不一一贴出来了运行结果图，然后这里遇到的问题也讲下，首次运行的时候报402，错误信息如下：TTP 402 - {"error": {"message":"Insufficient Balance","type":"unknown_error","param":null,"code":"invalid_request_error"}}这种的，就是要充值了，deepseek网页版的对话是免费的，但是api调用是收费的，按token来的，只有充值后才能调用deepseek的api，如下：

充完后这里会提示有少，然后我们再来调用api就可以正常的返回结果了。注意的是，我们这里是调用线上的大模型的api，如果是采用上一篇文章本地搭建大模型介绍的下载部署本地大模型则不需要这个步骤。这里只是介绍了非常简单的怎么集成deepseek然后调用，至于是怎么发起调用的，我们通过源码来介绍下：




在springboot2版本前，发起请求是通过httpClient，在springboot3开始之后就是通过restClient,如图片所示，结合deepseek官方文档给出的curl示例，接下来看下这个

call方法里有一个internaCall，好了，到这里我们就知道了，当我们调用Call方法的时候，spring ai已经帮我们封装好了这个里面的请求，最终通过restClient发起请求到deepseek大模型。为了理解，这边也找了一个图辅助说明

总结：当调用chatModel.call时，首先会将提示词解析到Prompt对象中 （用于远程请求的messages）然后调用deepseekModel.call方法，该方法里会进一步调用internalCall方法。通过createRequest封装为远程请求所需的json对象同时通过spring retry 重试机制去远程请求deepseekthis.deepSeekApi.chatCompletionEntity(request)，最后封装响应数据

如上，关于集成deepseek的入门就介绍到这了，下一篇将会继续深入介绍以及后面如何通过rag增强，就和上述中返回体一样按照自定义返回结构体返回数据，