Java开发者指南通过HTTP Client调用LiuJuan模型REST API如果你是一名Java后端开发者正在寻找一种可靠、高效的方式来集成AI模型能力那么直接调用REST API可能是最直接的选择。今天我们就来聊聊如何用你熟悉的Java HTTP客户端去调用部署在星图GPU平台上的LiuJuan模型API。想象一下你的应用需要智能文本生成、图片理解或者内容创作能力但你又不想在本地维护复杂的模型推理环境。通过HTTP API调用你就能像调用任何一个外部服务一样轻松获得这些AI能力。整个过程和你调用支付接口、发送短信验证码没有本质区别只是请求体和响应体里装的是AI模型能理解的“语言”。这篇文章会手把手带你走通整个流程从环境准备到代码实战再到异常处理和性能优化。我们会用到像OkHttp、Spring的RestTemplate这些你可能已经很熟悉的工具。不用担心即使你对AI模型内部原理了解不多也能跟着步骤把服务集成起来。1. 环境准备与项目搭建在开始写代码之前我们需要先把“舞台”搭好。这里假设你已经在星图GPU平台上部署好了LiuJuan模型并且拿到了访问它的API地址和密钥。这个地址通常长这样https://your-model-endpoint.csdn.net/v1/chat/completions。1.1 创建项目与引入依赖你可以使用Maven或者Gradle来管理项目。这里以Maven为例创建一个标准的Spring Boot项目或者一个普通的Java项目都可以。关键在于引入HTTP客户端的依赖。如果你选择使用OkHttp它是一个非常轻量且高效的HTTP客户端库在Maven的pom.xml里添加dependency groupIdcom.squareup.okhttp3/groupId artifactIdokhttp/artifactId version4.12.0/version !-- 请使用最新稳定版 -- /dependency !-- 如果需要JSON处理可以引入Gson或Jackson -- dependency groupIdcom.google.code.gson/groupId artifactIdgson/artifactId version2.10.1/version /dependency如果你更习惯使用Spring生态项目本身可能已经包含了spring-boot-starter-web它自带了RestTemplate。确保你的依赖中包含它即可。1.2 配置API访问信息最好不要把API地址和密钥硬编码在代码里。一个常见的做法是放在配置文件里比如application.properties或application.yml。在application.properties中配置# LiuJuan模型API配置 liujuan.api.endpointhttps://your-model-endpoint.csdn.net/v1/chat/completions liujuan.api.keyyour-api-key-here # 连接超时和读取超时设置单位毫秒 liujuan.api.connect-timeout10000 liujuan.api.read-timeout30000然后我们可以创建一个配置类来读取这些属性import org.springframework.boot.context.properties.ConfigurationProperties; import org.springframework.context.annotation.Configuration; Configuration ConfigurationProperties(prefix liujuan.api) public class LiuJuanApiConfig { private String endpoint; private String key; private Integer connectTimeout; private Integer readTimeout; // 省略getter和setter方法 }准备工作就绪接下来我们进入核心的代码实战环节。2. 构建请求与模型对话的基础调用AI模型的API本质上就是向一个特定的URL发送一个结构化的HTTP POST请求。这个请求体Request Body必须遵循模型提供方定义的格式。对于类似LiuJuan这样的对话模型最常见的格式是模仿OpenAI的Chat Completion API。2.1 定义请求与响应数据结构首先我们需要用Java类来定义请求和响应的结构。这能让我们的代码更清晰也便于使用JSON库进行序列化和反序列化。请求体对象通常包含模型名称、消息列表、生成参数等。import java.util.List; public class ChatCompletionRequest { // 模型标识符根据你部署的模型填写例如 liujuan-7b-chat private String model; // 对话消息列表 private ListMessage messages; // 生成温度控制随机性 (0.0 ~ 2.0) private Double temperature 0.7; // 最大生成长度token数 private Integer maxTokens 1024; // 静态内部类表示单条消息 public static class Message { private String role; // system, user, assistant private String content; // 快速创建消息的静态方法 public static Message of(String role, String content) { Message msg new Message(); msg.setRole(role); msg.setContent(content); return msg; } // 省略getter和setter } // 省略getter和setter }响应体对象用于接收API返回的结果。import java.util.List; public class ChatCompletionResponse { private String id; private String object; private Long created; private String model; private ListChoice choices; private Usage usage; public static class Choice { private Integer index; private Message message; // 复用请求体里的Message类 private String finishReason; // 省略getter和setter } public static class Usage { private Integer promptTokens; private Integer completionTokens; private Integer totalTokens; // 省略getter和setter } // 省略getter和setter }2.2 使用OkHttp发送请求有了数据结构我们就可以用OkHttp来组装和发送请求了。下面的LiuJuanApiClient类封装了核心的调用逻辑。import com.google.gson.Gson; import okhttp3.*; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Component; import java.io.IOException; import java.util.concurrent.TimeUnit; Component public class LiuJuanApiClient { private final OkHttpClient httpClient; private final LiuJuanApiConfig apiConfig; private final Gson gson new Gson(); Autowired public LiuJuanApiClient(LiuJuanApiConfig apiConfig) { this.apiConfig apiConfig; // 构建OkHttpClient并设置超时时间 this.httpClient new OkHttpClient.Builder() .connectTimeout(apiConfig.getConnectTimeout(), TimeUnit.MILLISECONDS) .readTimeout(apiConfig.getReadTimeout(), TimeUnit.MILLISECONDS) .build(); } /** * 发送文本对话请求 * param request 对话请求对象 * return 模型响应对象 * throws IOException 网络或IO异常 */ public ChatCompletionResponse chatCompletion(ChatCompletionRequest request) throws IOException { // 1. 将请求对象转换为JSON字符串 String requestBodyJson gson.toJson(request); // 2. 构建HTTP请求 Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint()) .post(RequestBody.create(requestBodyJson, MediaType.get(application/json))) .addHeader(Authorization, Bearer apiConfig.getKey()) // 添加认证头 .addHeader(Content-Type, application/json) .build(); // 3. 发送同步请求并获取响应 try (Response response httpClient.newCall(httpRequest).execute()) { if (!response.isSuccessful()) { // 处理HTTP错误例如401未授权429限流500服务器错误等 throw new IOException(Unexpected code response , body: response.body().string()); } // 4. 解析响应体JSON String responseBody response.body().string(); return gson.fromJson(responseBody, ChatCompletionResponse.class); } } }2.3 一个完整的调用示例让我们写一个简单的Service类看看如何实际使用上面的客户端。import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Service; import java.util.Arrays; Service public class AIChatService { Autowired private LiuJuanApiClient apiClient; public String getAIResponse(String userQuestion) { try { // 1. 构建请求 ChatCompletionRequest request new ChatCompletionRequest(); request.setModel(liujuan-7b-chat); // 构建对话历史。system消息用于设定AI角色user消息是用户输入 request.setMessages(Arrays.asList( ChatCompletionRequest.Message.of(system, 你是一个乐于助人的AI助手。), ChatCompletionRequest.Message.of(user, userQuestion) )); request.setTemperature(0.8); request.setMaxTokens(500); // 2. 调用API ChatCompletionResponse response apiClient.chatCompletion(request); // 3. 提取AI的回复 if (response.getChoices() ! null !response.getChoices().isEmpty()) { return response.getChoices().get(0).getMessage().getContent(); } else { return 抱歉AI没有返回有效回复。; } } catch (Exception e) { // 在实际项目中这里应该进行更细致的异常处理或重试 e.printStackTrace(); return 调用AI服务时发生错误: e.getMessage(); } } }现在你可以在Controller里注入这个AIChatService当用户发送一个问题时就能获得LiuJuan模型的智能回复了。整个过程是不是和你调用其他第三方服务很像3. 处理复杂场景文件上传与流式响应基础的文本对话只是开始。很多AI模型特别是多模态模型支持图片、文档等文件输入并且为了更好的用户体验还支持流式响应Streaming让回复像打字一样一个个词地显示出来。3.1 使用Multipart请求上传文件假设LiuJuan模型支持“图文对话”你需要上传一张图片并向模型提问。这需要构建一个multipart/form-data类型的请求。我们需要扩展之前的LiuJuanApiClient增加一个处理文件上传的方法。这里的关键是使用OkHttp的MultipartBody。// 在 LiuJuanApiClient 类中添加以下方法 public ChatCompletionResponse visionChat(String userQuestion, File imageFile) throws IOException { // 1. 构建Multipart请求体 MultipartBody.Builder bodyBuilder new MultipartBody.Builder() .setType(MultipartBody.FORM) .addFormDataPart(model, liujuan-vision) // 假设是多模态模型名称 .addFormDataPart(messages, [{\role\:\user\, \content\:\ userQuestion \}]) // 简化处理实际应序列化对象 .addFormDataPart(temperature, 0.7); // 2. 添加图片文件部分 if (imageFile ! null imageFile.exists()) { bodyBuilder.addFormDataPart(image, imageFile.getName(), RequestBody.create(imageFile, MediaType.get(image/jpeg))); // 根据实际图片类型调整MediaType } RequestBody requestBody bodyBuilder.build(); // 3. 构建并发送请求 Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint() /vision) // 假设视觉API有单独端点 .post(requestBody) .addHeader(Authorization, Bearer apiConfig.getKey()) .build(); try (Response response httpClient.newCall(httpRequest).execute()) { if (!response.isSuccessful()) { throw new IOException(Vision API call failed: response); } String responseBody response.body().string(); return gson.fromJson(responseBody, ChatCompletionResponse.class); } }3.2 处理流式响应Server-Sent Events流式响应能极大提升交互体验。模型会以SSEServer-Sent Events格式返回数据即一段一段的JSON数据流。我们需要逐步读取并解析这些数据块。OkHttp支持通过Callback进行异步调用并可以处理流式响应体。下面是一个处理流式响应的示例// 在 LiuJuanApiClient 类中添加流式调用方法 public void streamChatCompletion(ChatCompletionRequest request, StreamCallback callback) throws IOException { request.setStream(true); // 假设请求对象有一个stream字段用于开启流式输出 String requestBodyJson gson.toJson(request); Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint()) .post(RequestBody.create(requestBodyJson, MediaType.get(application/json))) .addHeader(Authorization, Bearer apiConfig.getKey()) .addHeader(Accept, text/event-stream) // 声明接受SSE流 .build(); // 使用newCall并处理响应流 httpClient.newCall(httpRequest).enqueue(new Callback() { Override public void onFailure(Call call, IOException e) { callback.onError(e); } Override public void onResponse(Call call, Response response) throws IOException { if (!response.isSuccessful()) { callback.onError(new IOException(Stream call failed: response)); return; } try (ResponseBody responseBody response.body()) { if (responseBody ! null) { // 使用BufferedReader逐行读取SSE流 BufferedReader reader new BufferedReader(responseBody.charStream()); String line; while ((line reader.readLine()) ! null) { if (line.startsWith(data: )) { String data line.substring(6).trim(); if ([DONE].equals(data)) { callback.onComplete(); break; } // 解析每一块数据 ChatCompletionResponse chunk gson.fromJson(data, ChatCompletionResponse.class); if (chunk.getChoices() ! null !chunk.getChoices().isEmpty()) { String deltaContent chunk.getChoices().get(0).getDelta().getContent(); // 假设响应结构中有delta字段 if (deltaContent ! null) { callback.onChunk(deltaContent); } } } } } } catch (Exception e) { callback.onError(e); } } }); } // 定义一个回调接口用于处理流式数据 public interface StreamCallback { void onChunk(String contentDelta); // 收到一个数据块 void onError(Exception e); // 发生错误 void onComplete(); // 流结束 }在你的业务代码中你可以这样使用流式调用apiClient.streamChatCompletion(request, new LiuJuanApiClient.StreamCallback() { StringBuilder fullResponse new StringBuilder(); Override public void onChunk(String contentDelta) { // 收到一个词或一段话可以实时推送给前端如通过WebSocket fullResponse.append(contentDelta); System.out.print(contentDelta); // 模拟实时输出 } Override public void onError(Exception e) { System.err.println(流式请求出错: e.getMessage()); } Override public void onComplete() { System.out.println(\n\n 生成完毕 ); System.out.println(完整回复: fullResponse.toString()); } });4. 进阶话题异常处理、重试与连接池在生产环境中网络调用充满了不确定性。一个健壮的集成方案必须考虑错误处理、重试机制和资源管理。4.1 精细化异常处理API调用可能失败原因多种多样网络超时、认证失败、模型过载、输入格式错误等。我们需要区分这些情况并做相应处理。我们可以定义一个自定义的业务异常并完善客户端的错误处理逻辑。// 自定义异常类 public class LiuJuanApiException extends RuntimeException { private final int httpStatus; private final String errorBody; public LiuJuanApiException(int httpStatus, String message, String errorBody) { super(String.format(API Error [%d]: %s, httpStatus, message)); this.httpStatus httpStatus; this.errorBody errorBody; } // 省略getter } // 在 LiuJuanApiClient 的 chatCompletion 方法中改进错误处理 public ChatCompletionResponse chatCompletion(ChatCompletionRequest request) throws LiuJuanApiException, IOException { String requestBodyJson gson.toJson(request); Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint()) .post(RequestBody.create(requestBodyJson, MediaType.get(application/json))) .addHeader(Authorization, Bearer apiConfig.getKey()) .addHeader(Content-Type, application/json) .build(); try (Response response httpClient.newCall(httpRequest).execute()) { String responseBody response.body().string(); if (!response.isSuccessful()) { // 根据HTTP状态码抛出更具体的异常 int code response.code(); String message HTTP code; if (code 401) { message API密钥无效或过期; } else if (code 429) { message 请求过于频繁请稍后重试; } else if (code 500) { message 模型服务端内部错误; } throw new LiuJuanApiException(code, message, responseBody); } return gson.fromJson(responseBody, ChatCompletionResponse.class); } catch (IOException e) { // 网络层面的异常如超时、连接断开 throw new IOException(网络通信失败: e.getMessage(), e); } }4.2 实现重试机制对于瞬时的网络故障或服务端过载返回429或5xx错误重试是一个有效的策略。我们可以使用OkHttp的拦截器Interceptor来实现一个简单的重试逻辑。// 重试拦截器 public class RetryInterceptor implements Interceptor { private final int maxRetries; public RetryInterceptor(int maxRetries) { this.maxRetries maxRetries; } Override public Response intercept(Chain chain) throws IOException { Request request chain.request(); Response response null; IOException exception null; // 重试循环 for (int retryCount 0; retryCount maxRetries; retryCount) { if (retryCount 0) { // 非第一次请求等待一段时间再重试指数退避 try { Thread.sleep((long) (Math.pow(2, retryCount - 1) * 1000)); // 1s, 2s, 4s... } catch (InterruptedException e) { Thread.currentThread().interrupt(); throw new IOException(重试被中断, e); } System.out.println(重试请求 ( retryCount / maxRetries )...); } try { response chain.proceed(request); int code response.code(); // 只对特定状态码重试例如429(限流)502/503/504(网关/服务不可用) if (code 429 || code 502 || code 503 || code 504) { response.close(); // 关闭当前响应体 if (retryCount maxRetries) { break; // 达到最大重试次数跳出循环 } continue; // 继续重试 } // 请求成功或不是可重试的错误则返回响应 return response; } catch (IOException e) { exception e; // 网络IO异常进行重试 if (retryCount maxRetries) { break; } } } // 所有重试都失败 if (response ! null) { throw new IOException(请求失败最终状态码: response.code(), exception); } else { throw exception ! null ? exception : new IOException(请求失败); } } }然后在构建OkHttpClient时添加这个拦截器this.httpClient new OkHttpClient.Builder() .connectTimeout(apiConfig.getConnectTimeout(), TimeUnit.MILLISECONDS) .readTimeout(apiConfig.getReadTimeout(), TimeUnit.MILLISECONDS) .addInterceptor(new RetryInterceptor(3)) // 最大重试3次 .build();4.3 配置连接池与超时对于高频调用的服务合理配置HTTP连接池可以显著提升性能。OkHttp默认已经使用了连接池但我们可以根据需求调整参数。// 更详细的OkHttpClient配置 ConnectionPool connectionPool new ConnectionPool(5, 5, TimeUnit.MINUTES); // 最大空闲连接数5保持5分钟 this.httpClient new OkHttpClient.Builder() .connectTimeout(15, TimeUnit.SECONDS) // 连接超时 .writeTimeout(30, TimeUnit.SECONDS) // 写入超时发送请求体 .readTimeout(60, TimeUnit.SECONDS) // 读取超时等待响应对于大模型生成可以设长一些 .connectionPool(connectionPool) .addInterceptor(new RetryInterceptor(3)) // 还可以添加日志拦截器方便调试注意生产环境慎用 // .addInterceptor(new HttpLoggingInterceptor().setLevel(HttpLoggingInterceptor.Level.BASIC)) .build();5. 总结与建议走完这一趟你会发现用Java调用AI模型API和你集成其他任何RESTful服务在技术层面上是相通的。核心无非是构建正确的请求、处理响应、管理好连接和异常。LiuJuan模型通过标准的HTTP接口提供服务这大大降低了集成的门槛。在实际项目中有几点经验值得分享。首先超时时间的设置需要谨慎文本生成可能很快但生成一张高分辨率图片或一段长视频可能需要几十秒甚至更久要根据你调用的具体功能来调整readTimeout。其次API密钥的管理一定要做好不要泄露在代码仓库或日志里使用配置中心或环境变量是更安全的选择。最后监控和日志很重要记录每次调用的耗时、token使用量以及是否成功这对后续的成本分析和故障排查非常有帮助。如果调用量很大你可能会遇到限流返回429状态码这时候除了重试可能还需要在业务层设计一个简单的请求队列或速率限制器。对于追求极致性能的场景可以考虑使用异步非阻塞的客户端比如基于Netty的或者Spring WebClient但这会引入额外的复杂度需要权衡。总的来说把AI能力当作一个微服务来调用是当前很多团队快速落地AI应用的有效路径。希望这篇指南能帮你顺利起步剩下的就是结合你的具体业务场景去设计和实现更精彩的AI功能了。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
Java开发者指南：通过HTTP Client调用LiuJuan模型REST API
Java开发者指南通过HTTP Client调用LiuJuan模型REST API如果你是一名Java后端开发者正在寻找一种可靠、高效的方式来集成AI模型能力那么直接调用REST API可能是最直接的选择。今天我们就来聊聊如何用你熟悉的Java HTTP客户端去调用部署在星图GPU平台上的LiuJuan模型API。想象一下你的应用需要智能文本生成、图片理解或者内容创作能力但你又不想在本地维护复杂的模型推理环境。通过HTTP API调用你就能像调用任何一个外部服务一样轻松获得这些AI能力。整个过程和你调用支付接口、发送短信验证码没有本质区别只是请求体和响应体里装的是AI模型能理解的“语言”。这篇文章会手把手带你走通整个流程从环境准备到代码实战再到异常处理和性能优化。我们会用到像OkHttp、Spring的RestTemplate这些你可能已经很熟悉的工具。不用担心即使你对AI模型内部原理了解不多也能跟着步骤把服务集成起来。1. 环境准备与项目搭建在开始写代码之前我们需要先把“舞台”搭好。这里假设你已经在星图GPU平台上部署好了LiuJuan模型并且拿到了访问它的API地址和密钥。这个地址通常长这样https://your-model-endpoint.csdn.net/v1/chat/completions。1.1 创建项目与引入依赖你可以使用Maven或者Gradle来管理项目。这里以Maven为例创建一个标准的Spring Boot项目或者一个普通的Java项目都可以。关键在于引入HTTP客户端的依赖。如果你选择使用OkHttp它是一个非常轻量且高效的HTTP客户端库在Maven的pom.xml里添加dependency groupIdcom.squareup.okhttp3/groupId artifactIdokhttp/artifactId version4.12.0/version !-- 请使用最新稳定版 -- /dependency !-- 如果需要JSON处理可以引入Gson或Jackson -- dependency groupIdcom.google.code.gson/groupId artifactIdgson/artifactId version2.10.1/version /dependency如果你更习惯使用Spring生态项目本身可能已经包含了spring-boot-starter-web它自带了RestTemplate。确保你的依赖中包含它即可。1.2 配置API访问信息最好不要把API地址和密钥硬编码在代码里。一个常见的做法是放在配置文件里比如application.properties或application.yml。在application.properties中配置# LiuJuan模型API配置 liujuan.api.endpointhttps://your-model-endpoint.csdn.net/v1/chat/completions liujuan.api.keyyour-api-key-here # 连接超时和读取超时设置单位毫秒 liujuan.api.connect-timeout10000 liujuan.api.read-timeout30000然后我们可以创建一个配置类来读取这些属性import org.springframework.boot.context.properties.ConfigurationProperties; import org.springframework.context.annotation.Configuration; Configuration ConfigurationProperties(prefix liujuan.api) public class LiuJuanApiConfig { private String endpoint; private String key; private Integer connectTimeout; private Integer readTimeout; // 省略getter和setter方法 }准备工作就绪接下来我们进入核心的代码实战环节。2. 构建请求与模型对话的基础调用AI模型的API本质上就是向一个特定的URL发送一个结构化的HTTP POST请求。这个请求体Request Body必须遵循模型提供方定义的格式。对于类似LiuJuan这样的对话模型最常见的格式是模仿OpenAI的Chat Completion API。2.1 定义请求与响应数据结构首先我们需要用Java类来定义请求和响应的结构。这能让我们的代码更清晰也便于使用JSON库进行序列化和反序列化。请求体对象通常包含模型名称、消息列表、生成参数等。import java.util.List; public class ChatCompletionRequest { // 模型标识符根据你部署的模型填写例如 liujuan-7b-chat private String model; // 对话消息列表 private ListMessage messages; // 生成温度控制随机性 (0.0 ~ 2.0) private Double temperature 0.7; // 最大生成长度token数 private Integer maxTokens 1024; // 静态内部类表示单条消息 public static class Message { private String role; // system, user, assistant private String content; // 快速创建消息的静态方法 public static Message of(String role, String content) { Message msg new Message(); msg.setRole(role); msg.setContent(content); return msg; } // 省略getter和setter } // 省略getter和setter }响应体对象用于接收API返回的结果。import java.util.List; public class ChatCompletionResponse { private String id; private String object; private Long created; private String model; private ListChoice choices; private Usage usage; public static class Choice { private Integer index; private Message message; // 复用请求体里的Message类 private String finishReason; // 省略getter和setter } public static class Usage { private Integer promptTokens; private Integer completionTokens; private Integer totalTokens; // 省略getter和setter } // 省略getter和setter }2.2 使用OkHttp发送请求有了数据结构我们就可以用OkHttp来组装和发送请求了。下面的LiuJuanApiClient类封装了核心的调用逻辑。import com.google.gson.Gson; import okhttp3.*; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Component; import java.io.IOException; import java.util.concurrent.TimeUnit; Component public class LiuJuanApiClient { private final OkHttpClient httpClient; private final LiuJuanApiConfig apiConfig; private final Gson gson new Gson(); Autowired public LiuJuanApiClient(LiuJuanApiConfig apiConfig) { this.apiConfig apiConfig; // 构建OkHttpClient并设置超时时间 this.httpClient new OkHttpClient.Builder() .connectTimeout(apiConfig.getConnectTimeout(), TimeUnit.MILLISECONDS) .readTimeout(apiConfig.getReadTimeout(), TimeUnit.MILLISECONDS) .build(); } /** * 发送文本对话请求 * param request 对话请求对象 * return 模型响应对象 * throws IOException 网络或IO异常 */ public ChatCompletionResponse chatCompletion(ChatCompletionRequest request) throws IOException { // 1. 将请求对象转换为JSON字符串 String requestBodyJson gson.toJson(request); // 2. 构建HTTP请求 Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint()) .post(RequestBody.create(requestBodyJson, MediaType.get(application/json))) .addHeader(Authorization, Bearer apiConfig.getKey()) // 添加认证头 .addHeader(Content-Type, application/json) .build(); // 3. 发送同步请求并获取响应 try (Response response httpClient.newCall(httpRequest).execute()) { if (!response.isSuccessful()) { // 处理HTTP错误例如401未授权429限流500服务器错误等 throw new IOException(Unexpected code response , body: response.body().string()); } // 4. 解析响应体JSON String responseBody response.body().string(); return gson.fromJson(responseBody, ChatCompletionResponse.class); } } }2.3 一个完整的调用示例让我们写一个简单的Service类看看如何实际使用上面的客户端。import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Service; import java.util.Arrays; Service public class AIChatService { Autowired private LiuJuanApiClient apiClient; public String getAIResponse(String userQuestion) { try { // 1. 构建请求 ChatCompletionRequest request new ChatCompletionRequest(); request.setModel(liujuan-7b-chat); // 构建对话历史。system消息用于设定AI角色user消息是用户输入 request.setMessages(Arrays.asList( ChatCompletionRequest.Message.of(system, 你是一个乐于助人的AI助手。), ChatCompletionRequest.Message.of(user, userQuestion) )); request.setTemperature(0.8); request.setMaxTokens(500); // 2. 调用API ChatCompletionResponse response apiClient.chatCompletion(request); // 3. 提取AI的回复 if (response.getChoices() ! null !response.getChoices().isEmpty()) { return response.getChoices().get(0).getMessage().getContent(); } else { return 抱歉AI没有返回有效回复。; } } catch (Exception e) { // 在实际项目中这里应该进行更细致的异常处理或重试 e.printStackTrace(); return 调用AI服务时发生错误: e.getMessage(); } } }现在你可以在Controller里注入这个AIChatService当用户发送一个问题时就能获得LiuJuan模型的智能回复了。整个过程是不是和你调用其他第三方服务很像3. 处理复杂场景文件上传与流式响应基础的文本对话只是开始。很多AI模型特别是多模态模型支持图片、文档等文件输入并且为了更好的用户体验还支持流式响应Streaming让回复像打字一样一个个词地显示出来。3.1 使用Multipart请求上传文件假设LiuJuan模型支持“图文对话”你需要上传一张图片并向模型提问。这需要构建一个multipart/form-data类型的请求。我们需要扩展之前的LiuJuanApiClient增加一个处理文件上传的方法。这里的关键是使用OkHttp的MultipartBody。// 在 LiuJuanApiClient 类中添加以下方法 public ChatCompletionResponse visionChat(String userQuestion, File imageFile) throws IOException { // 1. 构建Multipart请求体 MultipartBody.Builder bodyBuilder new MultipartBody.Builder() .setType(MultipartBody.FORM) .addFormDataPart(model, liujuan-vision) // 假设是多模态模型名称 .addFormDataPart(messages, [{\role\:\user\, \content\:\ userQuestion \}]) // 简化处理实际应序列化对象 .addFormDataPart(temperature, 0.7); // 2. 添加图片文件部分 if (imageFile ! null imageFile.exists()) { bodyBuilder.addFormDataPart(image, imageFile.getName(), RequestBody.create(imageFile, MediaType.get(image/jpeg))); // 根据实际图片类型调整MediaType } RequestBody requestBody bodyBuilder.build(); // 3. 构建并发送请求 Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint() /vision) // 假设视觉API有单独端点 .post(requestBody) .addHeader(Authorization, Bearer apiConfig.getKey()) .build(); try (Response response httpClient.newCall(httpRequest).execute()) { if (!response.isSuccessful()) { throw new IOException(Vision API call failed: response); } String responseBody response.body().string(); return gson.fromJson(responseBody, ChatCompletionResponse.class); } }3.2 处理流式响应Server-Sent Events流式响应能极大提升交互体验。模型会以SSEServer-Sent Events格式返回数据即一段一段的JSON数据流。我们需要逐步读取并解析这些数据块。OkHttp支持通过Callback进行异步调用并可以处理流式响应体。下面是一个处理流式响应的示例// 在 LiuJuanApiClient 类中添加流式调用方法 public void streamChatCompletion(ChatCompletionRequest request, StreamCallback callback) throws IOException { request.setStream(true); // 假设请求对象有一个stream字段用于开启流式输出 String requestBodyJson gson.toJson(request); Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint()) .post(RequestBody.create(requestBodyJson, MediaType.get(application/json))) .addHeader(Authorization, Bearer apiConfig.getKey()) .addHeader(Accept, text/event-stream) // 声明接受SSE流 .build(); // 使用newCall并处理响应流 httpClient.newCall(httpRequest).enqueue(new Callback() { Override public void onFailure(Call call, IOException e) { callback.onError(e); } Override public void onResponse(Call call, Response response) throws IOException { if (!response.isSuccessful()) { callback.onError(new IOException(Stream call failed: response)); return; } try (ResponseBody responseBody response.body()) { if (responseBody ! null) { // 使用BufferedReader逐行读取SSE流 BufferedReader reader new BufferedReader(responseBody.charStream()); String line; while ((line reader.readLine()) ! null) { if (line.startsWith(data: )) { String data line.substring(6).trim(); if ([DONE].equals(data)) { callback.onComplete(); break; } // 解析每一块数据 ChatCompletionResponse chunk gson.fromJson(data, ChatCompletionResponse.class); if (chunk.getChoices() ! null !chunk.getChoices().isEmpty()) { String deltaContent chunk.getChoices().get(0).getDelta().getContent(); // 假设响应结构中有delta字段 if (deltaContent ! null) { callback.onChunk(deltaContent); } } } } } } catch (Exception e) { callback.onError(e); } } }); } // 定义一个回调接口用于处理流式数据 public interface StreamCallback { void onChunk(String contentDelta); // 收到一个数据块 void onError(Exception e); // 发生错误 void onComplete(); // 流结束 }在你的业务代码中你可以这样使用流式调用apiClient.streamChatCompletion(request, new LiuJuanApiClient.StreamCallback() { StringBuilder fullResponse new StringBuilder(); Override public void onChunk(String contentDelta) { // 收到一个词或一段话可以实时推送给前端如通过WebSocket fullResponse.append(contentDelta); System.out.print(contentDelta); // 模拟实时输出 } Override public void onError(Exception e) { System.err.println(流式请求出错: e.getMessage()); } Override public void onComplete() { System.out.println(\n\n 生成完毕 ); System.out.println(完整回复: fullResponse.toString()); } });4. 进阶话题异常处理、重试与连接池在生产环境中网络调用充满了不确定性。一个健壮的集成方案必须考虑错误处理、重试机制和资源管理。4.1 精细化异常处理API调用可能失败原因多种多样网络超时、认证失败、模型过载、输入格式错误等。我们需要区分这些情况并做相应处理。我们可以定义一个自定义的业务异常并完善客户端的错误处理逻辑。// 自定义异常类 public class LiuJuanApiException extends RuntimeException { private final int httpStatus; private final String errorBody; public LiuJuanApiException(int httpStatus, String message, String errorBody) { super(String.format(API Error [%d]: %s, httpStatus, message)); this.httpStatus httpStatus; this.errorBody errorBody; } // 省略getter } // 在 LiuJuanApiClient 的 chatCompletion 方法中改进错误处理 public ChatCompletionResponse chatCompletion(ChatCompletionRequest request) throws LiuJuanApiException, IOException { String requestBodyJson gson.toJson(request); Request httpRequest new Request.Builder() .url(apiConfig.getEndpoint()) .post(RequestBody.create(requestBodyJson, MediaType.get(application/json))) .addHeader(Authorization, Bearer apiConfig.getKey()) .addHeader(Content-Type, application/json) .build(); try (Response response httpClient.newCall(httpRequest).execute()) { String responseBody response.body().string(); if (!response.isSuccessful()) { // 根据HTTP状态码抛出更具体的异常 int code response.code(); String message HTTP code; if (code 401) { message API密钥无效或过期; } else if (code 429) { message 请求过于频繁请稍后重试; } else if (code 500) { message 模型服务端内部错误; } throw new LiuJuanApiException(code, message, responseBody); } return gson.fromJson(responseBody, ChatCompletionResponse.class); } catch (IOException e) { // 网络层面的异常如超时、连接断开 throw new IOException(网络通信失败: e.getMessage(), e); } }4.2 实现重试机制对于瞬时的网络故障或服务端过载返回429或5xx错误重试是一个有效的策略。我们可以使用OkHttp的拦截器Interceptor来实现一个简单的重试逻辑。// 重试拦截器 public class RetryInterceptor implements Interceptor { private final int maxRetries; public RetryInterceptor(int maxRetries) { this.maxRetries maxRetries; } Override public Response intercept(Chain chain) throws IOException { Request request chain.request(); Response response null; IOException exception null; // 重试循环 for (int retryCount 0; retryCount maxRetries; retryCount) { if (retryCount 0) { // 非第一次请求等待一段时间再重试指数退避 try { Thread.sleep((long) (Math.pow(2, retryCount - 1) * 1000)); // 1s, 2s, 4s... } catch (InterruptedException e) { Thread.currentThread().interrupt(); throw new IOException(重试被中断, e); } System.out.println(重试请求 ( retryCount / maxRetries )...); } try { response chain.proceed(request); int code response.code(); // 只对特定状态码重试例如429(限流)502/503/504(网关/服务不可用) if (code 429 || code 502 || code 503 || code 504) { response.close(); // 关闭当前响应体 if (retryCount maxRetries) { break; // 达到最大重试次数跳出循环 } continue; // 继续重试 } // 请求成功或不是可重试的错误则返回响应 return response; } catch (IOException e) { exception e; // 网络IO异常进行重试 if (retryCount maxRetries) { break; } } } // 所有重试都失败 if (response ! null) { throw new IOException(请求失败最终状态码: response.code(), exception); } else { throw exception ! null ? exception : new IOException(请求失败); } } }然后在构建OkHttpClient时添加这个拦截器this.httpClient new OkHttpClient.Builder() .connectTimeout(apiConfig.getConnectTimeout(), TimeUnit.MILLISECONDS) .readTimeout(apiConfig.getReadTimeout(), TimeUnit.MILLISECONDS) .addInterceptor(new RetryInterceptor(3)) // 最大重试3次 .build();4.3 配置连接池与超时对于高频调用的服务合理配置HTTP连接池可以显著提升性能。OkHttp默认已经使用了连接池但我们可以根据需求调整参数。// 更详细的OkHttpClient配置 ConnectionPool connectionPool new ConnectionPool(5, 5, TimeUnit.MINUTES); // 最大空闲连接数5保持5分钟 this.httpClient new OkHttpClient.Builder() .connectTimeout(15, TimeUnit.SECONDS) // 连接超时 .writeTimeout(30, TimeUnit.SECONDS) // 写入超时发送请求体 .readTimeout(60, TimeUnit.SECONDS) // 读取超时等待响应对于大模型生成可以设长一些 .connectionPool(connectionPool) .addInterceptor(new RetryInterceptor(3)) // 还可以添加日志拦截器方便调试注意生产环境慎用 // .addInterceptor(new HttpLoggingInterceptor().setLevel(HttpLoggingInterceptor.Level.BASIC)) .build();5. 总结与建议走完这一趟你会发现用Java调用AI模型API和你集成其他任何RESTful服务在技术层面上是相通的。核心无非是构建正确的请求、处理响应、管理好连接和异常。LiuJuan模型通过标准的HTTP接口提供服务这大大降低了集成的门槛。在实际项目中有几点经验值得分享。首先超时时间的设置需要谨慎文本生成可能很快但生成一张高分辨率图片或一段长视频可能需要几十秒甚至更久要根据你调用的具体功能来调整readTimeout。其次API密钥的管理一定要做好不要泄露在代码仓库或日志里使用配置中心或环境变量是更安全的选择。最后监控和日志很重要记录每次调用的耗时、token使用量以及是否成功这对后续的成本分析和故障排查非常有帮助。如果调用量很大你可能会遇到限流返回429状态码这时候除了重试可能还需要在业务层设计一个简单的请求队列或速率限制器。对于追求极致性能的场景可以考虑使用异步非阻塞的客户端比如基于Netty的或者Spring WebClient但这会引入额外的复杂度需要权衡。总的来说把AI能力当作一个微服务来调用是当前很多团队快速落地AI应用的有效路径。希望这篇指南能帮你顺利起步剩下的就是结合你的具体业务场景去设计和实现更精彩的AI功能了。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
