墨语灵犀.NET生态集成指南在C#应用中调用大模型API如果你是一名.NET开发者想把大模型的智能对话能力集成到自己的C#应用里可能会觉得有点无从下手。是直接去研究复杂的模型推理框架还是自己从头封装网络请求其实对于大多数业务场景最直接、最稳定的方式就是通过HTTP API来调用已经部署好的大模型服务。这篇文章我就来和你聊聊怎么在.NET项目里优雅、健壮地调用像“墨语灵犀”这样的大模型API。我们会从最基础的HTTP请求开始一步步讲到企业级应用里必须考虑的身份认证、异步处理和错误重试。看完之后你就能在自己的WinForm、WPF、ASP.NET Core或者任何.NET应用里轻松实现智能对话、文本摘要这些酷炫功能了。1. 准备工作理清思路与获取凭证在动手写代码之前咱们先把两件最重要的事情搞定想清楚要做什么以及拿到进门的“钥匙”。1.1 明确你的集成目标调用API不是目的解决问题才是。先想好你的应用需要大模型做什么。是做一个智能客服机器人还是给内容管理后台加一个自动摘要功能或者是开发一个能辅助写作的插件目标不同后续调用API的参数和处理返回结果的逻辑也会略有差异。对于“墨语灵犀”这类通用对话模型常见的集成场景包括智能问答用户输入问题应用获取并展示模型的回答。内容生成与润色根据关键词或大纲生成文章、邮件、文案或者对现有文本进行改写、扩写。文本摘要将长篇文章、报告自动提炼成核心要点。多轮对话保持上下文实现连贯的聊天体验。想清楚场景有助于我们设计更合理的代码结构。1.2 获取API访问密钥与端点要调用服务你需要两样东西API Base URL服务地址和API Key访问密钥。这就像你要去一个地方既需要知道地址也需要有开门的密码。通常你需要访问模型服务提供商的管理后台或控制台找到API集成或开发者相关的页面。创建一个新的应用或API密钥这个过程一般会生成一个长长的、由字母数字组成的字符串比如sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx这就是你的API Key务必妥善保管不要泄露到客户端代码中。同时你会获得一个API的基础地址Base URL例如https://api.example.com/v1。请将这两个信息保存下来我们接下来会在配置文件中用到它们。切记API Key是最高机密必须通过安全的配置方式管理绝不能硬编码在代码里或提交到代码仓库。2. 项目搭建与基础配置好了现在我们进入实战环节。我假设你正在开发一个ASP.NET Core Web API项目我们将以此为例。控制台应用、桌面应用的核心逻辑是完全相通的。2.1 创建项目与引入包首先用你熟悉的方式Visual Studio, VS Code,dotnet new命令创建一个新的ASP.NET Core Web API项目。然后我们需要一个强大的HTTP客户端来帮助我们与API交互。虽然.NET自带HttpClient但这里我强烈推荐使用Refit或RestSharp这类库它们能让代码更简洁、更优雅。今天我们用Refit来演示因为它通过接口定义请求的方式非常直观。通过NuGet包管理器控制台安装必要的包Install-Package Refit.HttpClientFactory Install-Package Microsoft.Extensions.Http Install-Package Microsoft.Extensions.Configuration Install-Package Microsoft.Extensions.OptionsRefit负责声明式HTTP APIMicrosoft.Extensions.Http和IOptions则是.NET Core依赖注入和配置管理的标准套件。2.2 安全地管理配置把API密钥和地址写在代码里是绝对的大忌。我们应该使用.NET的配置系统。在appsettings.json文件中添加你的配置{ MoyuLingxiApi: { BaseUrl: https://your-api-gateway.com/v1, // 替换为你的真实Base URL ApiKey: sk-your-actual-api-key-here // 替换为你的真实API Key }, // ... 其他配置 }接下来创建一个对应的配置类MoyuLingxiApiOptions用于强类型地读取这些配置// Models/MoyuLingxiApiOptions.cs namespace YourProjectName.Models { public class MoyuLingxiApiOptions { public string BaseUrl { get; set; } string.Empty; public string ApiKey { get; set; } string.Empty; } }在Program.cs中绑定配置并注册服务// Program.cs using YourProjectName.Models; var builder WebApplication.CreateBuilder(args); // 1. 绑定配置到强类型Options类 builder.Services.ConfigureMoyuLingxiApiOptions( builder.Configuration.GetSection(MoyuLingxiApi)); // 2. 注册Refit客户端 builder.Services.AddRefitClientIMoyuLingxiApi() .ConfigureHttpClient((serviceProvider, client) { var options serviceProvider.GetRequiredServiceIOptionsMoyuLingxiApiOptions().Value; client.BaseAddress new Uri(options.BaseUrl); // 设置默认请求头认证 client.DefaultRequestHeaders.Authorization new System.Net.Http.Headers.AuthenticationHeaderValue(Bearer, options.ApiKey); // 可以设置其他公共请求头如User-Agent client.DefaultRequestHeaders.Add(User-Agent, YourAppName/1.0); }) // 配置重试策略可选但推荐 .AddPolicyHandler(GetRetryPolicy()); // ... 其他服务注册这里我们做了几件事绑定配置、注册了一个IMoyuLingxiApi的Refit客户端并为其配置了基础地址和认证头。认证方式通常是Bearer Token即将API Key放在Authorization请求头中。2.3 定义API接口契约这是Refit的精华所在。我们定义一个接口用属性来描述API请求。// Services/IMoyuLingxiApi.cs using Refit; namespace YourProjectName.Services { public interface IMoyuLingxiApi { [Post(/chat/completions)] // 假设对话端点路径 TaskApiResponseChatCompletionResponse CreateChatCompletionAsync( [Body] ChatCompletionRequest request, CancellationToken cancellationToken default); } // 请求模型 public class ChatCompletionRequest { [JsonPropertyName(model)] public string Model { get; set; } moyu-lingxi; // 指定模型名称 [JsonPropertyName(messages)] public ListChatMessage Messages { get; set; } new(); [JsonPropertyName(max_tokens)] public int? MaxTokens { get; set; } // 控制生成文本的最大长度 [JsonPropertyName(temperature)] public float? Temperature { get; set; } 0.7f; // 控制随机性0-1之间 } public class ChatMessage { [JsonPropertyName(role)] public string Role { get; set; } user; // system, user, assistant [JsonPropertyName(content)] public string Content { get; set; } string.Empty; } // 响应模型 public class ChatCompletionResponse { [JsonPropertyName(id)] public string Id { get; set; } string.Empty; [JsonPropertyName(choices)] public ListChatChoice Choices { get; set; } new(); [JsonPropertyName(usage)] public TokenUsage Usage { get; set; } new(); } public class ChatChoice { [JsonPropertyName(message)] public ChatMessage Message { get; set; } new(); [JsonPropertyName(finish_reason)] public string FinishReason { get; set; } string.Empty; } public class TokenUsage { [JsonPropertyName(prompt_tokens)] public int PromptTokens { get; set; } [JsonPropertyName(completion_tokens)] public int CompletionTokens { get; set; } [JsonPropertyName(total_tokens)] public int TotalTokens { get; set; } } }通过这个接口我们清晰地定义了要向/chat/completions发送一个POST请求请求体是ChatCompletionRequest对象期望返回ChatCompletionResponse。模型、消息列表、生成参数都一目了然。3. 核心调用与业务封装基础打好了现在我们来写真正干活的业务代码。直接使用Refit接口虽然可以但为了更好的可维护性和错误处理我们通常会在其上再封装一层服务。3.1 创建业务服务层创建一个MoyuLingxiService类它负责调用Refit客户端并处理一些通用逻辑。// Services/MoyuLingxiService.cs using Microsoft.Extensions.Options; using Refit; namespace YourProjectName.Services { public interface IMoyuLingxiService { Taskstring GetChatResponseAsync(string userInput, string? systemPrompt null, CancellationToken ct default); Taskstring SummarizeTextAsync(string longText, CancellationToken ct default); } public class MoyuLingxiService : IMoyuLingxiService { private readonly IMoyuLingxiApi _api; private readonly ILoggerMoyuLingxiService _logger; public MoyuLingxiService(IMoyuLingxiApi api, ILoggerMoyuLingxiService logger) { _api api; _logger logger; } public async Taskstring GetChatResponseAsync(string userInput, string? systemPrompt null, CancellationToken ct default) { var messages new ListChatMessage(); if (!string.IsNullOrEmpty(systemPrompt)) { messages.Add(new ChatMessage { Role system, Content systemPrompt }); } messages.Add(new ChatMessage { Role user, Content userInput }); var request new ChatCompletionRequest { Messages messages, MaxTokens 500, // 根据需求调整 Temperature 0.8f }; try { _logger.LogInformation(Sending chat request to MoyuLingxi API.); var response await _api.CreateChatCompletionAsync(request, ct); if (response.IsSuccessStatusCode response.Content?.Choices?.Count 0) { var content response.Content.Choices[0].Message.Content; _logger.LogInformation(Successfully received response from API.); return content; } else { // 处理API返回的业务错误如参数错误、额度不足 var errorDetail response.Error?.Content ?? Unknown API error; _logger.LogError(API request failed with status {StatusCode}: {Error}, response.StatusCode, errorDetail); throw new ApplicationException($API call failed: {errorDetail}); } } catch (ApiException apiEx) // Refit 捕获的HTTP错误 { _logger.LogError(apiEx, HTTP error occurred while calling MoyuLingxi API. Status: {StatusCode}, apiEx.StatusCode); throw new ApplicationException($Service unavailable or request failed (HTTP {apiEx.StatusCode})., apiEx); } // 其他异常如网络超时会被上层捕获或由重试策略处理 } public async Taskstring SummarizeTextAsync(string longText, CancellationToken ct default) { // 摘要功能可以通过特定的系统指令实现 var systemPrompt 你是一个专业的文本摘要助手。请将用户提供的文本内容提炼出核心要点生成一段简洁、准确的摘要。; var userInput $请为以下文本生成摘要\n\n{longText}; return await GetChatResponseAsync(userInput, systemPrompt, ct); } } }记得在Program.cs中注册这个服务builder.Services.AddScopedIMoyuLingxiService, MoyuLingxiService();3.2 在控制器中使用服务现在我们可以在Web API的控制器中轻松注入并使用这个服务了。// Controllers/ChatController.cs using Microsoft.AspNetCore.Mvc; using YourProjectName.Services; namespace YourProjectName.Controllers { [ApiController] [Route(api/[controller])] public class ChatController : ControllerBase { private readonly IMoyuLingxiService _chatService; public ChatController(IMoyuLingxiService chatService) { _chatService chatService; } [HttpPost(ask)] public async TaskIActionResult AskQuestion([FromBody] AskRequest request) { if (string.IsNullOrWhiteSpace(request.Question)) { return BadRequest(Question cannot be empty.); } try { var answer await _chatService.GetChatResponseAsync(request.Question); return Ok(new { answer }); } catch (Exception ex) { // 这里可以记录日志并返回更友好的错误信息 return StatusCode(500, An error occurred while processing your request.); } } [HttpPost(summarize)] public async TaskIActionResult Summarize([FromBody] SummarizeRequest request) { if (string.IsNullOrWhiteSpace(request.Text)) { return BadRequest(Text cannot be empty.); } try { var summary await _chatService.SummarizeTextAsync(request.Text); return Ok(new { summary }); } catch (Exception ex) { return StatusCode(500, An error occurred while generating the summary.); } } } public class AskRequest { public string Question { get; set; } string.Empty; } public class SummarizeRequest { public string Text { get; set; } string.Empty; } }4. 企业级考量健壮性、性能与监控把代码跑起来只是第一步。要让集成稳定可靠尤其是在生产环境中我们还需要考虑更多。4.1 实现弹性HTTP请求网络是不稳定的API服务也可能偶尔抖动。为HTTP客户端添加重试策略至关重要。我们可以使用Polly这个强大的 resilience 库。首先安装包Install-Package Microsoft.Extensions.Http.Polly然后在Program.cs中完善之前提到的GetRetryPolicy方法// Program.cs 中的辅助方法 using Polly; using Polly.Extensions.Http; static IAsyncPolicyHttpResponseMessage GetRetryPolicy() { // 针对网络超时、5xx服务器错误、408请求超时等状况进行重试 return HttpPolicyExtensions .HandleTransientHttpError() // 处理5xx, 408, 网络IO错误 .OrResult(msg msg.StatusCode System.Net.HttpStatusCode.TooManyRequests) // 也处理429限流 .WaitAndRetryAsync( retryCount: 3, // 重试3次 sleepDurationProvider: retryAttempt TimeSpan.FromSeconds(Math.Pow(2, retryAttempt)), // 指数退避2, 4, 8秒 onRetry: (outcome, timespan, retryAttempt, context) { // 可以在这里记录重试日志 var logger context.GetLogger(); logger?.LogWarning(Delaying for {delay}ms, then making retry {retry}., timespan.TotalMilliseconds, retryAttempt); }); }这个策略会在请求失败时自动重试并且每次重试的等待时间逐渐增加指数退避避免对下游服务造成雪崩。4.2 超时与熔断保护除了重试超时和熔断也是保护系统的重要手段。我们可以为HTTP客户端配置一个总体超时时间并在Program.cs的配置链中添加.ConfigureHttpClient((serviceProvider, client) { // ... 之前的配置 client.Timeout TimeSpan.FromSeconds(30); // 设置30秒超时 }) // 在AddPolicyHandler后可以再添加超时策略Polly也支持 .AddPolicyHandler(Policy.TimeoutAsyncHttpResponseMessage(TimeSpan.FromSeconds(15))); // 更严格的策略级超时对于熔断Circuit Breaker可以在高并发或服务持续不可用时快速失败避免资源耗尽。这通常需要根据更具体的业务指标来配置。4.3 日志、监控与性能追踪良好的日志是排查问题的生命线。我们在服务层已经添加了ILogger的日志记录。确保你的appsettings.json中配置了合适的日志级别如Information或Warning和输出目标如控制台、文件、Elasticsearch等。对于监控可以考虑记录API调用指标如请求延迟、成功率、Token消耗量。这些数据可以推送到监控系统如Prometheus, Application Insights。分布式追踪在微服务架构中使用OpenTelemetry等标准来追踪一个请求流过你应用和外部API的完整路径这对于分析性能瓶颈非常有用。5. 总结走完这一趟你会发现在.NET应用里集成一个大模型API核心思路其实和调用其他任何RESTful服务没有本质区别。关键点在于安全的配置管理、清晰的接口契约、健壮的HTTP客户端策略、以及良好的业务封装。用Refit这样的库能让代码声明式、更干净用Polly处理重试和超时能让你的应用在面对网络波动时从容不迫而把API调用封装在独立的服务层则让业务逻辑清晰也便于后续替换实现或进行单元测试。实际开发中你可能还会遇到流式响应Server-Sent Events、多模态图片/语音输入输出等更复杂的需求但万变不离其宗都是基于HTTP协议进行通信。掌握了今天这套基础框架再去应对那些高级功能你心里就有底了。建议你先从简单的文本对话功能开始把整个流程跑通然后再根据项目需求逐步探索更高级的集成方式。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
墨语灵犀.NET生态集成指南：在C#应用中调用大模型API
墨语灵犀.NET生态集成指南在C#应用中调用大模型API如果你是一名.NET开发者想把大模型的智能对话能力集成到自己的C#应用里可能会觉得有点无从下手。是直接去研究复杂的模型推理框架还是自己从头封装网络请求其实对于大多数业务场景最直接、最稳定的方式就是通过HTTP API来调用已经部署好的大模型服务。这篇文章我就来和你聊聊怎么在.NET项目里优雅、健壮地调用像“墨语灵犀”这样的大模型API。我们会从最基础的HTTP请求开始一步步讲到企业级应用里必须考虑的身份认证、异步处理和错误重试。看完之后你就能在自己的WinForm、WPF、ASP.NET Core或者任何.NET应用里轻松实现智能对话、文本摘要这些酷炫功能了。1. 准备工作理清思路与获取凭证在动手写代码之前咱们先把两件最重要的事情搞定想清楚要做什么以及拿到进门的“钥匙”。1.1 明确你的集成目标调用API不是目的解决问题才是。先想好你的应用需要大模型做什么。是做一个智能客服机器人还是给内容管理后台加一个自动摘要功能或者是开发一个能辅助写作的插件目标不同后续调用API的参数和处理返回结果的逻辑也会略有差异。对于“墨语灵犀”这类通用对话模型常见的集成场景包括智能问答用户输入问题应用获取并展示模型的回答。内容生成与润色根据关键词或大纲生成文章、邮件、文案或者对现有文本进行改写、扩写。文本摘要将长篇文章、报告自动提炼成核心要点。多轮对话保持上下文实现连贯的聊天体验。想清楚场景有助于我们设计更合理的代码结构。1.2 获取API访问密钥与端点要调用服务你需要两样东西API Base URL服务地址和API Key访问密钥。这就像你要去一个地方既需要知道地址也需要有开门的密码。通常你需要访问模型服务提供商的管理后台或控制台找到API集成或开发者相关的页面。创建一个新的应用或API密钥这个过程一般会生成一个长长的、由字母数字组成的字符串比如sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx这就是你的API Key务必妥善保管不要泄露到客户端代码中。同时你会获得一个API的基础地址Base URL例如https://api.example.com/v1。请将这两个信息保存下来我们接下来会在配置文件中用到它们。切记API Key是最高机密必须通过安全的配置方式管理绝不能硬编码在代码里或提交到代码仓库。2. 项目搭建与基础配置好了现在我们进入实战环节。我假设你正在开发一个ASP.NET Core Web API项目我们将以此为例。控制台应用、桌面应用的核心逻辑是完全相通的。2.1 创建项目与引入包首先用你熟悉的方式Visual Studio, VS Code,dotnet new命令创建一个新的ASP.NET Core Web API项目。然后我们需要一个强大的HTTP客户端来帮助我们与API交互。虽然.NET自带HttpClient但这里我强烈推荐使用Refit或RestSharp这类库它们能让代码更简洁、更优雅。今天我们用Refit来演示因为它通过接口定义请求的方式非常直观。通过NuGet包管理器控制台安装必要的包Install-Package Refit.HttpClientFactory Install-Package Microsoft.Extensions.Http Install-Package Microsoft.Extensions.Configuration Install-Package Microsoft.Extensions.OptionsRefit负责声明式HTTP APIMicrosoft.Extensions.Http和IOptions则是.NET Core依赖注入和配置管理的标准套件。2.2 安全地管理配置把API密钥和地址写在代码里是绝对的大忌。我们应该使用.NET的配置系统。在appsettings.json文件中添加你的配置{ MoyuLingxiApi: { BaseUrl: https://your-api-gateway.com/v1, // 替换为你的真实Base URL ApiKey: sk-your-actual-api-key-here // 替换为你的真实API Key }, // ... 其他配置 }接下来创建一个对应的配置类MoyuLingxiApiOptions用于强类型地读取这些配置// Models/MoyuLingxiApiOptions.cs namespace YourProjectName.Models { public class MoyuLingxiApiOptions { public string BaseUrl { get; set; } string.Empty; public string ApiKey { get; set; } string.Empty; } }在Program.cs中绑定配置并注册服务// Program.cs using YourProjectName.Models; var builder WebApplication.CreateBuilder(args); // 1. 绑定配置到强类型Options类 builder.Services.ConfigureMoyuLingxiApiOptions( builder.Configuration.GetSection(MoyuLingxiApi)); // 2. 注册Refit客户端 builder.Services.AddRefitClientIMoyuLingxiApi() .ConfigureHttpClient((serviceProvider, client) { var options serviceProvider.GetRequiredServiceIOptionsMoyuLingxiApiOptions().Value; client.BaseAddress new Uri(options.BaseUrl); // 设置默认请求头认证 client.DefaultRequestHeaders.Authorization new System.Net.Http.Headers.AuthenticationHeaderValue(Bearer, options.ApiKey); // 可以设置其他公共请求头如User-Agent client.DefaultRequestHeaders.Add(User-Agent, YourAppName/1.0); }) // 配置重试策略可选但推荐 .AddPolicyHandler(GetRetryPolicy()); // ... 其他服务注册这里我们做了几件事绑定配置、注册了一个IMoyuLingxiApi的Refit客户端并为其配置了基础地址和认证头。认证方式通常是Bearer Token即将API Key放在Authorization请求头中。2.3 定义API接口契约这是Refit的精华所在。我们定义一个接口用属性来描述API请求。// Services/IMoyuLingxiApi.cs using Refit; namespace YourProjectName.Services { public interface IMoyuLingxiApi { [Post(/chat/completions)] // 假设对话端点路径 TaskApiResponseChatCompletionResponse CreateChatCompletionAsync( [Body] ChatCompletionRequest request, CancellationToken cancellationToken default); } // 请求模型 public class ChatCompletionRequest { [JsonPropertyName(model)] public string Model { get; set; } moyu-lingxi; // 指定模型名称 [JsonPropertyName(messages)] public ListChatMessage Messages { get; set; } new(); [JsonPropertyName(max_tokens)] public int? MaxTokens { get; set; } // 控制生成文本的最大长度 [JsonPropertyName(temperature)] public float? Temperature { get; set; } 0.7f; // 控制随机性0-1之间 } public class ChatMessage { [JsonPropertyName(role)] public string Role { get; set; } user; // system, user, assistant [JsonPropertyName(content)] public string Content { get; set; } string.Empty; } // 响应模型 public class ChatCompletionResponse { [JsonPropertyName(id)] public string Id { get; set; } string.Empty; [JsonPropertyName(choices)] public ListChatChoice Choices { get; set; } new(); [JsonPropertyName(usage)] public TokenUsage Usage { get; set; } new(); } public class ChatChoice { [JsonPropertyName(message)] public ChatMessage Message { get; set; } new(); [JsonPropertyName(finish_reason)] public string FinishReason { get; set; } string.Empty; } public class TokenUsage { [JsonPropertyName(prompt_tokens)] public int PromptTokens { get; set; } [JsonPropertyName(completion_tokens)] public int CompletionTokens { get; set; } [JsonPropertyName(total_tokens)] public int TotalTokens { get; set; } } }通过这个接口我们清晰地定义了要向/chat/completions发送一个POST请求请求体是ChatCompletionRequest对象期望返回ChatCompletionResponse。模型、消息列表、生成参数都一目了然。3. 核心调用与业务封装基础打好了现在我们来写真正干活的业务代码。直接使用Refit接口虽然可以但为了更好的可维护性和错误处理我们通常会在其上再封装一层服务。3.1 创建业务服务层创建一个MoyuLingxiService类它负责调用Refit客户端并处理一些通用逻辑。// Services/MoyuLingxiService.cs using Microsoft.Extensions.Options; using Refit; namespace YourProjectName.Services { public interface IMoyuLingxiService { Taskstring GetChatResponseAsync(string userInput, string? systemPrompt null, CancellationToken ct default); Taskstring SummarizeTextAsync(string longText, CancellationToken ct default); } public class MoyuLingxiService : IMoyuLingxiService { private readonly IMoyuLingxiApi _api; private readonly ILoggerMoyuLingxiService _logger; public MoyuLingxiService(IMoyuLingxiApi api, ILoggerMoyuLingxiService logger) { _api api; _logger logger; } public async Taskstring GetChatResponseAsync(string userInput, string? systemPrompt null, CancellationToken ct default) { var messages new ListChatMessage(); if (!string.IsNullOrEmpty(systemPrompt)) { messages.Add(new ChatMessage { Role system, Content systemPrompt }); } messages.Add(new ChatMessage { Role user, Content userInput }); var request new ChatCompletionRequest { Messages messages, MaxTokens 500, // 根据需求调整 Temperature 0.8f }; try { _logger.LogInformation(Sending chat request to MoyuLingxi API.); var response await _api.CreateChatCompletionAsync(request, ct); if (response.IsSuccessStatusCode response.Content?.Choices?.Count 0) { var content response.Content.Choices[0].Message.Content; _logger.LogInformation(Successfully received response from API.); return content; } else { // 处理API返回的业务错误如参数错误、额度不足 var errorDetail response.Error?.Content ?? Unknown API error; _logger.LogError(API request failed with status {StatusCode}: {Error}, response.StatusCode, errorDetail); throw new ApplicationException($API call failed: {errorDetail}); } } catch (ApiException apiEx) // Refit 捕获的HTTP错误 { _logger.LogError(apiEx, HTTP error occurred while calling MoyuLingxi API. Status: {StatusCode}, apiEx.StatusCode); throw new ApplicationException($Service unavailable or request failed (HTTP {apiEx.StatusCode})., apiEx); } // 其他异常如网络超时会被上层捕获或由重试策略处理 } public async Taskstring SummarizeTextAsync(string longText, CancellationToken ct default) { // 摘要功能可以通过特定的系统指令实现 var systemPrompt 你是一个专业的文本摘要助手。请将用户提供的文本内容提炼出核心要点生成一段简洁、准确的摘要。; var userInput $请为以下文本生成摘要\n\n{longText}; return await GetChatResponseAsync(userInput, systemPrompt, ct); } } }记得在Program.cs中注册这个服务builder.Services.AddScopedIMoyuLingxiService, MoyuLingxiService();3.2 在控制器中使用服务现在我们可以在Web API的控制器中轻松注入并使用这个服务了。// Controllers/ChatController.cs using Microsoft.AspNetCore.Mvc; using YourProjectName.Services; namespace YourProjectName.Controllers { [ApiController] [Route(api/[controller])] public class ChatController : ControllerBase { private readonly IMoyuLingxiService _chatService; public ChatController(IMoyuLingxiService chatService) { _chatService chatService; } [HttpPost(ask)] public async TaskIActionResult AskQuestion([FromBody] AskRequest request) { if (string.IsNullOrWhiteSpace(request.Question)) { return BadRequest(Question cannot be empty.); } try { var answer await _chatService.GetChatResponseAsync(request.Question); return Ok(new { answer }); } catch (Exception ex) { // 这里可以记录日志并返回更友好的错误信息 return StatusCode(500, An error occurred while processing your request.); } } [HttpPost(summarize)] public async TaskIActionResult Summarize([FromBody] SummarizeRequest request) { if (string.IsNullOrWhiteSpace(request.Text)) { return BadRequest(Text cannot be empty.); } try { var summary await _chatService.SummarizeTextAsync(request.Text); return Ok(new { summary }); } catch (Exception ex) { return StatusCode(500, An error occurred while generating the summary.); } } } public class AskRequest { public string Question { get; set; } string.Empty; } public class SummarizeRequest { public string Text { get; set; } string.Empty; } }4. 企业级考量健壮性、性能与监控把代码跑起来只是第一步。要让集成稳定可靠尤其是在生产环境中我们还需要考虑更多。4.1 实现弹性HTTP请求网络是不稳定的API服务也可能偶尔抖动。为HTTP客户端添加重试策略至关重要。我们可以使用Polly这个强大的 resilience 库。首先安装包Install-Package Microsoft.Extensions.Http.Polly然后在Program.cs中完善之前提到的GetRetryPolicy方法// Program.cs 中的辅助方法 using Polly; using Polly.Extensions.Http; static IAsyncPolicyHttpResponseMessage GetRetryPolicy() { // 针对网络超时、5xx服务器错误、408请求超时等状况进行重试 return HttpPolicyExtensions .HandleTransientHttpError() // 处理5xx, 408, 网络IO错误 .OrResult(msg msg.StatusCode System.Net.HttpStatusCode.TooManyRequests) // 也处理429限流 .WaitAndRetryAsync( retryCount: 3, // 重试3次 sleepDurationProvider: retryAttempt TimeSpan.FromSeconds(Math.Pow(2, retryAttempt)), // 指数退避2, 4, 8秒 onRetry: (outcome, timespan, retryAttempt, context) { // 可以在这里记录重试日志 var logger context.GetLogger(); logger?.LogWarning(Delaying for {delay}ms, then making retry {retry}., timespan.TotalMilliseconds, retryAttempt); }); }这个策略会在请求失败时自动重试并且每次重试的等待时间逐渐增加指数退避避免对下游服务造成雪崩。4.2 超时与熔断保护除了重试超时和熔断也是保护系统的重要手段。我们可以为HTTP客户端配置一个总体超时时间并在Program.cs的配置链中添加.ConfigureHttpClient((serviceProvider, client) { // ... 之前的配置 client.Timeout TimeSpan.FromSeconds(30); // 设置30秒超时 }) // 在AddPolicyHandler后可以再添加超时策略Polly也支持 .AddPolicyHandler(Policy.TimeoutAsyncHttpResponseMessage(TimeSpan.FromSeconds(15))); // 更严格的策略级超时对于熔断Circuit Breaker可以在高并发或服务持续不可用时快速失败避免资源耗尽。这通常需要根据更具体的业务指标来配置。4.3 日志、监控与性能追踪良好的日志是排查问题的生命线。我们在服务层已经添加了ILogger的日志记录。确保你的appsettings.json中配置了合适的日志级别如Information或Warning和输出目标如控制台、文件、Elasticsearch等。对于监控可以考虑记录API调用指标如请求延迟、成功率、Token消耗量。这些数据可以推送到监控系统如Prometheus, Application Insights。分布式追踪在微服务架构中使用OpenTelemetry等标准来追踪一个请求流过你应用和外部API的完整路径这对于分析性能瓶颈非常有用。5. 总结走完这一趟你会发现在.NET应用里集成一个大模型API核心思路其实和调用其他任何RESTful服务没有本质区别。关键点在于安全的配置管理、清晰的接口契约、健壮的HTTP客户端策略、以及良好的业务封装。用Refit这样的库能让代码声明式、更干净用Polly处理重试和超时能让你的应用在面对网络波动时从容不迫而把API调用封装在独立的服务层则让业务逻辑清晰也便于后续替换实现或进行单元测试。实际开发中你可能还会遇到流式响应Server-Sent Events、多模态图片/语音输入输出等更复杂的需求但万变不离其宗都是基于HTTP协议进行通信。掌握了今天这套基础框架再去应对那些高级功能你心里就有底了。建议你先从简单的文本对话功能开始把整个流程跑通然后再根据项目需求逐步探索更高级的集成方式。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
