Microsoft.Extensions.AI 提供了统一的 API 抽象(API abstraction),适用于小语言模型、大语言模型、嵌入式模型以及中间件模型等。还标准实现了缓存、遥测、工具调用和其他常见任务。
注:API 抽象是指通过创建一个中间层来简化和标准化与不同系统或服务之间的交互。这种方法让开发者不必关心底层实现的复杂性,从而更容易地访问和使用数据或功能。
微软表示在预览阶段,为 OpenAI、Azure AI 推理和 Ollama 提供了参考实现,并强调了 Microsoft.Extensions.AI 的以下核心优势:
统一 API: 提供一致的 API 和约定,便于将 AI 服务集成到.NET 应用中。
灵活性: 允许库作者不依赖特定供应商,适应不同的 AI 服务提供者。
易用性: 开发者可以使用相同的基础抽象,保持应用程序中的单一 API。
组件化: 简化新功能的添加,促进应用程序的组件化和测试。
2023-12-05
2024-04-15
2023-12-13
系统资讯推荐
win10系统推荐
系统教程推荐