EdenAI 不仅仅是模型调用。它为您提供了高级功能,包括:
- 多个提供商:访问由各种提供商提供的一系列多样化语言模型,让您可以自由选择最适合您用例的模型。
- 回退机制:设置回退机制以确保即使主提供商不可用,也能无缝运行,您可以轻松切换到备用提供商。
- 使用情况跟踪:按项目和按 API 密钥跟踪使用情况统计信息。此功能允许您有效地监控和管理资源消耗。
-
监控和可观测性:
EdenAI在平台上提供了全面的监控和可观测性工具。监控您的语言模型的性能,分析使用模式,并获得有价值的见解以优化您的应用程序。
流式传输和批处理
ChatEdenAI 支持流式传输和批处理。以下是一个示例。
回退机制
通过 Eden AI,您可以设置回退机制,即使主提供商不可用,也能确保无缝操作,您可以轻松切换到备用提供商。链式调用
工具
bind_tools()
通过ChatEdenAI.bind_tools,我们可以轻松地将 Pydantic 类、字典模式、LangChain 工具,甚至函数作为工具传递给模型。
with_structured_output()
BaseChatModel.with_structured_output 接口使从聊天模型获取结构化输出变得容易。您可以使用 ChatEdenAI.with_structured_output(其底层使用工具调用),使模型更可靠地以特定格式返回输出。将工具结果传递给模型
这是一个如何使用工具的完整示例。将工具输出传递给模型,并从模型获取结果。流式处理
Eden AI 目前不支持流式工具调用。尝试流式传输将产生一条最终消息。以编程方式连接这些文档到 Claude、VSCode 等,通过 MCP 获取实时答案。