GPTRouter是一个开源的LLMOps工具，为30+ LLMs、视觉和图像模型提供通用API，具有基于可用性和延迟的智能备用方案、自动重试和流式传输功能。即使OpenAI宕机，也能保持运行。

主要特点和功能：

  • 提供30+ LLMs、视觉和图像模型的通用API
  • 根据延迟和可用性智能切换备用模型
  • 自动重试功能
  • 支持流式传输

访问链接: https://github.com/Writesonic/GPTRouter