GPT-4请求的响应时间过长或超时,让人感到困扰。OpenAI的服务器也难以应对其快速增长的业务量。虽然OpenAI官方状态页面没有提供任何性能数据,但GPT Status可以解决这个问题。这是一个开源社区仪表盘,用于监测OpenAI API的性能。每5分钟对每个端点进行一次ping,并保存总响应时间、每秒令牌数和第一个字节的时间。它是用NextJS 13、Vercel Postgres和Cloudflare Workers构建的。

主要特点和功能:

  • 开源社区仪表盘,用于监测OpenAI API的性能。
  • 每5分钟对每个端点进行一次ping,并保存总响应时间、每秒令牌数和第一个字节的时间。
  • 用NextJS 13、Vercel Postgres和Cloudflare Workers构建。
  • 可以改进,例如添加更多的模型(如Anthropic、Google、Cohere等),以及从官方状态页面获取可用时间和事件信息。

访问链接: https://www.gptstat.us/