PeriFlow是一款创新的生成式AI模型服务引擎,包括LLMs在内。它以低成本实现高速度,节省了70~90%的GPU资源。PeriFlow提供两种部署选项:PeriFlow容器和PeriFlow云。

主要特点和功能:

  • 高速度生成式AI模型服务
  • 显著降低GPU资源消耗
  • 提供PeriFlow容器和PeriFlow云两种部署选项

访问链接: https://friendli.ai/periflowcloud