Aqueduct是一个支持LLMs的开源工具，可以让你在任何基础设施上运行开源LLMs。通过一个单独的API调用，你可以在单个提示或整个数据集上运行LLMs。
Aqueduct的主要特点和功能：
- 通过Aqueduct的Python API，你只需要一行代码就可以调用LLMs，无需担心安装驱动程序和库依赖项以及调试配置参数。
- Aqueduct可以与你使用的任何基础设施配合使用；你可以在大型服务器或Kubernetes集群上运行LLMs。你甚至可以让Aqueduct为你自动创建一个集群。
- 你可以使用Aqueduct发布基于LLMs的工作流程，以便在需要时或按固定时间表运行。
- Aqueduct的可见性功能自然地扩展到LLMs，因此你可以看到你使用的参数或提示以及性能随时间的变化情况。
想了解更多信息，请查看我们的开源项目或加入我们的Slack社区。