Helix 是开源的私有 GenAI 堆栈，用于构建具有声明性管道、知识 （RAG）、API 绑定和一流测试的 AI 应用程序。

一、软件介绍

文末提供程序包和源码下载

      私有 GenAI 堆栈。在您自己的数据中心或VPC中部署开放AI的最佳功能，并保持完整的数据安全性和控制。包括对 RAG、API 调用和微调模型的支持，就像拖放一样简单。通过编写 helix.yaml 来构建和部署LLM应用程序。正在寻找私人 GenAI 平台？从语言模型到图像模型等，Helix 以符合人体工程学、可扩展的方式为您的业务带来最好的开源 AI，同时优化 GPU 内存和延迟之间的权衡。

二、在 Docker 上安装

使用我们的快速入门安装程序：

curl -sL -O https://get.helix.ml/install.sh
chmod +x install.sh
sudo ./install.sh
安装程序将在对系统进行更改之前提示您。默认情况下，仪表板将在 上 http://localhost:8080 可用。

有关使用 DNS 名称设置部署的信息，请参阅 ./install.sh --help 或阅读详细文档。我们已经为您记录了简单的 TLS 终止。

根据 runners docs 附加您自己的 GPU runners 或使用任何外部 OpenAI 兼容的 LLM.

三、软件下载

夸克网盘分享

GitHub作者地址：https://github.com/helixml/helix

本文信息均来源于GitHub地址，更多使用信息请参阅作者地址