dstack
dstack — управляющий слой для выделения и оркестрации GPU-ресурсов. Он объединяет работу с облачными провайдерами, кластерами Kubernetes и собственными серверами для разработки, обучения и запуска моделей.
Проект унифицирует процессы разработки, обучения и инференса моделей машинного обучения. Он поддерживает различные акселераторы, включая NVIDIA, AMD, Google TPU и Tenstorrent. dstack позволяет определять конфигурации для управления кластерами, средами разработки, задачами обучения, сервисами инференса и томами данных.
Для работы dstack требуется установка серверной части на Linux, macOS или Windows (через WSL 2), а также Git и OpenSSH. Проект распространяется под лицензией Mozilla Public License 2.0. Некоторые функции, такие как "Presets", находятся на экспериментальной стадии.
https://github.com/dstackai/dstack | 2283 звезды
#сервисы