Silicon Studio — локальные LLM и LoRA на Apple Silicon
Silicon Studio — настольное приложение для локальной тонкой настройки и инференса больших языковых моделей на компьютерах Apple Silicon. Оно предназначено для разработчиков и исследователей, которые хотят работать с моделями искусственного интеллекта непосредственно на своём Mac.
Возможности и состав проекта
Приложение включает "Data Preparation Studio" для очистки, форматирования и подготовки обучающих наборов данных, позволяя просматривать и редактировать JSONL/CSV, а также конвертировать форматы. "Fine-Tuning Engine" даёт возможность тонкой настройки моделей с использованием методов LoRA/QLoRA, предлагая визуальную настройку параметров и мониторинг процесса. Также имеется "Model Management" для загрузки и управления моделями с Hugging Face, включая поддержку квантования, и "Local Chat Inference" для тестирования моделей в интерфейсе чата.
Начало работы и требования
Проект распространяется по лицензии MIT и разработан для macOS на базе Apple Silicon. Для сборки из исходников требуются macOS 13+, Node.js 18+ и Python 3.10+. Рекомендуется использовать Anaconda для управления окружением Python. Приложение использует MLX, Electron, React, FastAPI, Pandas и Presidio.
Ограничения и выбор сценария
Приложение рассчитано на Apple Silicon, а не на любой Mac или Windows. Подходящая модель, размер контекста и обучение ограничены доступной объединённой памятью; обещание zero-setup не отменяет загрузку весов и подготовку данных. В README встречаются шаблонные и некорректно оформленные команды, поэтому исходный адрес и зависимости сборки нужно сверять. Лицензии моделей отделены от MIT приложения.
Лицензия и условия использования
GitHub определяет лицензию репозитория как MIT. Перед использованием и распространением проверьте полный текст LICENSE и отдельные условия зависимостей, данных или моделей: лицензия репозитория не заменяет их лицензии.
