awesome-local-llm
Если ты когда-нибудь задумывался, как запустить большую языковую модель (LLM) прямо у себя на компе, чтобы не зависеть от облаков и чужих API, то этот репозиторий — твоя находка. Тут собрано всё, что нужно, чтобы развернуть локальный LLM и начать с ним работать.
Awesome local LLM — это такой агрегатор платформ, инструментов и ресурсов для запуска LLM на локальных машинах. По сути, это большая подборка ссылок, где есть и движки для инференса вроде ollama или llama.cpp, и удобные пользовательские интерфейсы типа Open WebUI, и даже бенчмарки для сравнения моделей.
Особенно круто, что тут не просто список, а реально рабочие решения для разных задач: от тренировки моделей на своём железе до использования LLM для кодинга или даже автоматизации браузера. Есть даже варианты для тех, у кого Apple Silicon или Intel Arc GPU, так что каждый найдет что-то для себя.
https://github.com/rafska/awesome-local-llm | 2462 звезды
#сервисы
