Trace — оптимизация AI-систем по текстовой и числовой обратной связи

Trace — библиотека Python для сквозной оптимизации систем искусственного интеллекта. Она позволяет обучать AI-системы, используя различные виды обратной связи, такие как числовые вознаграждения, текстовые данные или ошибки компилятора. Инструмент обобщает алгоритм обратного распространения ошибки, отслеживая выполнение AI-системы.

Возможности и состав проекта

Trace предоставляет примитивы node и bundle для определения узлов вычислений и оптимизируемых функций, что позволяет пользователям маркировать части кода для оптимизации. Библиотека работает как Python-библиотека, подобная PyTorch. Для установки требуется Python версии 3.9 или выше.

Начало работы и требования

По умолчанию Trace использует LiteLLM в качестве бэкенда для больших языковых моделей, но также поддерживает AutoGen при установке с соответствующим тегом. Проект включает поддержку оптимизаторов OPRO, TextGrad и OptoPrime, при этом OptoPrime, предложенный авторами, работает быстрее TextGrad. Доступны обучающие материалы для начинающих и продвинутых пользователей.

Ограничения и выбор сценария

Сравнения OptoPrime и TextGrad относятся к экспериментам авторов и зависят от задачи. Библиотека использует отдельно настроенный LLM backend; его вызовы имеют собственные условия и стоимость. Оптимизация по выбранной обратной связи не гарантирует улучшения на независимой оценке.

Лицензия и условия использования

GitHub определяет лицензию репозитория как MIT. Перед использованием и распространением проверьте полный текст LICENSE и отдельные условия зависимостей, данных или моделей: лицензия репозитория не заменяет их лицензии.