SkillWard — статический и динамический анализ навыков ИИ-агентов
SkillWard — сканер безопасности для навыков AI-агентов, предназначенный для выявления потенциальных рисков до публикации или развёртывания. Инструмент помогает снизить угрозы, связанные с использованием агентов, путём комплексной проверки их навыков.
Возможности и состав проекта
Проект использует трёхэтапный подход к анализу: статическая проверка кода на известные вредоносные паттерны, оценка с помощью больших языковых моделей (LLM) для определения намерений и, наконец, выполнение подозрительных навыков в изолированных Docker-песочницах. В песочнице агент устанавливает зависимости и запускает навыки, а специальный монитор фиксирует подозрительное поведение, такое как утечка данных или несанкционированный сетевой доступ. По результатам проверки формируется отчёт с обнаруженными угрозами и рекомендациями по их устранению.
Начало работы и требования
README указывает Python 3.10+, Docker для sandbox и Node.js 18+ для интерфейса. Устанавливаются основной проект и skill-scanner, затем выбирается Docker-образ под архитектуру и настраиваются переменные окружения. Перед проверкой своего каталога стоит запустить небольшой известный пример и посмотреть состав отчёта и сетевых обращений.
Ограничения и выбор сценария
Отсутствие предупреждений не доказывает безопасность навыка: покрытие статических правил и наблюдённое поведение ограничены тестовым запуском. LLM-оценка может ошибаться и передавать анализируемые материалы внешнему провайдеру. Docker-песочница зависит от прав, томов и сети и не является абсолютной изоляцией. Динамическую проверку подозрительного кода нужно проводить на отдельном стенде, не выдавая ему рабочие ключи и пользовательские каталоги.
Лицензия и условия использования
README и проверенный LICENSE указывают Apache License 2.0. Перед распространением сохраняйте необходимые уведомления и проверяйте отдельные условия sandbox-образов, зависимостей и подключённых моделей; лицензия сканера не распространяется автоматически на проверяемые навыки.
