TeaCache
Если вы работаете с диффузионными моделями, то знаете, как долго они могут генерировать видео, изображения или аудио. TeaCache — это такой «ускоритель», который помогает моделям работать быстрее, не теряя в качестве. Он пригодится, чтобы быстрее получать результаты и экономить ресурсы.
TeaCache — это не отдельная программа, а скорее подход к оптимизации, который можно встроить в уже существующие диффузионные модели. Он работает с Video Diffusion Models, Image Diffusion models и Audio Diffusion Models, так что можно ускорить что угодно.
Самое крутое, что TeaCache работает без дополнительного обучения моделей. Он просто умно кэширует данные, анализируя изменения между временными шагами, и за счёт этого ускоряет инференс. Это как умный буфер, который заранее знает, что понадобится.
https://github.com/ali-vilab/TeaCache | 1354 звезды
#сервисы
