Наш метод сжатия больших языковых моделей был представлен на конференции NAACL, одной из самых значимых в области искусственного интеллекта. Метод HIGGS предназначен для сжатия языковых моделей на мобильных устройствах и ноутбуках, при этом обеспечивая сохранение их качества. Экспериментальные данные подтверждают, что HIGGS обеспечивает более эффективное сжатие моделей по сравнению с аналогичными технологиями.

Разработчиками данного метода выступили специалисты лаборатории Yandex Research в сотрудничестве с НИУ ВШЭ, MIT, KAUST и ISTA. Метод доступен для использования в открытом доступе. Более подробную информацию о HIGGS можно найти в научной статье на arXiv.

Источник: @techno_yandex