Применение метода HIGGS для прототипирования продуктов на сжатых LLM
Яндекс применяет метод HIGGS для сжатия языковых моделей при создании рабочих версий продуктов и быстрой проверке идей.
Сжатые модели проходят тестирование быстрее исходных версий; количественный эффект не раскрыт.