Яндекс: Применение метода HIGGS для прототипирования продуктов на сжатых LLM
Что внедрили
Яндекс применяет метод HIGGS для сжатия языковых моделей при создании рабочих версий продуктов и быстрой проверке идей.
Результат
Сжатые модели проходят тестирование быстрее исходных версий; количественный эффект не раскрыт.
Подтверждено внутреннее применение метода компанией; конкретные продукты и числовой эффект не названы.
Задачи
LLM; квантизация; сжатие моделей; прототипирование; проверка гипотез
Параметры внедрения
- Компания
- Яндекс
- Отрасль
- ИТ и интернет
- Процессы
- Разработка продуктов и исследования
- Продукт
- Метод квантизации HIGGS
- Сроки
- Не указаны
- Стоимость
- Не раскрыта
Источники
LLM (Большие языковые модели)Публикация источника: