«Рег.облако»: Инференс ИИ-моделей на собственной GPU-инфраструктуре
Что внедрили
Провайдер ввёл ускорители Nvidia B300 в рабочий контур собственной ИИ-платформы и запустил на них инференс моделей.
Результат
Сервисом уже воспользовались более тысячи клиентов; количественный эффект инференса не раскрыт.
Источник подтверждает использование инфраструктуры провайдера и доступность сервиса российским пользователям; внешние клиенты не названы.
Задачи
инференс ИИ-моделей; GPU-инфраструктура; ИИ-платформа; доступ через API; токеновая тарификация
Параметры внедрения
- Компания
- «Рег.облако»
- Отрасль
- ИТ и интернет
- Процессы
- Производство и оказание услуг
- Продукт
- Собственная ИИ-платформа с доступом к моделям через единый интерфейс и API
- Сроки
- Не указаны
- Стоимость
- Не раскрыта
Источники
«Рег.облако» запустил инференс ИИ-моделей на Nvidia B300 - CNewsПубликация источника: