AGIMA: Детектор блокирует промпт-инъекции
Что внедрили
AGIMA дообучила и вывела в промышленную работу детектор промпт-инъекций для проверки входных текстов.
Результат
Ложные блокировки сократились со 140 до 1 на выборке из 179 безопасных текстов; из пяти раундов дообучения в продакшен принят один.
Результат приведён для выборки из 179 безопасных текстов.
Задачи
Выявление промпт-инъекций; Контроль безопасности LLM-приложений
Параметры внедрения
- Компания
- AGIMA
- Отрасль
- ИТ и интернет
- Процессы
- Безопасность и управление рисками; ИТ и техническая поддержка
- Продукт
- Детектор промпт-инъекций AGIMA
- Сроки
- Не указаны
- Стоимость
- Не раскрыта