Модерация и безопасность
Prompt Guard
Крошечные классификаторы, которые ловят попытки взломать бота: промпт-инъекции и обход правил. Версия 86M многоязычная, 22M только английский.
- Разработчик
- Meta, США
- Первый выпуск
- июл 2024
- Последний выпуск
- апр 2025
- Размеры
- 22M – 86M
- Лицензия
- Коммерция с условиямиЛицензии Llama 3.1 и 4: коммерция разрешена с ограничениями
Какие задачи решает
- Защита бота от промпт-инъекций
- Проверка писем и документов, которые попадают в ИИ-агента
- Быстрый фильтр перед большой моделью
Где применяется
Чат-боты и ИИ-агентыИнформационная безопасность
Требования к железу
НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
нет версийКластерСервер с несколькими видеокартами — флагманские версии
нет версийВерсии
- Llama Prompt Guard 2 22M и 86M
- Prompt Guard 86M
Как внедряю у заказчика
- ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
- УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
- ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
- ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.
Похожие модели
Модерация и безопасностьLlama GuardMeta · СШАКоммерция с условиями
Модели-фильтры, которые проверяют запросы к чат-боту и его ответы на опасные темы по списку категорий. Версия 4 проверяет и картинки. Русский официально не заявлен.
ПодробнееМодерация и безопасностьGranite GuardianIBM · СШАМожно в коммерциюМодели-судьи IBM: ловят вред, мат, попытки взлома, а в RAG и агентах проверяют, опирается ли ответ на документы. Можно задать своё правило словами.
ПодробнееМодерация и безопасностьQwen3GuardAlibaba (Qwen) · КитайМожно в коммерциюФильтры безопасности на 119 языков, русский в их числе. Версия Stream проверяет ответ бота прямо во время его генерации и может оборвать его на лету.
Подробнее