Модерация и безопасность

ShieldGemma

Фильтры на базе Gemma: проверяют текст на опасный и оскорбительный контент, а ShieldGemma 2 проверяет картинки. Ориентированы на английский.

Разработчик
Google, США
Первый выпуск
июл 2024
Последний выпуск
мар 2025
Размеры
2B – 27B
Лицензия
Коммерция с условиямиGemma Terms of Use: коммерция разрешена с ограничениями по видам использования
Поставить на свой сервер Hugging Face

Какие задачи решает

  • Модерация сообщений пользователей
  • Проверка ответов бота
  • Проверка сгенерированных картинок перед публикацией

Где применяется

Модерация контентаЧат-ботыСервисы генерации картинок

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. ShieldGemma 2 4B (картинки)
  2. ShieldGemma 2B, 9B, 27B

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

Модерация и безопасностьLlama GuardMeta · СШАКоммерция с условиями

Модели-фильтры, которые проверяют запросы к чат-боту и его ответы на опасные темы по списку категорий. Версия 4 проверяет и картинки. Русский официально не заявлен.

ПодробнееМодерация и безопасностьQwen3GuardAlibaba (Qwen) · КитайМожно в коммерцию

Фильтры безопасности на 119 языков, русский в их числе. Версия Stream проверяет ответ бота прямо во время его генерации и может оборвать его на лету.

ПодробнееМодерация и безопасностьWildGuardAi2 (Allen Institute for AI) · СШАМожно в коммерцию

Открытый фильтр Ai2: одним проходом определяет, опасен ли запрос, опасен ли ответ и не отказал ли бот зря. Работает на английском.

Подробнее