Модерация и безопасность
Granite Guardian
Модели-судьи IBM: ловят вред, мат, попытки взлома, а в RAG и агентах проверяют, опирается ли ответ на документы. Можно задать своё правило словами.
- Разработчик
- IBM, США
- Первый выпуск
- сен 2024
- Последний выпуск
- апр 2026
- Размеры
- 38M – 8B
- Лицензия
- Можно в коммерциюApache 2.0
Какие задачи решает
- Проверка запросов и ответов бота
- Поиск выдуманных фактов в ответах по базе знаний
- Проверка своих правил, заданных текстом
Где применяется
Чат-боты и ИИ-агентыБанки и страхованиеКонтроль качества ИИ-систем
Требования к железу
НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходитКластерСервер с несколькими видеокартами — флагманские версии
нет версийВерсии
- Granite Guardian 4.1 8B
- Granite Guardian 3.3 8B
- Granite Guardian 3.2 5B и 3B-A800M
- Granite Guardian 3.1
- Granite Guardian 3.0 2B и 8B
- Granite Guardian HAP 38M и 125M (токсичность)
Как внедряю у заказчика
- ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
- УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
- ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
- ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.
Похожие модели
Модерация и безопасностьLlama GuardMeta · СШАКоммерция с условиями
Модели-фильтры, которые проверяют запросы к чат-боту и его ответы на опасные темы по списку категорий. Версия 4 проверяет и картинки. Русский официально не заявлен.
ПодробнееМодерация и безопасностьQwen3GuardAlibaba (Qwen) · КитайМожно в коммерциюФильтры безопасности на 119 языков, русский в их числе. Версия Stream проверяет ответ бота прямо во время его генерации и может оборвать его на лету.
ПодробнееТекстIBM GraniteIBM · СШАМожно в коммерциюКорпоративные модели IBM с прозрачными данными обучения и сертификацией ISO 42001. Granite 4 это гибрид Mamba и трансформера, экономный по памяти.
Подробнее