Llama Guard или ShieldGemma: чем фильтровать ответы бота

Обе модели делают одно: проверяют вопросы пользователей и ответы бота на опасный контент по списку категорий, обе есть в Ollama и запускаются на процессоре. Ни у одной русский официально не заявлен, поэтому на русскоязычном проекте фильтр надо проверять на своих примерах, а не принимать на веру. Llama Guard покрывает размеры 1B – 12B, версия 4 от 2025-04 проверяет и картинки, лицензии семейства Llama разрешают коммерцию с ограничениями. ShieldGemma идёт от 2B до 27B, ShieldGemma 2 от 2025-03 проверяет сгенерированные картинки перед публикацией, лицензия Gemma Terms of Use тоже разрешает коммерцию с ограничениями по видам использования. Если вы уже работаете на моделях одного из семейств, проще взять фильтр оттуда же.