Gemma от DeepMind и Сингапура: каскад против мошеннических диалогов

Что показали в Сингапуре

В записи блога DeepMind от 14 октября 2026 года сказано, что инвестиционные аферы, фальшивые предложения работы и подмена госслужащих дают больше половины зарегистрированных преступлений Сингапура. Ущерб с 2019 года превысил 4 миллиарда сингапурских долларов, и до 80% потерь приходится на сложную социальную инженерию, то есть на схемы с долгим втиранием в доверие. Проект показали на Singapore International Cyber Week.

Устроен он как каскад. Первый этап: лёгкий классификатор с низким энергопотреблением просматривает входящие сообщения. Это бережёт батарею. Второй этап: если подозрение возникло, дообученная лёгкая Gemma смотрит более длинный фрагмент переписки и подтверждает угрозу или снимает тревогу. Тогда на устройстве появляется предупреждение с советом не торопиться отдавать данные или деньги. Дообучали на местных диалогах: подмена госорганов, банков, известных людей.

Про приватность в записи три пункта. Модель читает переписку на устройстве и только с согласия пользователя, на условиях приложения, куда её встроят. Ни правительство Сингапура, ни Google через это доступа к разговорам не получают. Обучение шло в изолированной среде GovTech в Google Cloud без личных данных, на обезличенных жалобах и данных разведки; проверяли на синтетических диалогах. Внедрение авторы называют поэтапным и пишут, что изучают похожие проекты в других странах.

Опубликована ли модель

Я проверял 19 октября 2026 года. В записи DeepMind нет ссылок на веса, датасет или репозиторий. Поиск по Hugging Face со словом scam среди моделей организации google вернул пустой список. У организации govtech там другие модели, этой я не нашёл. Kaggle напрямую не проверял, ссылок на него в записи нет.

С лицензией неясно. У Gemma свои условия: на странице Gemma Terms of Use стоит пометка «последнее изменение 1 апреля 2026», а для Gemma 4 она отсылает к отдельной лицензии. Какая версия лежит в основе сингапурской модели, в записи не сказано. Значит, и как будет лицензироваться дообученный вариант, неизвестно.

Не названы приложения, сроки запуска, точность, доля ложных срабатываний. В одном вторичном пересказе я видел конкретные проценты точности. В первоисточнике их нет, поэтому здесь их не будет.

Та же задача у бизнеса в России

Схемы знакомые. Клиенту пишет «менеджер» с поддельного аккаунта и просит предоплату на карту физлица. Бухгалтеру в мессенджере приходит «руководитель просит срочно перевести», подробнее об этом я писал в статье про дипфейки и голосовое мошенничество. В чат поддержки прилетают фишинговые ссылки, о том, как их распознавать, есть отдельный разбор. Звонки «из банка» идут мимо вашего чата, но клиент потом пишет вам.

Государство занимается инфраструктурой. Минцифры вынесло на обсуждение проект третьего пакета мер против мошенничества. В нём есть хранение сведений об аккаунтах три года, о чём я писал в статье про журнал аккаунтов, и правила для виртуальных АТС и SMS-рассылок, их разбор в соседней статье. Это проекты, не законы: обсуждение шло до 15 октября 2026 года, начало действия в тексте указано на 1 марта 2028 года. В вашу переписку они не заглядывают, защита разговоров с клиентами и сотрудниками остаётся на вас.

Что важно учесть

Переписка это персональные данные, и она охраняется тайной: статья 23 Конституции гарантирует тайну переписки. В Сингапуре модель читает чаты на телефоне самого человека и с его согласия. Если же сервер компании читает рабочий чат сотрудников или обращения клиентов, это другая ситуация. Нужны согласие или уведомление, политика обработки данных и, для рабочих чатов, внутренний документ. Как это оформить по 152-ФЗ, вопрос к юристу, нормы я здесь не придумываю. Отправка текстов клиентов во внешний ИИ-сервис тоже передача данных третьему лицу, её надо согласовать заранее.

Вторая оговорка: сингапурскую модель обучали на местных схемах. Будет ли такой подход работать на русских диалогах, подтверждений нет. Любой самодельный классификатор придётся замерять на ваших примерах, иначе вы получите либо поток ложных тревог, либо пропущенные схемы.

Третья: в сингапурской схеме модель только предупреждает, решает человек. Автоматическая блокировка клиента по догадке модели ударит по честным людям.

Что можно сделать уже сейчас: чек-лист из 7 пунктов

1. Выпишите «денежные» действия: смена реквизитов, возврат, перевод контрагенту, выдача доступа. Для каждого определите, кто имеет право его запросить.
2. Введите подтверждение второй стороной: платёж по новым реквизитам проводят два человека, второй не знает первого лично и проверяет по списку.
3. Добавьте задержку. Условный пример: новые реквизиты вступают в силу на следующий рабочий день, срочные просьбы идут в ту же очередь. Мошенник рассчитывает на спешку.
4. Проверяйте по второму каналу: звонок по номеру из договора или из вашей базы. Номер из самого сообщения не годится.
5. Заведите правила первого этапа для чата поддержки и бота: просьба прислать код из SMS, предоплата на карту физлица, слова «срочно» и «безопасный счёт», смена получателя платежа. Фильтр дешёвый и работает без нейросети.
6. Разрешите боту присылать только ссылки с вашего списка адресов. Чужую ссылку в чате помечайте и не открывайте автоматически.
7. Всё помеченное отправляйте человеку в очередь с коротким журналом: что сработало, кто решил, чем кончилось. Раз в месяц разбирайте этот журнал вместе с сотрудниками, как описано в статье про кибергигиену.

Когда правила накопят материал, поверх них можно поставить лёгкий классификатор и проверять сомнительные диалоги более сильной моделью. Это и есть второй этап каскада. Развернуть такую схему для вашего чата или бота, составить регламент подтверждений и обучить сотрудников я могу в рамках услуги по кибербезопасности. Готового сингапурского инструмента у меня нет.

Частые вопросы

Можно ли скачать эту дообученную Gemma?

Ссылок на веса в первоисточнике нет, и на Hugging Face по слову scam от организации google я ничего не нашёл. Если модель опубликуют, лицензию читайте по самому репозиторию.

Можно ли взять открытую модель и читать ею чат поддержки?

Технически возможно. Сначала нужен юридический ответ про согласие и тайну переписки, потом проверка на ваших диалогах. Для старта хватит правил из чек-листа, модель добавляйте позже.

Поможет ли это от звонков «из банка»?

Звонок идёт мимо вашего чата. Сингапурский детектор работает с текстовыми сообщениями. От звонков защищает процесс: сотрудник кладёт трубку и перезванивает сам, а деньги по просьбе по телефону не двигаются.

Коротко о главном

DeepMind и GovTech Singapore показали каскад: лёгкий фильтр на всех входящих, тяжёлая модель на подозрительных, решение за человеком. Модель не опубликована, лицензия и сроки не названы, точность не раскрыта. Идею можно взять без модели: правила, задержка денежных действий, подтверждение второй стороной и очередь на проверку.

Если хотите, чтобы я собрал такую защиту для вашего чата поддержки и сотрудников, напишите мне в Telegram кодовое слово «ПОДЛОГ».