Иллюзия идеального ИИ: почему карты и логотипы всё ещё правит человек

Вокруг генеративного ИИ сложился удобный, но опасный миф: «нажал кнопку — получил готовый результат». Заказчику продают ощущение, что дизайнер и картограф больше не нужны, что достаточно текстового запроса. Мы работаем с этими инструментами каждый день и хотим честно показать обратную сторону: где именно нейросети ошибаются, почему эти ошибки системные, а не случайные, и как мы выстраиваем процесс, чтобы красивый черновик от модели не превратился в дорогую ошибку на проде. Это не статья против ИИ — наоборот, мы его активно применяем. Это статья про то, где проходит граница между «сгенерировано» и «сделано».

Что мы называем иллюзией идеального ИИ

Начнём с главного технического факта, который объясняет почти все провалы генеративных моделей. Нейросеть не «понимает» изображение или текст в человеческом смысле. Она не знает, что такое река, город или буква. Диффузионная модель обучена предсказывать наиболее вероятное распределение пикселей для заданного описания, а языковая модель — наиболее вероятный следующий токен. Внутри нет ни физики, ни географии, ни семантики. Есть статистика совпадений на гигантском корпусе данных.

Из этого следует важное: там, где в мире действуют жёсткие правила — геометрия, анатомия, орфография, инженерные ограничения, — вероятностная модель начинает «плыть». Она выдаёт то, что похоже на правду, но не является ею. Для человека разница между «река впадает в озеро» и «река проходит рядом с озером» — фундаментальная. Для модели это почти неразличимый визуальный шум: два синих пятна рядом. Она подберёт композицию, которая выглядит убедительно на превью, но разваливается при внимательном взгляде эксперта или, что хуже, при взгляде местного жителя, который эту реку знает с детства.

Мы называем это иллюзией идеального ИИ: результат выглядит завершённым и профессиональным ровно настолько, чтобы усыпить бдительность, но содержит ошибки, которые невозможно заметить без предметной экспертизы. Красивая обёртка маскирует неверную суть. И чем лучше становятся модели визуально, тем коварнее эта иллюзия — потому что доверие растёт быстрее, чем реальная надёжность.

Кейс: галлюцинации на графических картах

Один из самых наглядных примеров — генерация стилизованных графических карт региона. Речь не про точную геоподоснову из ГИС, а про декоративные, «рисованные» карты для афиш, туристических материалов, оформления мероприятий. Заказчику нужна карта, которая передаёт характер местности: горы, реки, озёра, ключевые точки. Казалось бы, идеальная задача для генеративной модели — рисуй красиво.

На практике происходит следующее. Мы просим модель изобразить участок с известной рекой и озером. Модель выдаёт эффектную иллюстрацию — с тенями, фактурой, приятной палитрой. Но при проверке выясняется, что русло реки нарисовано впадающим не туда: вместо реального устья модель «дорисовала» приток, которого не существует, потому что композиционно так «красивее» и статистически такой паттерн встречался в обучающих данных. В другом варианте модель путает две соседние реки, сливая их в одну или меняя их течение местами. Для нейросети «река рядом с озером» — это абстрактное сочетание форм и цветов, а не гидрологическая система с направлением потока, водоразделом и устьем.

Проблема усугубляется тем, что эти ошибки не выглядят как ошибки. Нет разорванных линий или очевидных артефактов — есть уверенно нарисованная неправда. Если такую карту отдать в печать на баннер фестиваля или в туристический буклет, её увидят тысячи людей, для которых география родного края — не абстракция. Репутационный удар от «реки, текущей не в ту сторону» несопоставим с экономией пары часов работы картографа.

Поэтому в задачах с картами мы никогда не берём вывод модели как финал. Мы используем его как быстрый черновик композиции и настроения, а затем накладываем реальную геометрию: сверяемся с топоосновой, вручную правим русла, направления, взаимное расположение объектов. ИИ экономит нам время на «как это может выглядеть», но ответственность за «как это есть на самом деле» остаётся на человеке.

Кейс: логотипы и «каша из букв»

Вторая показательная история — генерация логотипов. Здесь у диффузионных моделей есть известная, почти хрестоматийная слабость: они не умеют в текст внутри картинок. Модель прекрасно рисует абстрактную графику, символы, стилизованные формы, но как только в задании появляется название бренда, начинается беда.

Мы делали фирменный стиль для одного мероприятия — назовём его обобщённо, брендом зимнего фестиваля. Модель выдавала действительно красивые визуальные концепции: настроение, цвет, характер — всё на месте. Но внутри логотипа вместо читаемого названия появлялась каша из букв: символы, похожие на кириллицу, но не складывающиеся в слова, лишние глифы, зеркальные и полусъеденные знаки, а иногда — дополнительный текстовый артефакт, который модель «на всякий случай» добавила снизу. Причина та же, что и с картами: для модели буква — это не носитель смысла, а форма, которую нужно воспроизвести статистически правдоподобно. Она не знает, что «ф» и «ф с лишней палочкой» — это разница между словом и мусором.

Ни один заказчик не примет логотип, в котором название его бренда написано с ошибкой или нечитаемо. Логотип — это юридически и коммерчески значимый объект: он идёт на документы, вывески, мерч, в рекламу. Здесь цена ошибки ещё выше, чем на декоративной карте.

Наш подход: мы берём у модели визуальную идею — форму знака, цветовое решение, общее настроение, — но типографику собираем руками в векторном редакторе, с настоящим шрифтом, правильным кернингом и выверенной читаемостью. ИИ помогает нам не упереться в чистый лист и перебрать десятки направлений, но финальный знак — это ручная векторная работа, а не экспортированный из модели растр.

Human-in-the-loop: как мы работаем на самом деле

Из этих кейсов вырастает наша рабочая философия, которую в индустрии называют human-in-the-loop — «человек в контуре». Суть в том, что ИИ и человек занимают разные роли, и подменять одного другим — ошибка.

Роль ИИ у нас — генератор вариантов и ускоритель черновой фазы. Там, где раньше дизайнер тратил день на пять концепций, модель за пять минут выдаёт полсотни направлений. Это бесценно на старте: быстро отсечь тупиковые идеи, нащупать удачную композицию, показать заказчику диапазон возможного. На этом этапе не нужна точность — нужна широта поиска, и здесь генеративные модели незаменимы.

Роль человека — отбор, верификация и доработка. Дизайнер или картограф смотрит на полсотни сырых вариантов и выбирает один-два с наибольшим потенциалом. А дальше начинается настоящая работа: правка анатомии и геометрии, приведение форм к реальности, сборка типографики, устранение галлюцинаций, доведение до технических требований печати и вёрстки. Именно этот этап отделяет «картинку из нейросети» от коммерческого продукта, за который можно отвечать перед клиентом.

Мы формулируем это для заказчиков честно: ИИ не убирает специалиста из процесса, он меняет, на что специалист тратит время. Меньше механической рутины на старте — больше внимания к качеству, точности и деталям на финише. Мы не продаём «магию по кнопке». Мы гарантируем результат, а гарантия результата в мире вероятностных моделей возможна только через человеческий контроль на последней миле.

И это, на наш взгляд, устойчивая позиция. Модели будут становиться лучше, галлюцинаций станет меньше, но сама природа вероятностной генерации никуда не денется: там, где цена ошибки высока, кто-то должен взять на себя ответственность за истинность результата. Пока эту ответственность нельзя делегировать статистике — её несёт человек. Именно за это платит заказчик, и именно это мы считаем своей работой.

Частые вопросы

Значит ли это, что вы против ИИ в дизайне? Нет, ровно наоборот. Мы используем генеративные модели каждый день, они кратно ускоряют черновую фазу и расширяют поле идей. Мы против слепой веры в вывод модели как в финальный результат — это и приводит к ошибкам на проде.

Почему нельзя просто дообучить модель и убрать галлюцинации? Дообучение снижает частоту ошибок, но не отменяет вероятностную природу генерации. Модель по-прежнему предсказывает правдоподобное, а не истинное. Там, где действуют жёсткие правила — география, орфография, инженерия, — финальную проверку всё равно должен делать человек с предметной экспертизой.

Насколько дороже получается работа с человеческим контролем, чем «просто сгенерировать»? На старте кажется, что «просто сгенерировать» дешевле. Но стоимость исправления ошибки, которая уже ушла в печать, на вывеску или в фирменный стиль, многократно превышает экономию. Мы считаем человеческий контроль не удорожанием, а страховкой от куда более дорогих провалов.

Как вы решаете, где ИИ можно доверить больше, а где меньше? Простое правило: чем выше цена ошибки и чем жёстче правила предметной области, тем плотнее человеческий контроль. Декоративный фон — можно доверить модели почти целиком. Карта реального региона или логотип бренда — только через ручную верификацию.

Коротко о главном

Генеративный ИИ — мощный инструмент, но он не понимает физический мир и локальный контекст: он предсказывает вероятные пиксели и слова. Отсюда системные, а не случайные ошибки — реки, впадающие не туда, и нечитаемые названия внутри логотипов. Красивая обёртка маскирует неверную суть, и именно это делает иллюзию идеального ИИ опасной.

Наш ответ — human-in-the-loop: ИИ генерирует десятки вариантов за минуты, человек отбирает лучший и доводит его до коммерческого качества, отвечая за истинность результата. Мы не продаём магию по кнопке — мы гарантируем качество через человеческий контроль на последней миле. Если вам важен результат, за который кто-то реально отвечает, а не просто «картинка из нейросети», — давайте обсудим ваш проект.