ИИ-консультант на GigaChat для интернет-магазина: подбор оборудования за 3 секунды и без выдуманных ответов

Клиент — интернет-магазин оборудования для солнечных станций и резервного питания: гибридные инверторы, литиевые аккумуляторы, панели и готовые комплекты. Сайт мы сделали с нуля — об этом кейс разработки и продвижения магазина.

Оборудование сложное. Покупатель спрашивает: подойдёт ли этот аккумулятор к моему инвертору, хватит ли мощности на скважинный насос, сколько модулей нужно на сутки автономии, что значит ошибка на дисплее. Ошибка в ответе стоит дорого: неверно собранная система не потянет нагрузку, а неправильная расшифровка аварии может стоить оборудования. Менеджер не может отвечать круглые сутки — нужен консультант, который знает каталог и не выдумывает.

• Российский сервис. Переписка покупателей не уходит за рубеж, а для магазина это ещё и вопрос персональных данных.
• Оплата в рублях. Без VPN, иностранных карт и риска, что доступ отключат.
• Русский технический текст. GigaChat хорошо понимает вопросы вроде «сколько модулей на сутки автономии» и отвечает без кальки с английского.
• Модель быстро развивается. Сбер регулярно выпускает новые версии, и переход между ними у нас — одна строка в настройках: если основная модель недоступна или кончились токены, сервер сам пробует следующую.

Начали с GigaChat-2-Max — самой «умной» модели на тот момент. На практике она отвечала 18 секунд на «привет» и до 90 секунд на обычный вопрос, а длинное ТЗ клиента не укладывалась в минуту, после которой сервер обрывает запрос. Покупатель столько ждать не будет.

• GigaChat-3-Pro — основная модель: 2–6 секунд на ответ, все тесты подбора проходит.
• GigaChat-2-Pro и GigaChat-2 — запасные, если основная недоступна.
• GigaChat-3-Ultra — быстрая, но на длинном ТЗ вернула пустой ответ. Не используем.

Степень «творчества» модели оставили 0,3: проверили на тестах по три прогона — 57 из 57 ответов верные, при 0,1 лучше не стало.

Каждый ответ пишется в журнал одной строкой: вопрос, ответ, модель, время каждого шага, какие товары подобраны. Телефоны и почты в журнале скрываются, IP не записывается — разговор связывается обезличенным кодом. Записи старше 120 дней удаляются.

Цикл доработки:

1. Скрипт забирает журнал с сервера и собирает отчёт: ошибки, время ответов, вопросы, на которые консультант не нашёл товар.
2. Каждый плохой ответ сначала становится тестом — вопросом с проверкой, что в ответе должно быть и чего быть не должно.
3. Чиним по месту: неверный факт — в данных каталога, не нашёл модель — в коде подбора, поведение — одной строкой в правилах. Цены, совместимость и ссылки — только в данных и коде, не в правилах для модели.
4. Перед каждой выкладкой прогоняются все тесты. Сейчас их 24.

• Медленная модель. GigaChat-2-Max отвечала до 90 секунд. Перешли на GigaChat-3-Pro — 2–6 секунд.
• Обрыв на длинном ТЗ. Покупатель прислал подробное техзадание, ответ не уложился в минуту, и в заявку менеджеру ушёл только обрезанный вопрос. Теперь у ответа бюджет 45 секунд, а заявка из чата уходит целиком.
• Выдуманные расшифровки ошибок. На один и тот же код аварии модель в разных разговорах давала разные причины — то аккумулятор, то напряжение панелей. Для покупателя это не неточность, а риск сжечь оборудование. Теперь расшифровку берёт сервер из таблицы на 130 кодов из заводских руководств, а коды чужих брендов консультант не расшифровывает вовсе.
• Лишние обобщения. Модель написала «все эти аккумуляторы поддерживают ток до 135 А», хотя у одного из них предел 100 А. Сервер теперь убирает такие фразы, если цифры нет в характеристиках каждой названной модели.

Все четыре случая нашли по журналу в первые дни работы и исправили в тот же день — каждый стал тестом, чтобы не вернуться.

• Лимиты: не больше 40 вопросов в час и 120 в сутки с одного адреса и общий потолок 500 запросов в сутки на сайт — бот или шутник не сожгут бюджет.
• Разговор — до 30 реплик клиента, в запрос уходят последние 12 сообщений.
• Под чатом честная подпись: «Отвечает ИИ, может ошибаться. Цену и наличие подтвердит менеджер».

Один ответ — в среднем около 22 тыс. токенов: в запросе каталог, правила и расчёты. По пакетным ценам GigaChat Pro (1 500 ₽ за 3 млн токенов) это около 11 ₽ за ответ. При нынешней посещаемости расход — не больше 20 тыс. ₽ в месяц. Когда посетителей станет больше, будем тестировать более дешёвые модели на тех же тестах.