· 7 мин чтения
Языковая модель в поддержке: где её нельзя пускать к клиенту
Делали бот для банка и отказались отдавать модели все сценарии. Разбираем, как делить вопросы на те, где модель уместна, и те, где она опасна.
В 2025 году мы делали бот поддержки для банка. Заказчик хотел, чтобы на все вопросы отвечала языковая модель. Мы отказались и в итоге отдали модели примерно треть сценариев. Объясню логику — она применима к любой поддержке, не только в финансах.
Главный вопрос: сколько стоит ошибка
Языковая модель — вероятностный инструмент. Она будет ошибаться, и вопрос не в том, как это исключить, а в том, что произойдёт при ошибке.
Если модель неправильно подскажет часы работы отделения — человек приедет не вовремя, расстроится, напишет отзыв. Неприятно, но обратимо. Если модель назовёт неверную процентную ставку по кредиту — это обещание от имени банка, данное в письменном виде. Дальше возможны претензия, спор и репутационный ущерб, который деньгами не закрывается.
Мы делим сценарии не по сложности вопроса, а по цене неправильного ответа.
Что мы отдали детерминированной логике
Всё, что имеет один правильный ответ и берётся из системы:
- Остаток по счёту и движение средств
- Статус заявки на кредит
- Адреса, часы работы, наличие банкоматов
- Условия тарифов и продуктов — выдаются цитатой из документа, без пересказа
- Блокировка карты и другие действия, меняющие состояние
Это кнопки и заранее написанные ответы. Ноль шансов на выдумку, мгновенная скорость, нулевая стоимость запроса. Такие вопросы — около 60 % обращений.
Что отдали модели
Свободные формулировки, где человек сам не знает, как называется его проблема: «у меня списали дважды, что делать», «я переезжаю, нужно ли что-то менять», «не могу войти, пишет какую-то ошибку».
Здесь задача модели — не ответить, а понять и направить. Она определяет, о чём речь, и либо даёт ответ строго из базы знаний, либо переводит на оператора.
Три ограничения, без которых мы бы не запустились
Отвечать только по документам
Модель получает вопрос и выдержки из базы знаний банка. В инструкции прямо запрещено отвечать за их пределами. Если в документах ответа нет, правильное поведение — сказать «не знаю» и перевести на человека, а не собрать ответ из общих представлений о банках.
Ссылка на источник в каждом ответе
Под ответом указывается раздел документа, откуда он взят. Две причины. Клиент может проверить. И мы можем проверить: при разборе спорного случая видно, что именно прочитала модель.
Никаких действий
Модель не блокирует карты, не меняет лимиты, не отправляет заявки. Она может только предложить это сделать, а подтверждение идёт через обычную кнопку. Модель, которая совершает необратимые действия по результатам разбора текста, — неоправданный риск.
Что получилось
70 % обращений закрываются без оператора. Среднее время ответа — 9 секунд вместо 7 минут ожидания в колл-центре. За год работы ни одного случая, когда бот сообщил неверные условия продукта.
При этом доля вопросов, уходящих на оператора, выше, чем обещают поставщики готовых решений. Мы считаем это правильным результатом: лучше перевести лишние 10 % на человека, чем один раз ответить уверенно и неверно.