Рано или поздно помощник на нейросети уверенно скажет клиенту неправду: назовёт цену, которой нет, пообещает срок, который вы не выдержите, или придумает условие доставки. Это не повод отказываться от автоматизации — это повод построить вокруг неё понятную страховку. Ниже порядок действий, который занимает один вечер и снимает большую часть риска.
Шаг 1. Сначала выручить клиента, потом разбираться
Человек не должен страдать из-за того, что робот ошибся. Напишите ему первым, извинитесь и подтвердите верные условия. Разбор причин — после. Это дешевле, чем потерянный клиент и отзыв, который потом висит годами.
Шаг 2. Понять, какого типа была ошибка
Практически все ошибки помощника сводятся к трём видам: он не знал факт (нет данных), знал устаревший факт (данные не обновили) или отвечал на вопрос, который вообще не должен был брать на себя. Тип ошибки определяет лечение, поэтому не пропускайте этот шаг.
Шаг 3. Закрыть источник, а не симптом
«Запретить эту фразу» — бесполезно: помощник найдёт другую формулировку. Работают три вещи: добавить верный факт в базу знаний рядом с тем местом, где он должен применяться; ограничить список тем, по которым помощник отвечает сам; научить его честно отвечать «уточню у специалиста», когда данных нет. Фраза-заглушка без ограничения тем проблему не решает.
Шаг 4. Договориться о триггерах передачи человеку
Есть темы, где ошибка стоит дороже всего: жалобы, деньги и сроки, юридические вопросы, всё нестандартное. Пропишите их списком и сделайте так, чтобы помощник не решал их сам вообще. Отдельно проверьте, что передача действительно происходит: напишите тестовое сообщение с жалобой и посмотрите, кто получил уведомление.
Шаг 5. Раз в неделю читать чужие диалоги
Десять случайных переписок за неделю дают больше, чем месяц догадок. Читайте не для того, чтобы ругать робота, а чтобы выписывать повторы: один и тот же непонятный вопрос, одна и та же просьба, один и тот же тупик. Каждый повтор — это либо строчка в базе знаний, либо новая автоматизация.
Что дальше
Страховка нужна не вместо автоматизации, а вместе с ней. Если рутинные задачи (переписка, заявки, отчёты, файлы, выгрузки) до сих пор делаются руками, их можно описать обычными словами и отдать роботу: webify.bot принимает задачу на русском и выполняет её на компьютере — без VPN и без программиста. Первый разумный шаг — взять одну самую частую операцию и посмотреть, что получится.