Недавно один из наших клиентов — руководитель логистической компании — рассказал историю, которая заставила меня задуматься о границах автоматизации. Они внедрили «умного бота» для обработки заявок от водителей. Бот должен был отвечать на типовые вопросы: где забрать груз, какие документы нужны, когда будет оплата. Всё шло хорошо ровно до того момента, когда бот начал самостоятельно подтверждать изменения маршрутов.
Один водитель написал: «Маршрут через Оренбург закрыт из-за погоды, еду через Самару, ок?» Бот проанализировал сообщение, нашёл в базе данных альтернативный маршрут через Самару, посчитал, что разница в километраже приемлемая, и ответил: «Подтверждено. Новый маршрут: Москва — Самара — Алматы. Документы обновлены». Проблема в том, что маршрут через Самару требовал дополнительного согласования с казахстанской таможней, о чём бот не знал. Груз застрял на границе на трое суток. Убытки — несколько сотен тысяч рублей.
Эта история — не про плохую технологию. Она про границу между чат-ботом и AI-агентом, которую многие компании переходят, не понимая последствий. Давайте разберёмся, где эта граница проходит и как её правильно настроить.
От FAQ-бота к автономному агенту: что изменилось
Когда люди слышат «чат-бот», большинство представляет себе что-то вроде автоответчика: задаёшь вопрос — получаешь заготовленный ответ. И долгое время так оно и было. Классические боты работали по принципу «если клиент спросил X, ответь Y». Никакой магии, просто дерево решений с заранее прописанными сценариями.
Потом пришли большие языковые модели — GPT, Claude, GigaChat — и всё изменилось. Бот перестал быть тупым автоответчиком. Теперь он может понять вопрос, даже если тот сформулирован криво. Может генерировать ответы, а не выбирать из заготовок. Может поддерживать контекст разговора на протяжении десятков сообщений. Это уже не чат-бот в классическом понимании — это AI-ассистент.
Но настоящая революция случилась, когда этим ассистентам дали инструменты. Представьте: бот не просто отвечает на вопрос «какой у меня баланс», а реально заходит в CRM, находит карточку клиента, смотрит историю платежей и формирует персональный ответ. Или не просто говорит «оставьте заявку», а сам создаёт эту заявку в системе, назначает ответственного менеджера и ставит задачу на перезвон.
Вот это уже AI-агент. Не просто собеседник, а сущность, которая может действовать в реальном мире. И здесь начинаются интересные вопросы про автономность, доверие и контроль.
Три уровня «интеллекта»: бот, ассистент, агент
Чтобы не путаться в терминах, введу простую классификацию. Использую её, когда объясняю клиентам, что именно они получат после внедрения.
Чат-бот
Работает по сценариям. Распознаёт ключевые слова или простые интенты, выдаёт заготовленные ответы. Если вопрос не попадает в сценарий — переводит на оператора или говорит «не понял».
Пример: Бот на сайте, который отвечает на FAQ и собирает контактные данные для заявки.
AI-ассистент
Понимает естественный язык, помнит контекст, может генерировать уникальные ответы. Обычно работает на базе LLM. Умеет отвечать на вопросы, которых нет в сценариях, если у него есть база знаний.
Пример: Бот поддержки, который отвечает по документации компании и понимает сложные формулировки.
AI-агент
Всё то же самое, плюс умеет действовать: вызывать API, создавать записи в базах данных, отправлять письма, планировать задачи. Может принимать решения и выполнять их без участия человека.
Пример: Бот, который сам создаёт сделки в CRM, назначает встречи и отправляет коммерческие предложения.
Разница между этими уровнями — не в «уме», а в полномочиях. Ассистент может быть очень умным, но если у него нет доступа к системам — он остаётся советчиком. Агент же получает возможность менять состояние внешнего мира. И именно это делает его одновременно мощным и потенциально опасным.
Что умеет AI-агент, чего не умеет обычный бот
Когда мы говорим об агентах, мы имеем в виду несколько ключевых способностей, которые отличают их от простых чат-ботов. Эти способности — не маркетинговые buzzwords, а вполне конкретные технические возможности.
Планирование цепочки действий. Обычный бот работает в режиме «вопрос-ответ»: получил сообщение — обработал — ответил. Агент может разбить сложную задачу на шаги и последовательно их выполнять. Например, на запрос «подготовь отчёт по продажам за месяц и отправь его директору» агент сначала определяет, что нужно сделать (запросить данные, сформировать отчёт, найти email директора, отправить письмо), а потом выполняет каждый шаг.
Использование инструментов (tool calling). Это, пожалуй, главное отличие. Агент может вызывать внешние функции: делать запросы к API, работать с базами данных, отправлять сообщения в другие системы. Он не просто советует «позвоните по номеру X» — он сам может инициировать звонок или создать задачу на звонок в CRM.
Самокоррекция при ошибках. Если что-то пошло не так — например, API вернул ошибку — агент может попробовать другой подход. Обычный бот в такой ситуации просто сломается или выдаст пользователю техническое сообщение об ошибке. Агент же может сказать «не удалось найти клиента по email, попробую по номеру телефона» и продолжить работу.
Работа с неструктурированными задачами. Классический бот требует чётких команд в ожидаемом формате. Агент может разобраться в размытой формулировке. «Разберись с этим клиентом, он вчера жаловался» — и агент найдёт вчерашнее обращение, посмотрит историю, предложит решение.
Технически это работает так:
LLM получает не только текст сообщения пользователя, но и описание доступных инструментов. Например: «У тебя есть функция search_crm(query) для поиска клиентов, функция create_task(title, assignee) для создания задач, функция send_email(to, subject, body) для отправки писем».
Модель анализирует запрос и решает, какие инструменты нужны для его выполнения. Затем генерирует вызовы этих инструментов с нужными параметрами. Система выполняет вызовы и возвращает результаты модели, которая продолжает работу.
Пять сценариев, где AI-агент реально полезен
Хватит теории — перейдём к практике. В каких ситуациях автономность агента реально помогает бизнесу?
1. CRM-агент: работа с карточками и сделками
Менеджеры по продажам ненавидят заполнять CRM. Это факт, с которым сталкивается любая компания. AI-агент может взять эту рутину на себя: после звонка анализирует запись разговора, заполняет поля в карточке клиента, создаёт задачи на follow-up, обновляет статус сделки.
Один из наших клиентов — компания по продаже промышленного оборудования — внедрил такого агента. Менеджер заканчивает звонок, через минуту в CRM уже есть резюме разговора, обновлённая информация о потребностях клиента и задача «отправить КП до пятницы». Экономия времени — около часа в день на каждого менеджера.
2. HR-агент: скрининг и онбординг
Первичный отбор резюме — идеальная задача для агента. Он может прочитать сотни резюме, сопоставить их с требованиями вакансии, отсортировать по релевантности и даже отправить приглашения на интервью подходящим кандидатам. При онбординге агент может отвечать на типовые вопросы новичков, подсказывать, какие документы заполнить, напоминать о дедлайнах.
Важно понимать: агент не принимает решение о найме — это остаётся за людьми. Но он экономит время HR-специалистов на механической работе.
3. Агент поддержки: сложные кейсы с эскалацией
Обычный бот поддержки справляется с простыми вопросами. Но что делать, если проблема клиента требует действий в нескольких системах? Например, клиент пишет: «Я оплатил заказ, но статус не обновился, и теперь служба доставки говорит, что заказ отменён».
Агент может проверить платёж в платёжной системе, найти заказ в CRM, посмотреть статус в системе доставки, понять, где произошёл сбой, и предложить решение. Если проблема сложная — передать контекст живому оператору, чтобы тот не начинал с нуля.
4. Агент продаж: квалификация и подготовка КП
Квалификация лидов — ещё одна область, где агент показывает себя хорошо. Он может провести первичный разговор с потенциальным клиентом, выяснить потребности, бюджет, сроки, и на основе этого либо передать «горячего» лида менеджеру, либо добавить в nurturing-программу.
Более продвинутый сценарий — автоматическое формирование коммерческого предложения. Агент собирает информацию о потребностях клиента, подбирает подходящие продукты из каталога, рассчитывает стоимость с учётом индивидуальных скидок и генерирует PDF с КП. Менеджеру остаётся проверить и отправить.
5. Операционный агент: отчёты и мониторинг
Руководители часто спрашивают одно и то же: «Сколько у нас сейчас открытых заявок?», «Какая конверсия за эту неделю?», «Кто из менеджеров выполнил план?». Агент может отвечать на такие вопросы в режиме реального времени, обращаясь к данным в CRM и аналитических системах.
Более того, агент может проактивно мониторить важные метрики и сообщать о проблемах. «Конверсия в сделку упала на 15% за последние три дня — хочешь, я покажу детализацию по менеджерам?»
Пять сценариев, где AI-агент опасен
Теперь о рисках. Автономность — палка о двух концах. Есть ситуации, когда давать агенту свободу действий просто опасно.
Когда автономность агента создаёт риски:
- Финансовые операции без подтверждения. Агент, который может сам инициировать платежи, возвраты или изменять цены — это потенциальная катастрофа. Даже если в 99% случаев он будет прав, один процент ошибок может стоить очень дорого. Все операции с деньгами должны требовать человеческого подтверждения.
- Юридически значимые решения. Подписание договоров, изменение условий соглашений, подтверждение гарантийных обязательств — всё это требует человеческого контроля. Даже если агент правильно понял ситуацию, он не может нести юридическую ответственность.
- Коммуникация с VIP-клиентами. Ошибка в общении с ключевым клиентом может стоить многомиллионного контракта. Для таких случаев агент должен только готовить черновики, а финальную коммуникацию ведёт человек.
- Критичные системы и инфраструктура. Агент, который может что-то «сломать» — например, отключить сервис или удалить данные — должен быть ограничен максимально строго. Лучше вообще не давать ему доступ к таким операциям.
- Ситуации с высокой неопределённостью. Если агент не уверен в правильности своего понимания ситуации, он должен спрашивать, а не действовать. К сожалению, LLM не всегда понимают, когда они «не понимают» — это отдельная проблема, о которой поговорим ниже.
Вернёмся к истории про логистическую компанию из начала статьи. Проблема была не в том, что бот «тупой». Наоборот — он был слишком умным для своих полномочий. У него был доступ к изменению маршрутов, но не было понимания всех последствий этих изменений. Классический случай, когда технически всё работает, а бизнес-логика нарушена.
Границы автономности: как настроить правильно
Хорошая новость: автономность — не тумблер «вкл/выкл». Её можно (и нужно) настраивать гранулярно, для каждого типа действий отдельно.
Approval Workflow: согласование действий
Самый простой способ контроля — требовать подтверждения для определённых действий. Агент может самостоятельно создавать задачи, но для отправки письма клиенту нужно подтверждение менеджера. Может готовить коммерческое предложение, но перед отправкой показывает его человеку.
Технически это реализуется через промежуточный статус: агент создаёт действие в статусе «на согласовании», уведомляет ответственного сотрудника, и только после подтверждения выполняет его.
Лимиты на действия
Можно ограничивать не типы действий, а их масштаб. Агент может сам менять статус сделки на любой, кроме «выигран» или «проигран». Может создавать скидки, но не больше 5%. Может отправлять письма, но не более 10 в час.
Такие лимиты позволяют агенту быть полезным в рутинных ситуациях, но защищают от катастрофических ошибок в нестандартных случаях.
Human-in-the-loop: человек в контуре
Это более общий принцип: для любых критичных решений в цепочке должен быть человек. Агент может подготовить всё для принятия решения, но финальное «да» или «нет» говорит человек.
Важно, чтобы это не превращалось в формальность. Если человек просто нажимает «одобрить» на всё подряд, не глядя — толку от такого контроля нет. Нужно проектировать интерфейс так, чтобы человек видел суть действия и мог быстро оценить его адекватность.
Пример настройки полномочий агента:
| Действие | Режим | Комментарий |
|---|---|---|
| Чтение данных из CRM | Полная автономия | Только чтение, нет риска |
| Создание задачи | Полная автономия | Легко отменить |
| Обновление карточки клиента | С лимитами | Только определённые поля |
| Отправка email клиенту | С согласованием | Менеджер подтверждает |
| Создание скидки | С лимитами | До 5%, выше — согласование |
| Изменение цены в заказе | Запрещено | Только через менеджера |
| Возврат средств | Запрещено | Только через финансы |
Аудит и логирование
Все действия агента должны логироваться. Каждое. Без исключений. Это нужно для двух целей: во-первых, для расследования инцидентов (что пошло не так и почему), во-вторых, для улучшения агента (какие ситуации он обрабатывает плохо).
Хороший лог должен содержать: входное сообщение пользователя, «рассуждения» модели (chain of thought), вызовы инструментов с параметрами, результаты вызовов, итоговый ответ. Это позволяет восстановить полную картину того, что произошло.
Почему AI-агенты ошибаются: три корневые причины
Чтобы правильно выстроить границы, полезно понимать, почему агенты вообще ошибаются. Никакой магии и «бунта машин» — причины вполне конкретные.
Галлюцинации и уверенность в неверном. LLM могут генерировать текст, который выглядит абсолютно убедительно, но не соответствует действительности. Проблема в том, что модель не «знает», что она не знает. Она не говорит «я не уверен» — она просто генерирует ответ с такой же уверенностью, как если бы он был верным.
Для агентов это особенно опасно. Если ассистент просто даёт неверный совет — это плохо, но поправимо. Если агент на основе неверного понимания выполняет действие — последствия могут быть серьёзными.
Неполный контекст. Агент видит только ту информацию, которую ему передали. Он не знает о корпоративной политике, которая нигде не записана. Не знает о негласных договорённостях с клиентом. Не знает, что «этот клиент — друг директора, с ним нужно особенно аккуратно».
В истории с логистической компанией именно это и случилось: агент не знал про особенности таможенного оформления на маршруте через Самару, потому что эта информация просто не была ему доступна.
Ошибки в понимании намерения. Иногда агент правильно понимает буквальный смысл запроса, но неправильно понимает, чего на самом деле хочет пользователь. «Удали все дубликаты» может означать «покажи мне дубликаты для проверки», а агент возьмёт и реально удалит.
Это особенно частая проблема в неоднозначных ситуациях. Человек понимает контекст и выбирает наиболее разумную интерпретацию. LLM может выбрать любую — и не всегда правильную.
Реальные кейсы провалов AI-агентов
Чтобы не быть голословным — несколько реальных историй, когда автономные AI-системы создали проблемы своим компаниям.
Авиакомпания Air Canada
В 2024 году чат-бот Air Canada пообещал клиенту скидку на билеты для поездки на похороны, которой на самом деле не существовало. Клиент купил билеты, рассчитывая на возврат части стоимости, и когда выяснилось, что бот ошибся, подал в суд. Суд встал на сторону клиента: компания несёт ответственность за действия своего бота.
DPD (служба доставки)
Чат-бот DPD в Великобритании после нестандартного промпта от пользователя начал критиковать собственную компанию, использовать нецензурную лексику и даже написал стихотворение о том, какой DPD плохой сервис. Скриншоты стали вирусными, компании пришлось срочно отключать бота и извиняться.
Chevrolet (автодилер)
Бот американского дилера Chevrolet согласился продать новый автомобиль за 1 доллар после того, как пользователь убедил его, что «это справедливая сделка». Бот не имел реальных полномочий заключать сделки, но сам факт того, что он «согласился», создал PR-проблему для компании.
Что объединяет эти случаи? Во всех ситуациях боты действовали в рамках своих технических возможностей, но выходили за рамки бизнес-логики. Они не были «сломаны» — они просто не понимали последствий своих действий.
Как внедрять AI-агента безопасно: пошаговый подход
После такого списка страшилок может показаться, что AI-агенты — одни сплошные риски. Но нет. При правильном подходе они реально экономят время и деньги. Вопрос — как организовать внедрение, чтобы не наступить на те же грабли.
Этап 1: Начать с наблюдателя
На первом этапе дайте агенту только права на чтение. Пусть он анализирует ситуации, предлагает решения, но не выполняет их. Менеджеры видят рекомендации агента и решают, следовать им или нет.
Это позволяет оценить качество «мышления» агента без рисков. Если он регулярно даёт неадекватные рекомендации — лучше узнать об этом до того, как он начнёт действовать самостоятельно.
Этап 2: Добавить низкорисковые действия
Когда убедились, что агент понимает ситуации правильно — дайте ему возможность выполнять безопасные действия. Создание задач, обновление некритичных полей в CRM, отправка внутренних уведомлений. То, что легко отменить и что не создаёт проблем в случае ошибки.
Этап 3: Расширять полномочия постепенно
По мере накопления статистики — расширяйте возможности агента. Каждое новое полномочие должно быть обосновано: «Мы видим, что за последний месяц агент правильно обработал 500 ситуаций такого типа, поэтому можем доверить ему это действие».
Важно: расширение должно быть двусторонним. Если агент начал ошибаться в каком-то типе ситуаций — нужно либо ограничить его, либо доработать промпты и инструменты.
Этап 4: Настроить мониторинг и алерты
Даже когда агент работает стабильно — продолжайте следить за ним. Настройте алерты на аномалии: слишком много эскалаций, необычные действия, негативная обратная связь от пользователей. Регулярно просматривайте логи, чтобы замечать проблемы до того, как они станут критичными.
Метрики качества AI-агента:
- Task success rate — процент задач, выполненных правильно с первого раза
- Escalation rate — как часто агент передаёт задачу человеку (слишком много — не справляется, слишком мало — возможно, ошибается)
- Correction rate — как часто люди отменяют или исправляют действия агента
- Time to resolution — насколько быстрее решаются задачи с агентом vs без него
- User satisfaction — довольны ли сотрудники и клиенты работой агента
Будущее: куда движутся AI-агенты
Технологии не стоят на месте. То, что сегодня кажется передовым, через пару лет станет базовой функциональностью. Куда движутся AI-агенты?
Улучшение «самосознания». Одна из главных проблем сегодняшних LLM — они не знают, чего они не знают. Исследователи активно работают над методами оценки неопределённости, чтобы модели могли говорить «я не уверен» вместо уверенной галлюцинации. Это критично для безопасных агентов.
Специализированные агенты. Вместо одного универсального агента будут появляться специализированные: агент для продаж, агент для поддержки, агент для HR. Каждый — с глубоким пониманием своей предметной области и соответствующими инструментами.
Мультиагентные системы. Несколько агентов, которые взаимодействуют между собой. Агент поддержки передаёт сложный кейс агенту продаж, который консультируется с агентом-экспертом по продукту. Звучит как научная фантастика, но первые такие системы уже тестируются.
Стандарты и регулирование. По мере того как агенты становятся более распространёнными, появятся стандарты их безопасной разработки и использования. Уже сейчас обсуждаются требования к прозрачности (пользователь должен знать, что общается с ботом), ответственности (кто отвечает за ошибки агента) и аудируемости (все действия должны логироваться).
Внедрить AI-агента в вашу CRM
В CRM AI есть готовые агенты для автоматизации продаж и поддержки. Покажем, как настроить полномочия, интегрировать с вашими системами и запустить пилот без рисков.
Получить консультациюВместо заключения: вопрос доверия
AI-агенты — это инструмент. Как молоток: отлично забивает гвозди, но если дать его неподготовленному человеку и попросить разобрать электрощиток — жди беды.
С агентами та же история. Правильно настроенный, с чёткими полномочиями и мониторингом — мощный помощник, который освобождает людей от рутины. Без ограничений, брошенный в продакшн на авось — рецепт дорогих ошибок.
Возвращаясь к истории из начала статьи: логистическая компания не отказалась от бота после инцидента. Они пересмотрели его полномочия. Теперь бот может принимать простые уточнения (задержка на час, смена водителя), но любые изменения маршрута требуют подтверждения диспетчера. Бот готовит информацию и предлагает варианты — человек принимает решение.
Это и есть правильный баланс: автоматизация рутины, контроль над критичными решениями. Не «или-или», а «и-и». Технологии помогают людям быть эффективнее, но не заменяют человеческую ответственность.
Полезные материалы
- AI-агенты в продажах 2025 — революция или хайп?
- Tool calling и агенты — как дать LLM доступ к CRM и не устроить катастрофу
- Agentic AI — когда можно доверить ИИ самому закрывать сделки