На совещаниях «внедрим ChatGPT на сайт» и «сделаем AI-агента для отдела продаж» часто смешивают два разных класса систем. Чат-бот отвечает на сообщения по сценарию или по статическому промпту. AI-агент — это оркестратор: он планирует шаги, вызывает инструменты (tool calling / function calling), читает результат и решает, что делать дальше. Для бизнеса разница не в «умности» формулировок, а в том, может ли система безопасно менять состояние ваших IT-систем и нести ответственность за цепочку действий.

Начать с небольшого сценария помогает практический разбор выбора первого ИИ-агента в компании. В нём задача ограничивается понятным результатом и набором разрешённых действий до расширения полномочий.

Чат-бот: диалог без рук

Классический чат-бот на сайте или в мессенджере получает текст пользователя и возвращает текст модели. Контекст ограничен окном диалога; интеграции часто сводятся к webhook «отправить заявку в CRM» жёстко прошитым кодом, а не к решению модели «какой метод API вызвать». Такой подход предсказуем: легко тестировать, легко объяснить compliance-отделу. Минус — каждый новый сценарий («проверь статус счёта», «перенеси встречу», «создай задачу менеджеру») требует отдельной разработки или разветвления дерева intent’ов.

LLM-чат-бот добавляет гибкость формулировок, но без function calling модель не «видит» ваш склад, сделки и календарь — она только имитирует знание. Пользователь спрашивает «есть ли позиция X на складе №3», а бот вежливо выдумывает или просит позвонить менеджеру. Для FAQ и первичной квалификации лида этого достаточно; для операционной работы — нет.

AI-агент: tool calling и цикл «мысль — действие»

AI-агент строится вокруг цикла: цель → план → вызов инструмента → наблюдение → коррекция. В OpenAI-совместимых API это оформляется как набор объявленных функций (JSON Schema): crm_get_deal, crm_update_stage, search_knowledge_base. Модель не исполняет SQL и не ходит в сеть сама — middleware принимает structured output, проверяет права, вызывает ваш REST API и возвращает модели сжатый результат. Это и есть function calling в промышленном виде: модель предлагает действие, код его валидирует.

Отличие от «просто RAG» в том, что агент может комбинировать поиск по базе знаний с записью в систему. Например: найти регламент возврата в корпоративной базе знаний (RAG), сверить сумму с политикой, создать задачу в CRM и приложить ссылки на документы. Без агентного слоя каждый шаг — отдельная кнопка для оператора.

Память: три уровня, которые путают чаще всего

  • Контекстное окно — последние N сообщений в одном чате. Дешёво, но забывается при новой сессии.
  • Долговременная память — профиль клиента, прошлые обращения, извлечённые факты в vector store или CRM. Требует политики хранения ПДн.
  • Оперативная память агента — scratchpad: промежуточные гипотезы, список уже вызванных tools, id сущностей. Обычно живёт в state машины оркестратора, а не «в голове» модели.

Чат-бот без архитектуры памяти каждый раз «знакомится заново». Агент для B2B почти всегда опирается на CRM как source of truth: память диалога дополняет, но не подменяет учётные системы. Подробнее про связку с CRM и REST — в материале интеграции LLM с Bitrix24.

Ограничения, о которых редко говорят на демо

Модель может ошибиться в выборе tool, передать неверный id сделки или попытаться вызвать функцию, которой нет в whitelist. Поэтому production-агент обязан иметь: жёсткий список разрешённых инструментов, лимиты на число шагов, human-in-the-loop для финансовых операций и полное логирование (prompt, tool args, HTTP-ответ). Галлюцинации не исчезают — они переносятся из текста в «уверенные» JSON-аргументы.

Латency и стоимость растут с числом итераций: один вопрос клиента может стоить 3–5 вызовов LLM плюс несколько API CRM. Без расчёта экономического эффекта проект легко превращается в дорогой эксперимент.

Пример: CRM и отдел продаж

Сценарий: менеджер пишет в корпоративный чат «подготовь follow-up по сделке 1842». Чат-бот без tools может сгенерировать шаблон письма. AI-агент с интеграцией:

  1. Вызывает crm.deal.get, проверяет стадию и контакт.
  2. Ищет в RAG последнюю переписку и КП из реальных кейсов компании (анонимизированные шаблоны).
  3. Формирует черновик письма и задачу «отправить до пятницы», но не отправляет письмо без подтверждения.

Граница ответственности ясна: модель готовит, человек или политика auto-approve отправляет. Такой паттерн мы разбираем на странице автора и в проектах из раздела кейсов.

Когда что выбирать

Чат-бот (в т.ч. LLM без tools): справочник, FAQ, первичный сбор контактов, обучение сотрудников по статическим материалам. AI-агент: операции в CRM/ERP, согласованные мультшаговые процессы, персонализация на данных клиента при строгом ACL. Промежуточный вариант — «агент только на чтение»: tools search + get, без update — хороший первый релиз с низким риском.

Если вы уже загружаете PDF в «чат с GPT», следующий осмысленный шаг — не «больше файлов», а архитектура RAG и контролируемые tools; иначе масштабирование упирается в качество ответов и compliance. Сравнение подходов к данным — в статье про RAG для бизнеса.

Как проверить качество до масштабирования

Для агента недостаточно «10 красивых диалогов». Нужен regression suite: фиксированные user stories с ожидаемыми tool calls (not exact text). Метрики: tool selection accuracy, argument validity, процент задач, завершённых без эскалации, среднее число шагов. Сравнивайте baseline «менеджер без AI» и «LLM-only без tools» — иначе не видно marginal value. В пилоте на CRM ограничьте sandbox-сделки и включите shadow mode: агент предлагает действия, человек подтверждает; логируйте расхождения. Через 2–4 недели станет ясно, какие intents стабильны для auto-approve. Такой подход мы рекомендуем перед rollout на всю воронку и описываем в связке с внутренними бенчмарками и последующим пересчётом ROI.

Технически полезно версионировать не только промпт, но и schema tools: breaking change в enum стадии сделки не должен silently ломать prod. Feature flags per department снижают blast radius. Если команда уже строит RAG, не дублируйте факты в system prompt — агент должен запрашивать retrieval tool, иначе память разъезжается с индексом документов.

Для компаний Новокузнецка, Кемерово и Новосибирска практический разбор «когда бот, когда агент» и локальный контекст внедрения — у Александра Тимофеева: страницы Новокузнецк, Кемерово и статья специалист по AI-агентам в Сибири.