Guardrails для ИИ в CRM: что нельзя доверять модели

Модель любит договорить за вас. Особенно сроки.

На пилотах это всплывает одинаково: красивая фраза, неверная дата, оператор краснеет. Клиент уже прочитал.

Guardrails — не «ещё один промпт». Это жёсткие правила: что модель имеет право сказать, а что только человек.

Сейчас таким разборам особенно хорошо заходит короткий формат — тот же, что улетает в Shorts: «бот соврал день доставки».

Даты отгрузки. Цены. Юридические формулировки. Обещания по SLA. Номера договоров «из головы».

Если факта нет в CRM, регламенте или verified_answers — ответ: эскалация. Без «примерно» и без уверенного тона.

Мы так чинили контур в кейсе техподдержки. Без этого RAG превращается в вежливого фантазёра.

Убрать галлюцинации по срокам и деньгам в ответах ассистента.

Дать оператору понятную эскалацию вместо бесконечного «уточните».

Зафиксировать список полей, которые модель читает, но не выдумывает.

Список запретов пишем до выбора модели. Потом — проверка источника на каждый ответ из красной зоны.

Кнопка «позвать человека» обязательна. Иначе партнёр крутится в петле уточнений.

ИИ в CRM живёт на дисциплине: поиск → генерация → проверка → человек. Guardrails — это третий шаг, не «приятное дополнение».

Разберём ваш поток — где модель уже опасна, а где ещё можно автоматизировать.