Коротко. Агент Март AI может давать неточные ответы из-за свойства больших языковых моделей «галлюцинировать» — придумывать факты. Главная защита: RAG (привязка к реальным данным), human-in-the-loop, audit-trail.
Что это и как работает
Галлюцинация AI = генерация уверенно звучащего, но фактически неверного ответа. Полная официальная инструкция со скриншотами и пошаговой настройкой — в справке Битрикс24.
Быстрый порядок настройки
- Подключите RAG → AI отвечает только на основе реальных данных.
- Включите цитирование источников в ответах.
- Настройте порог уверенности → ниже — «не знаю».
- Логируйте все ответы → периодический аудит.
- Обучайте сотрудников критическому мышлению.
Это базовый сценарий «по инструкции». Дальше — то, что инструкция вам не расскажет.
5 граблей с нашего опыта внедрений
1. Март придумал статью в законе, юрист сослался — суд проигран
Без проверки. Лечение: AI как помощник, не как авторитет.
2. Март дал клиенту цену, которой нет в прайсе
Без RAG. Лечение: привязка к актуальному прайсу через MCP.
3. Март «помнит» неверную информацию из прошлых разговоров
Память без верификации. Лечение: ограничение памяти по сроку давности.
4. Март переводит с ошибками в специфической терминологии
Базовая модель без glossary. Лечение: кастомный словарь терминов.
5. Сотрудник «верит Марту», не проверяет → ошибка попала клиенту
Человеческий фактор. Лечение: обязательная проверка для destructive.
Сами или позвать интегратора
Сами справитесь, если: базовое включение fallback «не знаю».
Зовите нас, если: комплексная защита: RAG + audit + обучение команды.
Бесплатная консультация по настройке Битрикс24
20 минут разговора с нашим интегратором. Покажем, как это решается у похожих клиентов, какие подводные камни ждут именно у вас, и сколько стоит передать настройку нам.
FAQ
Можно ли полностью избавиться от галлюцинаций?
Нет, это свойство LLM. Но можно снизить через RAG и проверки.
Как понять, что AI ошибается?
Цитирование источников + просьба «уверен ли ты?».
Кто отвечает за ошибки AI?
По договору — компания-пользователь, не вендор.
Снижается ли частота со временем?
С новыми версиями — да, но не до нуля.
Источник официальной инструкции
Полный текст со скриншотами и всеми вариантами настройки: helpdesk.bitrix24.ru/open/25754438/.
