Ограничить источники
Агент должен использовать только согласованные документы и системы. Для каждого источника задаются права чтения, записи и срок актуальности.
Определить границы действий
До запуска фиксируется, какие действия агент может выполнять самостоятельно, какие требуют подтверждения и какие полностью запрещены.
Настроить отказ и эскалацию
Если надежного ответа нет, агент должен прямо это сообщить и передать вопрос сотруднику вместе с уже собранным контекстом.
Проверять после запуска
Качество контролируется по журналу ошибок, доле корректных ответов и доле эскалаций. База знаний и правила обновляются при изменении процесса или данных.
Что должно быть видно ответственному сотруднику
Для каждой передачи человеку нужны исходный запрос, использованные источники, действие агента и причина эскалации. Тогда специалист не повторяет сбор данных, а может быстро подтвердить, исправить или отклонить результат. Такой журнал также помогает находить правила, которые нужно уточнить до следующего обновления агента.
Какие действия не передают без подтверждения
Без отдельного согласования агент не должен менять финансовые условия, отправлять юридически значимые документы, удалять записи или выполнять операции от имени сотрудника. Для таких шагов задают явное подтверждение человека и понятный маршрут ответственности. Это ограничение не мешает автоматизировать подготовку, проверку и сбор контекста.