Где может пригодиться агент
Рассмотрите задачу, в которой нужно собрать контекст из разрешённых источников, выбрать следующий шаг и подготовить проверяемый результат. Например, помощник может собрать материалы для ответа на обращение, а сотрудник — проверить и отправить текст.
Если последовательность действий заранее известна и не требует интерпретации, детерминированная автоматизация часто проще для проверки и поддержки.
Опишите задачу на одной странице
Для обсуждения пилота полезнее конкретный сценарий, чем список названий моделей.
Шаблон для вашей задачи
Процесс: подготовка ответа на запрос клиента. Вход: обезличенное сообщение и разрешённая база знаний. Результат: черновик ответа со ссылками на материалы. Разрешено: читать согласованные источники. Нужно согласование: отправка ответа или изменение карточки клиента. Стоп: не хватает фактов, противоречие в источниках, запрос за пределами задачи. Качество: ответ соответствует источникам и не придумывает условия.
Проверяйте не только удачный пример
Добавьте вопросы без ответа в базе, устаревший документ, противоречивые сведения и попытку заставить помощника сменить правила. Материалы из интернета и сообщения посетителя нужно рассматривать как данные, а не как разрешение на действия.
Ограничьте набор инструментов, доступные данные и число шагов. Предусмотрите передачу человеку, журнал действий и остановку процесса. Текстовой инструкции недостаточно: ограничения нужно поддерживать в самом приложении.
Что измерять в пилоте
Сравните работу с агентом и без него на одинаковых задачах. Считайте время сотрудника вместе с проверкой, долю исправлений, ошибки, стоимость выполнения и случаи передачи человеку.
Успешная демонстрация — повод для следующей проверки, а не доказательство готовности к неограниченному запуску. Расширять сценарии и доступы лучше постепенно, после проверки каждого изменения.
Что подготовить к обсуждению
Достаточно описания процесса, нескольких обезличенных примеров и ожидаемого результата. Не нужно заранее покупать подписки или предоставлять доступ ко всем системам. Сначала определим, нужен ли здесь агент и как ограничить пилот.
Частые вопросы
Агент может работать без участия человека?
Некоторые ограниченные сценарии можно автоматизировать, но допустимый уровень самостоятельности зависит от последствий ошибки. Значимые действия требуют отдельных ограничений и согласований.
Можно гарантировать защиту от промпт-инъекций?
Абсолютную защиту обещать нельзя. Риски снижают ограниченные доступы, разделение данных и инструкций, проверки инструментов и подтверждение значимых действий.
Документация по теме
Примеры и порядок проверки — авторские. Возможности конкретных инструментов сверяйте с их документацией.