Простое объяснение для тех, кто только начинает знакомство с ИИ

Представьте, что Вы собираетесь в поездку.

Обычный чат-бот может рассказать, что посмотреть в городе, предложить несколько гостиниц и помочь составить маршрут. Но искать билеты, сравнивать цены и проверять расписание Вам придётся самостоятельно.

ИИ-агент способен получить общую задачу: например, подготовить план поездки на четыре дня. Затем он разделит её на этапы, найдёт нужную информацию, сравнит варианты и соберёт всё в один документ.

Как работает обычный чат-бот

Работа чат-бота строится как разговор.

Вы задаёте вопрос — он отвечает. После этого система ждёт следующего сообщения.

Например:

— Найди пять поставщиков оборудования.
— Вот список компаний.

Дальше Вам нужно самостоятельно проверить эти организации, сравнить условия и подготовить письма.

Чат-бот помогает думать и работать с информацией, но обычно не продолжает задачу без новой команды.

Что делает ИИ-агент

ИИ-агенту можно поставить не отдельный вопрос, а цель.

Например:

Найди пять поставщиков оборудования, проверь открытые сведения о компаниях, сравни условия и подготовь проекты писем.

После этого агент может:

• разделить задачу на отдельные шаги;
• найти информацию;
• сравнить результаты;
• оформить их в таблицу;
• подготовить документы;
• сообщить, если каких-либо данных не хватает.

Его работу можно представить так:

цель → план → действия → проверка результата

Если первый способ не помог, агент может попробовать другой. Но действовать он способен только в пределах тех возможностей, которые ему предоставил человек.

Из чего состоит ИИ-агент

В основе агента находится языковая модель — та же технология, которая используется в современных чат-ботах. Она понимает запросы и формирует ответы.

Но для выполнения задач этого недостаточно. Агенту также необходимы:

• понятная цель;
• правила работы;
• доступ к нужным программам;
• разрешение на определённые действия.

Например, чтобы подобрать время для встречи, агенту потребуется доступ к календарю. Для подготовки отчёта — к документам или таблицам. Для работы с письмами — к электронной почте.

Без таких подключений он сможет только объяснить, что следует сделать.

Что можно поручить ИИ-агенту

Возможности зависят от конкретной программы и предоставленного доступа.

ИИ-агент может:

• искать информацию в нескольких источниках;
• сравнивать товары, услуги и предложения;
• собирать данные в таблицу;
• готовить отчёты;
• создавать черновики писем;
• проверять документы на расхождения;
• подбирать время для встречи;
• следить за выполнением отдельных этапов работы.

Например, агенту можно поручить регулярно собирать сведения о ценах конкурентов и обновлять таблицу. Или проверять входящие документы и отмечать, каких данных в них не хватает.

Однако название «ИИ-агент» ещё не означает, что программа умеет всё. Если у неё нет доступа к почте, она не отправит письмо. Если она не подключена к календарю, то не назначит встречу.

Может ли агент ошибиться

Да. И это важно понимать до начала работы.

Агент может:

• неправильно понять задачу;
• выбрать ненадёжный источник;
• перепутать данные;
• подготовить неверный документ;
• совершить действие раньше времени.

Опасность состоит в скорости: человек может ошибиться один раз, а автоматическая система — повторить ошибку в десятках документов или сообщений.

Есть и другая проблема. В письме, документе или на сайте может находиться скрытая вредоносная команда. Агент способен принять её за настоящее указание и изменить свои действия. Такая атака называется промпт-инъекцией.

Поэтому работу агента необходимо ограничивать и проверять.

Какие действия нельзя полностью отдавать ИИ

ИИ-агент может подготовить действие, но окончательное решение в важных вопросах должен принимать человек.

Подтверждение пользователя необходимо перед тем, как:

• оплатить покупку;
• оформить заказ;
• отправить письмо;
• опубликовать материал;
• удалить документ;
• передать персональные данные;
• изменить права доступа;
• подписать договор.

Например, агент может составить письмо и показать его пользователю. Отправлять сообщение следует только после проверки.

Ещё одно важное правило — не давать агенту лишних полномочий. Для составления расписания ему не нужен доступ к банковскому счёту. Для чтения документов необязательно разрешать их удаление.

Цифровому помощнику, как и новому сотруднику, не выдают все ключи в первый рабочий день.

С какой задачи лучше начать

Первое поручение должно быть небольшим и безопасным.

Например:

Найди информацию о пяти компаниях в открытых источниках и подготовь сравнительную таблицу. Ничего не отправляй и не публикуй без моего подтверждения.

Результат такой работы легко проверить. Ошибка не приведёт к потере денег, удалению файлов или отправке неверного сообщения.

Перед началом работы нужно определить:

• какой результат Вы хотите получить;
• какими источниками разрешено пользоваться;
• к каким данным агент получит доступ;
• что он может делать самостоятельно;
• какие действия потребуют Вашего подтверждения.

Желательно, чтобы сохранялась история работы: где агент искал информацию, что нашёл и какие действия выполнил.

Главное об ИИ-агентах

Обычный чат-бот помогает получить ответ. ИИ-агент помогает пройти несколько этапов и получить готовый результат.

Но агент не становится самостоятельным специалистом, которому можно безоговорочно доверить работу. Ему нужны точная задача, ограниченный доступ и контроль человека.

Поэтому начинать знакомство с ИИ-агентами лучше с простого вопроса:

Какую небольшую задачу я могу передать агенту и без труда проверить результат?