Когда агент, когда чат: плюсы и минусы

Словарь терминов этого разбора

• Автономия (autonomy) — объём работы, который модель выполняет сама, без участия человека. У агентов — высокая, у чатов — низкая.
• Контроль (control) — степень наблюдаемости и возможности вмешательства. У чатов — высокий, у агентов — ниже.
• Стоимость вызова (cost) — затраты денег и времени на один запрос или задачу.
• Воспроизводимость (reproducibility) — свойство получать одинаковый результат при одинаковых входах. Зависит от температуры и платформы.
• Задержка (latency) — время от запроса до ответа. У агентов на сложных задачах — высокая.
• Аудит-след (audit trail) — запись всех действий и решений модели, по которой можно восстановить ход рассуждений.
• Побочный эффект (side effect) — изменение, которое модель вносит в систему: изменённый файл, выполненная команда. Только у агентов.

Краткий обзор: в Разборе 6 введено различие между агентными и диалоговыми платформами. Настоящий разбор посвящена выбору правильного режима под задачу. Агенты мощнее, но дороже и сложнее в контроле. Чаты проще и безопаснее, но ограничены. Умение выбрать режим — отдельный навык, не менее важный, чем умение писать скиллы.