Архитектура Безопасных AI-Агентов¶

Это книга для команд, которым нужно не эффектное демо, а агентная система, способная выдерживать реальность production.

Ее центральный тезис простой: агенту нужна платформа, а не магия. Как только у системы появляются risky actions, память, подтверждения, rollout и долгий эксплуатационный след, одной модели и нескольких tools уже недостаточно. Нужны явные границы доверия, policy layer, управляемое исполнение, наблюдаемость, оценка качества и дисциплина жизненного цикла.

Агентов строить скучно, но результат ошеломляющий: вместо эффектного разового трюка команда получает систему, которую можно ограничивать, наблюдать, выпускать и улучшать без гадания.

Для кого эта книга¶

• Для инженеров продукта, которые хотят строить agent features без превращения системы в набор промптов и исключений.
• Для платформенных команд, которым нужны общий runtime, policy layer, approvals, observability и управляемый rollout.
• Для инженеров по безопасности, которым важны trust boundaries, risky execution paths и surfaces для abuse.
• Для техлидов и архитекторов, которым нужен не AI-театр, а воспроизводимая инженерная дисциплина.

Что она должна изменить в мышлении читателя¶

После этой книги читатель должен перестать мыслить агент как “LLM плюс немного оркестрации” и начать мыслить его как управляемую production-систему:

• с явными trust и action boundaries;
• с execution под контролем политик;
• с approvals для рискованных путей;
• с run-level observability и evidence;
• с rollout discipline, ownership и lifecycle governance.

Как читать книгу¶

Если нужен короткий вход, начни с главы 1. Если нужен маршрут под задачу и роль, открой страницу старта. Если важнее структура и статус разделов, смотри план книги. Если нужны готовые артефакты, схемы и контракты, переходи в справочный слой.

Самый короткий путь через книгу выглядит так:

1. Глава 1. Почему агенту нужна платформа, а не магия
2. Глава 3. Контур безопасности и границы доверия
3. Глава 8. Модель выполнения и каталог инструментов
4. Часть V. Надежность и наблюдаемость
5. Глава 18. Чеклист промышленного запуска

Что здесь уже есть¶

• Опубликованная русская core-рукопись в восьми частях: от архитектурных оснований до lifecycle governance.
• Переводческие слои en и zh, уже пригодные для чтения, но все еще проходящие editorial cleanup.
• Исполняемый эталонный пакет agent_runtime_ref.
• Справочные страницы со схемами traces, evals, policy bundles, approvals, памяти и lifecycle-артефактов.
• Практические кейсы, чеклисты, шаблоны политик и глоссарий.
• Активный editorial pass по рукописи и публичной поверхности сайта.

Что не является целью книги¶

Это не пособие по одному фреймворку, не сборник prompt tricks и не обзор AI-рынка. Книга стоит над конкретными SDK и platform docs и пытается ответить на более неприятные вопросы: что агенту вообще разрешено, как ограничивать write path, что наблюдать, как выпускать изменения и кто отвечает за систему после запуска.

Куда идти дальше¶