Архитектура безопасных ИИ-агентов¶

Это книга для команд, которым нужно не эффектное демо, а агентная система, способная выдерживать производственную реальность.

Ее центральный тезис простой: агенту нужна платформа, а не магия. Как только у системы появляются рискованные действия, память, согласования, поэтапный выпуск и долгий эксплуатационный след, одной модели и нескольких инструментов уже недостаточно. Нужны явные границы доверия, слой политик, управляемое исполнение, наблюдаемость, оценка качества и дисциплина жизненного цикла.

Агентов строить скучно, но результат ошеломляющий: вместо эффектного разового трюка команда получает систему, которую можно ограничивать, наблюдать, выпускать и улучшать без гадания.

С чего начать Прочитать главу 1 Открыть план книги

Для кого эта книга¶

Для инженеров продукта, которые хотят строить агентные функции без превращения системы в набор промптов и исключений.
Для платформенных команд, которым нужны общая среда исполнения, слой политик, согласования, наблюдаемость и управляемый выпуск.
Для инженеров по безопасности, которым важны границы доверия, рискованные пути исполнения и поверхности злоупотреблений.
Для техлидов и архитекторов, которым нужен не AI-театр, а воспроизводимая инженерная дисциплина.

Что она должна изменить в мышлении читателя¶

После этой книги читатель должен перестать мыслить агент как “LLM плюс немного оркестрации” и начать мыслить его как управляемую производственную систему:

с явными границами доверия и границами действий;
с исполнением, ограниченным политиками;
с согласованиями для рискованных путей;
с наблюдаемостью уровня запуска и доказательствами;
с дисциплиной поэтапного выпуска, владением и управлением жизненным циклом.

Как читать книгу¶

Если нужен короткий вход, начни с главы 1. Если нужен маршрут под задачу и роль, открой страницу старта. Если важнее структура и статус разделов, смотри план книги. Если нужны переиспользуемые артефакты, схемы и контракты, переходи в справочный слой.

Самый короткий путь через книгу выглядит так:

Каноническая карта сценариев

На этом маршруте держи в поле зрения три канонических сценария. Триаж обращений поддержки проверяет записывающие возможности, согласования и восстановление после дубля тикета. Внутренний ассистент знаний проверяет поиск, память, свежесть и происхождение знаний. Координация инцидентов проверяет трассы, эскалацию, побочные эффекты уведомлений, владение ответом и обучение после инцидента.

Цепочка схем безопасного агента

Если нужен краткий путь по архитектуре безопасного агента, начни со схемы трасс, схемы оценивания и схемы памяти и поиска. Эта цепочка связывает модель угроз MCP, контракт доверия передачи управления A2A, запись вердикта проверяющего, запись управленческого действия, поля проверки отравления памяти и единые доказательства угроз агенту.

Что здесь уже есть¶

Опубликованная русская основная рукопись в восьми частях: от архитектурных оснований до управления жизненным циклом.
Переводческие слои en и zh, уже пригодные для чтения, но все еще проходящие редакторскую очистку.
Исполняемый эталонный пакет agent_runtime_ref.
Справочные страницы со схемами трасс, оценивания, пакетов политик, согласований, памяти и артефактов жизненного цикла.
Практические кейсы, чеклисты, шаблоны политик и глоссарий.
Активный редакторский проход по рукописи и публичной поверхности сайта.

Что не является целью книги¶

Это не пособие по одному программному каркасу, не сборник трюков с промптами и не обзор AI-рынка. Книга стоит над конкретными SDK и платформенной документацией и пытается ответить на более неприятные вопросы: что агенту вообще разрешено, как ограничивать путь записи, что наблюдать, как выпускать изменения и кто отвечает за систему после запуска.

Куда идти дальше¶

С чего начать Перейти к первой части Открыть эталонный пакет