Радиус поражения

Радиус поражения — это масштаб ущерба, который способен нанести один сбой, одна ошибка или один скомпрометированный ключ, прежде чем что-то его остановит. Это способ спрашивать не «насколько вероятно, что здесь сломается», а «как далеко это дойдёт, когда сломается», и второй вопрос обычно полезнее: вероятность ошибки на достаточно длинном горизонте стремится к единице, а вот дальность этой ошибки вы можете спроектировать. Мера применима ко всему, что способно отказать. Утёкший API-ключ с правами на всю организацию достаёт до каждого рабочего пространства; тот же ключ, ограниченный одним проектом, достаёт до одного проекта. Миграция, выполненная на общей базе, трогает всех арендаторов; та же миграция на разделённых данных — одного. Автоматизация с правом отправлять письма от чьего угодно имени способна опозорить компанию; та же автоматизация, ограниченная одним ящиком, — нет. В каждой паре вероятность сбоя одинакова, а последствия различаются на порядки. Рычаги здесь непримечательны и хорошо известны. Выдавайте учётные данные узко и на короткий срок, чтобы утечка была ограничена и по охвату, и по времени. Разделяйте среды и арендаторов, чтобы сбой не мог уйти вбок. Ставьте лимиты на всё, что потребляет ресурсы: неограниченный цикл — это авария, нанесённая себе самому. Раскатывайте изменения постепенно, потому что плохой релиз, доехавший до малой доли трафика, — это инцидент, а доехавший до всех — простой. Требуйте для разрушительных операций второго участника или отдельного осознанного шага: разница между поправимой и непоправимой ошибкой часто равна одному подтверждению. ИИ-системы изменили форму этой задачи вполне конкретно. У ассистента, который только отвечает, радиус ограничен тем, что он может прочитать, — а это уже больше, чем полагает большинство команд, стоит поисковому индексу обойти всё, что видел сервисный аккаунт. У агента, который действует, радиус ограничен его правами и способностью крутиться в цикле, и до этой границы он доходит быстрее человека. Широкие права на запись, выданные ради удобства на этапе прототипа, — самый частый способ, которым маленький ИИ-проект обзаводится большим радиусом поражения, а прототип — ровно то место, где такие права выдают и забывают. У сдерживания есть цена, и притворяться иначе — значит проектировать то, чему никто не следует. Узкие права означают больше учётных данных в управлении, изоляция — больше инфраструктуры, поэтапная раскатка — более медленные релизы. Смысл в том, чтобы тратить эту цену там, где последствия велики: на действиях, которые двигают деньги, удаляют данные, пишут клиентам или пересекают границу арендатора, — а не равномерно повсюду, потому что именно так программы сдерживания превращаются в бумажную работу и перестают быть защитой.