Как читать страницу безопасности ИИ-поставщика до покупки

Для чего на самом деле нужна страница безопасности

Страница безопасности или доверия существует, чтобы провести вас через закупочную процедуру, а это не то же самое, что объяснить, как устроена система. Нечестной её это не делает — большая часть написанного там правдива и проверяема, — но означает, что страница построена вокруг вопросов, на которые легко ответить хорошо, и молчалива в отношении остальных. Читать её с пользой — значит считать её отправной точкой для разговора, а не самим разговором. Цель — уйти со страницы с коротким списком конкретных вопросов, а не с общим ощущением спокойствия.

Проследите путь данных прежде, чем смотреть на значки

Первое, что нужно установить, — что именно покидает ваши системы, куда оно уходит и кто ещё касается его по дороге. Для ИИ-продукта это обычно текст, который вводят ваши пользователи, прикреплённые ими файлы и часто метаданные о том, кто и что отправил. Проследите этот путь через каждый переход: браузер, приложение поставщика, стоящий за ним провайдер модели и любой сервис аналитики или логирования между ними. Большинство страниц безопасности хорошо описывают собственную инфраструктуру поставщика и становятся расплывчатыми на границе, где эстафету принимает сторонний провайдер модели, — а именно эта граница и важна, потому что там ваши данные покидают компанию, с которой вы подписали договор.

Хранение и обучение — два разных обещания

Их постоянно смешивают, и поставщики редко исправляют путаницу, потому что она им на руку. Хранение — о том, сохраняется ли ваш контент и на какой срок. Обучение — о том, используется ли он для улучшения модели. Это независимые вещи: поставщик может держать данные тридцать дней ради мониторинга злоупотреблений и никогда на них не обучаться, а может не хранить ничего и при этом работать на модели, обученной на более раннем корпусе. Ищите оба обязательства, сформулированные отдельно, отмечайте, относятся ли они к вашему тарифу или только к корпоративным договорам, и проверяйте, включено ли нулевое хранение по умолчанию или его должен включать администратор для каждого рабочего пространства.

Субпроцессоры — список, который никто не читает

Любой поставщик заметного размера публикует список субпроцессоров: другие компании, с которыми он делится вашими данными ради работы сервиса. Это самая информативная страница всего центра доверия и самая редко читаемая. Пройдите её целиком и спросите, зачем нужна каждая строка. Облачный хостинг и почтовый сервис ожидаемы. Провайдер модели, о причастности которого вы не знали, меняет картину рисков, потому что ваши данные теперь регулируются договором, которого вы никогда не видели. Проверьте также, обязуется ли поставщик уведомлять клиентов до добавления субпроцессора и даёт ли это уведомление вам право возразить.

Сертификаты описывают процесс, а не ваш продукт

Отчёт SOC 2 Type II или сертификат ISO 27001 говорят, что у компании есть средства контроля и что аудитор проверил их работу. Это действительно чего-то стоит: значит, кто-то со стороны смотрел на управление доступом, контроль изменений и реагирование на инциденты. Чего они не говорят — так это хорошо ли сделана конкретная функция, которую вы покупаете, и охватывает ли проверка ИИ-продукт вообще, а не только более старые части платформы. Просите сам отчёт под соглашение о неразглашении вместо того, чтобы принимать значок, и читайте сначала раздел об охвате: там перечислены проверенные системы, и недавно вышедшего ИИ-продукта среди них часто нет.

Проверьте, чем на самом деле управляют ваши администраторы

Страница безопасности описывает, что делает поставщик. Что можете делать вы, она описывает редко, а для повседневного риска важнее именно это. Может ли администратор видеть, какой пользователь что отправил, и выгрузить этот журнал? Можно ли задать настройки хранения и обмена данными на уровне всей организации, или у каждого пользователя есть переключатель, который он волен щёлкнуть? Есть ли способ ограничить, какие части продукта доступны каким командам? Средства контроля, существующие только как пользовательские настройки, средствами контроля в осмысленном виде не являются, потому что настройка, которую скорее всего изменят, находится в аккаунте человека, работающего под давлением срока.

Превратите страницу в короткий список вопросов

Завершите тем, что выпишете, на что страница не ответила, и отправьте этот список до встречи по безопасности, а не во время неё. Хорошие вопросы конкретны и имеют фактические ответы: какой провайдер модели обслуживает наш регион, включено ли нулевое хранение по умолчанию на нашем тарифе, покрывает ли обязательство по хранению вложенные файлы, каков срок уведомления о добавлении субпроцессора, что входит в охват последнего отчёта аудита. Поставщик, отвечающий на это ясно и письменно, сообщил вам больше, чем способна любая страница доверия. Поставщик, отсылающий к маркетинговым формулировкам, тоже кое-что сообщил, и заметить это стоит до подписания, а не после.