Сотрудник загружает договор клиента в публичный ИИ-сервис и просит подготовить ответ на претензию. В файле — персональные данные, цены и условия о конфиденциальности. Даже если ответ получится точным, компании придётся выяснить, можно ли было передавать эти сведения сервису, что он делает с файлом и кто проверит юридические выводы модели.
Для российской компании имеет значение не сам факт использования «нейросети», а конкретный процесс: какие данные получает система, как их обрабатывает, куда попадает результат и кого затронет ошибка. Если поставщик или клиент находится за рубежом, отдельно проверяют применимое право, условия сервиса и требования других юрисдикций.
Начните с карты сценариев, а не с общего запрета
Ошибка в рекламном черновике, ответе службы поддержки и ранжировании кандидатов может обойтись компании по-разному. Составьте реестр применений ИИ: укажите инструмент, подразделение, цель, категории входных данных, получателей результата и того, кто принимает окончательное решение. Не забудьте о функциях ИИ внутри CRM, редактора документов или аналитической платформы — сотрудники могут не считать их отдельными инструментами.
Для каждого сценария уточните, остаётся ли результат внутренней подсказкой или уходит клиенту без проверки. Может ли система сама отправить сообщение, изменить цену, заблокировать аккаунт? Ответы помогут назначить контроль по уровню риска, а не вводить одинаковые правила для черновика и решения, затрагивающего права человека.
Данные на входе: законное основание важнее удобства
Персональные данные
Имя клиента, переписка с ним или резюме кандидата, введённые в ИИ-сервис, могут стать предметом обработки персональных данных. Российскому оператору нужно определить цель и правовое основание обработки, состав данных, сроки хранения и круг лиц с доступом к ним с учётом закона о персональных данных. Договор с клиентом не даёт автоматического разрешения передавать любые его сведения для обучения внешней модели. Согласие тоже подходит не всегда: если компания на него опирается, оно должно отвечать требованиям закона и соответствовать реальной цели обработки.
Изучите условия поставщика: использует ли он запросы только для оказания услуги или ещё и для улучшения модели, где хранятся данные, кто из субподрядчиков получает доступ, можно ли отключить использование запросов для обучения и удалить их. Если данные передаются за границу, оцените правила трансграничной передачи и требования к локализации. Фраза «данные не сохраняются» в рекламе сервиса не заменяет проверки договора и технических настроек.
Коммерческая тайна и клиентские материалы
Исходный код, неопубликованный медиаплан или внутренний финансовый прогноз могут не содержать персональных данных, но оставаться конфиденциальными. Если компания ввела режим коммерческой тайны, правила работы с такими сведениями должны охватывать и ИИ-инструменты. Проверьте также договор с клиентом: он может ограничивать использование внешних сервисов и привлечение субподрядчиков.
Сотрудникам лучше не загружать документы целиком в непроверенный сервис. Если для задачи достаточно обезличенного фрагмента, уберите не только имена, но и признаки, по которым легко узнать человека или проект: номер заказа, уникальную должность, адрес объекта. Замена имени на «Клиент А» сама по себе не делает данные анонимными.
Права на входные материалы и результаты
Законный доступ к файлу ещё не означает, что его разрешено использовать для машинной обработки. Лицензия на публикацию фотографий в каталоге, например, может не разрешать передачу снимков стороннему поставщику для дообучения модели. Если компания собирает собственный набор данных, проверьте договоры с авторами, источники изображений, текстов и записей, а также разрешённые способы использования. Открытый доступ к файлу в интернете не делает его свободным для любых целей.
С результатами генерации вопрос иной. По российскому праву автором произведения признаётся гражданин, творческим трудом которого оно создано. Нельзя заранее считать, что полностью автоматически созданное изображение получит обычную авторско-правовую охрану или что сервис сможет «передать исключительное право» на любой ответ модели. Человеческий творческий вклад оценивают в каждом случае: выбор одного из нескольких вариантов и существенная переработка текста — разные действия. Условия сервиса регулируют использование результата между сторонами договора, но не дают прав на чужое произведение.
Для бренда рискованно полагаться на «уникальность» генерации. На выходе может оказаться изображение, похожее на чужого персонажа, логотип или охраняемый элемент дизайна. Перед публикацией значимого рекламного материала проверьте совпадения и происхождение использованных элементов. Название продукта требует отдельной проверки по товарным знакам: разрешение использовать текст от сервиса не означает, что его можно свободно применять как обозначение товаров или услуг.
Когда ИИ общается с людьми или принимает решения
Одно дело — сообщить клиенту статус заказа, другое — пообещать возврат денег, истолковать договор или отклонить обращение. Для бота с такими функциями установите пределы полномочий: что он может отправлять самостоятельно, когда передаёт диалог сотруднику и как компания исправляет ошибочный ответ. Журналы переписки помогут восстановить ход общения, но состав записей и сроки их хранения также должны соответствовать правилам обработки данных.
Отдельной оценки требуют решения, основанные исключительно на автоматизированной обработке персональных данных и затрагивающие права и законные интересы человека: российское законодательство устанавливает для них специальные условия и гарантии. Если ИИ оценивает кандидатов, покупателей или пользователей сервиса, посмотрите, что сотрудник делает на практике. Нажатие кнопки «подтвердить» без проверки рекомендации модели не становится содержательным участием человека в решении.
Требования к маркировке взаимодействия с ИИ и специальное отраслевое регулирование зависят от продукта, аудитории и рынка распространения. В регулируемой сфере общих корпоративных правил может не хватить. И даже там, где вопрос маркировки решается отдельно, пользователю полезно прямо сказать, что он общается с ботом, и объяснить, как обратиться к человеку. Тогда автоматический ответ сложнее принять за индивидуальное решение специалиста.
Что закрепить в договоре с поставщиком ИИ
Если инструмент входит в рабочий процесс, описания тарифа недостаточно. Перед закупкой проверьте договор и документацию сервиса:
- Роли и данные. Кто определяет цели обработки, какую информацию можно загружать, вправе ли поставщик использовать запросы и ответы для обучения.
- Доступ и безопасность. Где размещается сервис, кого поставщик привлекает как субподрядчиков, как разграничен доступ, ведутся журналы и сообщается об инцидентах.
- Результаты. Какие права или разрешения получает клиент на выходные материалы, есть ли ограничения на коммерческое применение и публикацию.
- Качество и ответственность. Что поставщик обещает относительно доступности и точности, как распределяются последствия претензий третьих лиц и ограничена ли ответственность сторон.
- Выход из сервиса. Можно ли выгрузить данные и журналы, как удаляются запросы, что происходит при изменении модели, тарифов или условий.
Для критичного процесса важно заранее договориться об изменениях продукта. Обновлённая модель может отвечать иначе, хотя интерфейс останется прежним. Если бот участвует в продажах или поддержке, уведомление об обновлении и время на тестирование новой версии полезнее расплывчатого обещания «высокого качества ИИ».
Как распределить ответственность внутри компании
Договор с поставщиком не снимает с компании ответственности за её публикации, решения и обработку данных. Внутреннюю политику стоит сделать короткой и пригодной для проверки: перечислить разрешённые инструменты и категории данных, запрещённые действия, порядок проверки результата и контакт для сообщений об ошибках. Согласовывать нужно не только новый сервис, но и новый способ применения уже одобренного инструмента.
Меры контроля различаются в зависимости от последствий:
- Для внутренних идей и черновиков — запрет на ввод закрытой информации и проверка фактов перед использованием результата.
- Для публичного контента — редакторская проверка утверждений, прав на использованные элементы и рекламных формулировок.
- Для ответов клиентам — правила передачи сложных случаев человеку и исправления ошибок.
- Для решений о людях или значимых сделках — отдельная правовая оценка процесса, данных и возможности оспорить результат.
Фиксируйте проверку соразмерно риску. Для рекламного макета достаточно сохранять финальную версию, сведения об источниках и согласование. Для системы, влияющей на доступ пользователя к услуге, могут понадобиться версия модели, параметры решения, журнал действий и порядок рассмотрения жалобы. Бессрочное хранение всех запросов «на всякий случай» не заменит продуманных сроков.
С чего начать проверку действующего проекта
Возьмите один процесс, в котором ИИ уже работает, и проследите путь от исходного файла до конечного адресата. Спросите исполнителя, что он загружает; владельца продукта — какие действия система выполняет автоматически; закупки — какие условия поставщика приняты. Если по документам данные не покидают контур компании, а сотрудники пользуются внешним чатом, исправлять придётся и технический доступ, и внутренний порядок, а не только формулировку политики.
Первый контрольный шаг — открыть журнал этого процесса и проверить три записи: какой файл передали системе, кто одобрил ответ и куда его отправили. Материал носит информационный характер и не заменяет индивидуальную юридическую консультацию: выводы зависят от юрисдикции, договоров, данных и конкретного применения ИИ.