Корпоративная безопасность в эпоху генеративного ИИ: от запретов к управлению данными

Главная проблема в том, что традиционная архитектура защиты — с акцентом на внешний периметр — больше не отражает реальность. Данные покидают компанию не в результате взлома, а в процессе нормальной работы сотрудников. И зачастую — с их полного согласия.

В классической модели внутренний нарушитель был либо мотивирован, либо неосторожен. Он копировал базы, пересылал документы, выносил данные за пределы корпоративной сети. Сегодня этот сценарий трансформировался.

Сотрудник может не осознавать, что создает риск. Юрист загружает договор в ИИ-сервис для сокращения текста. Аналитик передает финансовую модель для генерации презентации. Разработчик вставляет фрагмент кода, чтобы ускорить написание функции. Во всех этих случаях цель — повысить эффективность, а не обойти правила.

Это и есть принципиальное изменение: утечка становится не отклонением, а побочным эффектом цифровой продуктивности.

Практика использования несанкционированных инструментов — не новая проблема для ИТ. Однако генеративный ИИ резко снизил порог входа для всех сотрудников. Для работы с ним не требуется установка, согласование или обучение — достаточно браузера или мобильного приложения.

В результате формируется «теневой ИИ»: многие сотрудники самостоятельно выбирают сервисы, регистрируются с личных аккаунтов и используют их в рабочих задачах. Контроль со стороны компании в таких сценариях минимален или отсутствует.

Это создает парадоксальную ситуацию: чем более цифрово зрелым становится персонал, тем менее прозрачным может быть фактическое движение данных.

Риски, связанные с генеративным ИИ, выходят за рамки классических утечек. Речь идет о более широком спектре последствий.

Во-первых, это потеря интеллектуальной собственности. В пользовательских версиях ряда сервисов данные могут использоваться для улучшения моделей, если это предусмотрено условиями использования или не отключено настройками. Даже при наличии ограничений компания фактически теряет контроль над дальнейшим жизненным циклом информации.

Во-вторых, регуляторные риски. Передача персональных данных, финансовой информации или медицинских сведений во внешние сервисы может противоречить требованиям локального законодательства (например, Федеральному закону № 152 «О персональных данных») и приводить к штрафам.

В-третьих, технологические уязвимости. Генеративный И И способен ускорять разработку, но при этом не гарантирует безопасность кода. Использование сгенерированных решений без проверки увеличивает вероятность архитектурных ошибок и дальнейших информационных уязвимостей.

В-четвертых, управленческие риски. Так называемые «галлюцинации» моделей — правдоподобные, но неверные ответы — могут влиять на принятие решений руководителей разного уровня, если предоставляемые данные не перепроверяются.

Наконец, размывается сам периметр безопасного цифрового пространства. ИИ-функции интегрируются в офисное ПО, браузеры, поисковые системы и мобильные устройства. Разграничение между «внутренней» и «внешней» средой становится все менее очевидным.

Интуитивная реакция любого бизнеса — ограничить доступ к новым рисковым инструментам. Однако в случае генеративного ИИ эта стратегия показывает низкую эффективность.

Технологически невозможно заблокировать все точки доступа: помимо основных сервисов существует множество альтернатив, API и интеграций. Организационно запрет стимулирует обходные практики — использование личных устройств, копирование данных вручную, перенос информации вне контролируемых каналов.

Кроме того, отказ от ИИ-инструментов снижает конкурентоспособность. Компании, которые полностью ограничивают их использование, проигрывают тем, кто научился работать с ними безопасно.

В результате фокус смещается: задача не в том, чтобы запретить инструмент, а в том, чтобы управлять данными, которые в него попадают.

Ответом на новые риски, вызванные ИИ, становится переход от периметральной модели защиты — когда объектом является не сеть или устройство, а сама информация.

На практике для обеспечения информационной безопасности предприятия это означает несколько направлений.

Своя LLM-модель. Предоставьте сотрудникам легальную и безопасную альтернативу. Это может быть развертывание локальных LLM-моделей на собственных серверах компании. Тогда данные не уходят за пределы сети. Либо проведите закупку корпоративных API-аккаунтов у проверенных вендоров, сотрудничество с которыми заранее позволяет юридически зафиксировать, что промпты не будут сохраняться и использоваться для обучения моделей.

Разработка и внедрение регламентов использования ИИ на предприятии. В обязательной мере обновите Политику информационной безопасности и Положение о коммерческой тайне. Создайте понятный свод правил. Должны быть четкие «белые списки» данных, с которыми можно работать через публичный ИИ (публичная информация, идеи, открытый код), и строгие «черные списки» (персональные данные, финансовая отчетность до публикации, исходный код продуктов, пароли, ключи доступа).

Адаптация политик DLP-системы под реалии использования ИИ. Закрепите технически в DLP-системе введенные бумажные регламенты использования ИИ. Это снизит вероятность обхода формально утвержденных правил и повысит общую прозрачность цифрового периметра предприятия.

Обучение персонала основам безопасного ИИ. Также важный шаг для предприятия. Регулярно проводите тренинги и объясняйте сотрудникам на простых примерах, что публичная нейросеть — это не их личный помощник, живущий в компьютере, а стороннее юридическое лицо. И любая переписка с ChatGPT или Claude юридически и технически приравнивается к публикации этих данных на открытом форуме в интернете. Осознанность — важный патч безопасности.

Генеративный ИИ не разрушает корпоративную безопасность, но делает ее более сложной и менее очевидной. Основной вектор угроз смещается от внешних атак к внутренним процессам, связанным с повседневной работой сотрудников.

В этих условиях выигрывают не те компании, которые быстрее внедряют новые инструменты, а те, кто раньше других выстраивает систему управления данными.

Именно данные, а не технологии, остаются главным активом бизнеса — и главным объектом защиты.