В марте 2023 года инженеры Samsung загрузили секретный исходный код полупроводников в ChatGPT, чтобы быстрее исправлять ошибки. Это повторилось трижды за 20 дней. Компания полностью запретила генеративный ИИ. Samsung никто не «взламывал» — данные передали сами сотрудники.

Этот инцидент — не отдельный случай, а символ самой распространённой проблемы безопасности, с которой сегодня сталкиваются предприятия: добросовестные сотрудники, желающие быть эффективными, ежедневно передают конфиденциальные данные в AI-инструменты. А традиционные системы защиты этого не видят.

Масштаб проблемы: цифры

По данным Enterprise AI and SaaS Data Security Report 2025 от LayerX Security, 50% сотрудников признались, что загружали конфиденциальные бизнес-данные в генеративные AI-инструменты. Ещё 18% делились сверхконфиденциальными данными — включая данные проприетарных разработок. 77% онлайн-обращений к LLM приходится на ChatGPT. Около 18% сотрудников регулярно загружают данные в GenAI-инструменты, и более чем в половине этих случаев участвует корпоративная информация.

Компания Cyberhaven, наблюдавшая за 1,6 миллиона сотрудников, выявила ещё более тревожную динамику: доля конфиденциальных данных в информации, поступающей в AI-инструменты, за два года выросла втрое — с 10,7% до 34,8%. Важнее всего то, что 82% этих «загрузок» идёт через личные аккаунты, невидимые для компании. 68% сотрудников признались, что загружают данные компании в AI-инструменты, не проверяя, чем делятся.

Вопрос цены тоже ясен: по данным Cost of a Data Breach Report 2025 от IBM, средняя стоимость одной утечки данных составляет 4,88 миллиона долларов. А утечка через ИИ создаёт дополнительный риск — данные хранятся на стороннем сервере, могут быть использованы в обучении, и вернуть их невозможно.

Данные уходят тремя путями

Анализ показывает: бизнес-данные уходят через ИИ тремя документированными путями — и в компании из десяти человек, и в компании из десяти тысяч.

Первый путь: сотрудники передают сами. Кейс Samsung — самый известный, но не единственный. В июле–августе 2025 года выяснилось, что исполняющий обязанности главы Агентства кибербезопасности США (CISA) загрузил в публичную версию ChatGPT не менее четырёх конфиденциальных правительственных документов — включая контрактные материалы, предназначенные для официального использования. Ещё один реальный случай: руководитель компании загрузил в чат полный стратегический документ компании, чтобы подготовить слайды. Мотив всегда один — быстрее закончить работу.

Второй путь: сливает сама платформа. В феврале 2025 года хакер заявил о взломе платформы OmniGPT (агрегатор, подключающийся к ChatGPT, Claude и Gemini) и опубликовал чат-сообщения 34 миллионов пользователей. Среди образцов были офисные проекты, анализы рынков и документы с сохранёнными логинами-паролями. В июле–августе 2025 года исследователи обнаружили в поиске Google индексацию ~4500 общих чатов ChatGPT — всего было соскрейплено ~100 тысяч чатов, среди них имена, резюме и персональные данные. OpenAI в августе 2025 года отключила функцию «обнаруживаемого шаринга», но однажды проиндексированные данные полностью не исчезают.

Третий путь: дверью становятся подключённые инструменты. В июне 2025 года хакеры вошли в AI-платформу конкурентной разведки Klue через учётные данные, созданные в 2022 году и никогда не удалённые, а затем вытянули из подключённых систем Salesforce компаний контакты, цены и записи сделок. Злоумышленники заявили о 195 жертвах, среди подтверждённых — LastPass, HackerOne и Huntress, то есть даже сами компании по безопасности были взломаны через AI-инструмент, которому доверяли.

Генеральный директор LayerX Security Ор Эшед так комментирует этот риск:

«Утечка корпоративных данных через AI-инструменты может вызвать геополитические проблемы, регуляторные и комплаенс-риски, а также привести к ненадлежащему использованию в обучении корпоративных данных, раскрытых через личные AI-инструменты.»

Почему «запретить» не работает

Некоторые организации выбрали самый лёгкий путь: полностью запретить AI-инструменты. Samsung, Apple и JPMorgan в разное время ограничивали использование ChatGPT. Но практика показывает: когда вводят запрет, люди не отказываются от ИИ — они переходят на личные устройства. В результате компания полностью теряет видимость, и риск не уменьшается, а растёт.

В эту эпоху выигрывают не те, кто борется с внедрением ИИ, а те, кто умно им управляет. Цель — не замедлить сотрудников, а безопасно ускорить.

Практическое руководство: семь шагов

1. Составьте список разрешённых инструментов. Утверждайте не любые AI-инструменты, а версии с подписанным корпоративным договором и гарантией не использовать данные в обучении. «Allowlist» эффективнее чёрного списка, потому что новые инструменты выходят каждую неделю.

2. Требуйте enterprise-режим и условия «нулевого хранения». Крупные AI-провайдеры предлагают корпоративным клиентам режимы, при которых запросы не хранятся и не используются в обучении. Закрепите это в договоре как письменную гарантию — устного обещания недостаточно.

3. Классифицируйте данные. Введите простую трёхцветную систему: «красный» — никогда не вводить (персональные данные, финансовые отчёты, исходный код, договоры); «жёлтый» — вводить только обезличенно; «зелёный» — можно свободно использовать (открытые маркетинговые тексты и т.п.). Каждый сотрудник должен знать, какая категория действует для его работы.

4. Сделайте обезличивание привычкой. Перед обращением к ИИ маскируйте или обобщайте имена, номера счетов, адреса и другие идентификаторы. Для многих задач достаточно «клиента А» и «компании Б» — модели настоящие имена не нужны.

5. Установите контроль на уровне запросов. Традиционные DLP-системы (предотвращение потери данных) отслеживают электронную почту и передачу файлов, но не видят, что пишется в окно чата в браузере. Современные решения работают именно на уровне запросов (промптов): при обнаружении конфиденциальных данных предупреждают или блокируют.

6. Обучайте сотрудников на реальных примерах. Сухой политический документ не работает — покажите кейс Samsung, инцидент CISA. Люди думают «это не про меня»; реальные примеры разрушают эту уверенность. Обучение должно быть не для наказания, а для навыка безопасной работы. Самый эффективный формат — короткие интерактивные тренинги: сотруднику дают реальный рабочий сценарий, и он сам определяет, какие данные можно вводить. Такое занятие должно повторяться не один раз, а каждый квартал, потому что AI-инструменты и их риски быстро меняются.

7. Проверяйте договоры с вендорами. С каждым AI-поставщиком должен быть договор об обработке данных (DPA): где хранятся данные, кто может получить доступ, используются ли в обучении, удаляются ли данные при окончании договора. Особенно осторожны будьте со сторонними агрегаторами (вроде OmniGPT) — они дополнительное слабое звено.

Узбекский контекст: местная реальность

В Узбекистане действует законодательство о персональных данных, и требования по локализации данных усиливаются. Это означает, что бесконтрольная загрузка персональных данных граждан на зарубежные AI-платформы — не только риск безопасности, но и правовой риск.

Отдельное внимание нужно уделить резидентам IT Park: почти половина их экспорта приходится на Северную Америку, и они работают с конфиденциальными данными иностранных клиентов. Западные клиенты предъявляют всё более жёсткие комплаенс-требования — подрядчик без AI-политики может проиграть тендер. То есть конфиденциальность здесь не «добрая воля», а условие экспортной конкурентоспособности.

Для банков и финтеха (включая крупные экосистемы) регулирование ещё строже: ввод финансовых данных клиентов в публичные AI-инструменты абсолютно недопустим. При внедрении ИИ в госорганах конфиденциальность данных граждан также должна быть на первом месте — кейс CISA показал, что даже само ведомство кибербезопасности не исключение.

Для малого и среднего бизнеса стартовый шаг не требует большого бюджета: достаточно сначала опубликовать список утверждённых инструментов, объяснить сотрудникам правила «красной линии» и перейти на AI-аккаунты с входом через корпоративную почту. Эти три шага берут под контроль основную часть «теневого ИИ» и возвращают компании видимость. На следующем этапе — договоры и технические средства контроля.

Вывод: короткий чек-лист для руководителя

  • [ ] Опубликован ли список утверждённых AI-инструментов?
  • [ ] Есть ли в договоре гарантия «нулевого хранения» в корпоративном режиме?
  • [ ] Определены ли категории данных (красный/жёлтый/зелёный)?
  • [ ] Обучены ли сотрудники на реальных примерах?
  • [ ] Работает ли мониторинг на уровне запросов или DLP?
  • [ ] Подписаны ли DPA-договоры с вендорами?
  • [ ] Есть ли политика использования личных аккаунтов?
  • [ ] Готов ли план действий при инциденте (incident response)?

Самый важный вывод: безопасность ИИ — не техническая проблема, а проблема управления. Инструмент нельзя запретить — нужно научиться им управлять. Один час, потраченный сегодня на разработку политики, завтра сэкономит недели на устранение инцидента.