Обнаружить следы неавторизованного ИИ сложнее, чем кажется. Классические DLP-системы могут не распознать, как сотрудник копирует данные в веб-интерфейс ChatGPT, а файерволы — пропустить трафик OAuth-авторизации. Эффективная защита строится на комбинации нескольких технологических уровней.
Вот основные методы детектирования и блокировки, которые рекомендуют эксперты.
1. Сетевые инструменты (DNS, NGFW, веб-шлюз)
Самый очевидный способ. Большинство облачных ИИ-сервисов имеют узнаваемые домены и шаблоны API-запросов. Современные веб-шлюзы уже содержат отдельную категорию для блокировки «генеративного ИИ». Однако этот метод бессилен против локальных моделей (например, запущенных через LM Studio), трафик которых никуда не уходит.
2. Защита конечных точек (EPP / EDR / Контроль приложений)
Здесь фокус на том, что установлено на компьютере пользователя. EDR-агенты способны обнаружить:
3. Контроль браузера и расширений
Многие ИИ-инструменты живут прямо в браузере как расширения. Веб-шлюз может не видеть зашифрованный трафик, но политики управления браузерами (Browser Security) позволяют запретить установку или запуск нежелательных дополнений.
4. Критически важно: управление OAuth-доступами
Это самый недооцененный, но важный пункт. Многие «полезные» ИИ-помощники (например, для автоматизации встреч или обработки почты) не отправляют трафик через корпоративную сеть. Они запрашивают у пользователя права OAuth и подключаются напрямую к Microsoft 365, Google Workspace или Slack. EDR и NGFW просто не увидят, как Read.AI выгружает записи всех ваших Zoom-совещаний.
Что делать:
Резюме
Не существует единого «серебряного» средства от нежелательного ИИ. Оптимальная стратегия включает три этапа:
Только комбинируя эти методы, можно надежно закрыть канал утечки данных, оставаясь при этом открытыми для безопасных инноваций.
Вот основные методы детектирования и блокировки, которые рекомендуют эксперты.
1. Сетевые инструменты (DNS, NGFW, веб-шлюз)
Самый очевидный способ. Большинство облачных ИИ-сервисов имеют узнаваемые домены и шаблоны API-запросов. Современные веб-шлюзы уже содержат отдельную категорию для блокировки «генеративного ИИ». Однако этот метод бессилен против локальных моделей (например, запущенных через LM Studio), трафик которых никуда не уходит.
2. Защита конечных точек (EPP / EDR / Контроль приложений)
Здесь фокус на том, что установлено на компьютере пользователя. EDR-агенты способны обнаружить:
- Приложения для доступа к ChatGPT, Claude (как десктопные клиенты).
- Локальные языковые модели (через оболочки Ollama, LM Studio).
- Агентские браузеры и open source ИИ-агенты.
- Косвенный индикатор: наличие Node.js, Python, Git или Docker на компьютерах сотрудников, не связанных с разработкой. Это может указывать на запуск самодельных ИИ-скриптов.
3. Контроль браузера и расширений
Многие ИИ-инструменты живут прямо в браузере как расширения. Веб-шлюз может не видеть зашифрованный трафик, но политики управления браузерами (Browser Security) позволяют запретить установку или запуск нежелательных дополнений.
4. Критически важно: управление OAuth-доступами
Это самый недооцененный, но важный пункт. Многие «полезные» ИИ-помощники (например, для автоматизации встреч или обработки почты) не отправляют трафик через корпоративную сеть. Они запрашивают у пользователя права OAuth и подключаются напрямую к Microsoft 365, Google Workspace или Slack. EDR и NGFW просто не увидят, как Read.AI выгружает записи всех ваших Zoom-совещаний.
Что делать:
- В Microsoft 365 / Entra ID: зайти в Identity > Applications > Enterprise apps > Consent and permissions и запретить пользователям давать согласие (User consent for applications).
- В Google Workspace: Security > API controls > Unconfigured app settings — выбрать вариант Don’t allow users to access any third-party apps.
- В Slack: Admin > Apps and workflows > Require approved apps — разрешить запуск только заранее одобренных приложений.
Резюме
Не существует единого «серебряного» средства от нежелательного ИИ. Оптимальная стратегия включает три этапа:
- Сканирование через DNS, EDR и контроль OAuth.
- Блокировка на уровне сети и конечных точек (как основной контур).
- Перевод под управляемый доступ через корпоративный шлюз (для ИИ, которые решено не блокировать, но контролировать).
Только комбинируя эти методы, можно надежно закрыть канал утечки данных, оставаясь при этом открытыми для безопасных инноваций.