Внедрение ИИ-инструментов в корпоративную среду часто напоминает партизанскую войну. Пока руководство обсуждает стратегии цифровой трансформации, отдел продаж уже сливает данные клиентов в ChatGPT, а маркетинг тестирует нейросети для генерации контента. Добровольная инициатива сотрудников оборачивается для бизнеса плохо контролируемым каналом утечки данных.
В отличие от официально одобренных ИИ-решений, «теневой ИИ» появляется стихийно. Сотрудники самостоятельно подключают сторонние боты, устанавливают браузерные расширения или используют встроенные возможности уже имеющегося ПО, даже не подозревая о рисках. Между тем, простой запрос в чат-боте «помоги переписать договор» или «проанализируй этот отчет» может мгновенно передать конфиденциальную информацию разработчикам модели. Данные уходят не только к владельцу SaaS-сервиса, но и к создателям ИИ-модели, которая этот сервис обслуживает.
Четыре вида нежелательного ИИ, которые нужно знать
Чтобы контролировать угрозу, сначала ее нужно классифицировать. Авторы исследования выделяют четыре типа ИИ-систем, с которыми сталкивается современный бизнес:
Не запрещать, а управлять
Стратегия компании в отношении ИИ не должна быть тотально запретительной. В зависимости от сферы деятельности (здравоохранение, ритейл, финансы) нужно провести четкую границу между тремя категориями сценариев: рекомендованные (полезные и безопасные), индивидуально одобряемые (требующие согласования) и полностью запрещенные.
Первый шаг к порядку — не эмоциональный запрет, а технологический аудит. Необходимо понять, какой именно ИИ уже «проник» в инфраструктуру, и лишь затем настраивать политики.