Как неожиданное раскрытие данных вынуждает компании приостанавливать внедрение ИИ
Развитие генеративного искусственного интеллекта и агентных систем открыло специалистам доступ к огромным массивам корпоративной информации. Однако на практике этот прогресс оказался сопряжен с серьезными рисками. Эксперты, выступившие на недавней конференции Veeam в Нью-Йорке, предупредили коллег о необходимости более осторожного подхода к интеграции ИИ в бизнес-процессы.
Проблема «найденного» контента
Многие компании были вынуждены временно приостановить развертывание ИИ-инструментов, так как интеллектуальные алгоритмы начали демонстрировать сотрудникам данные, которые долгое время считались забытыми или скрытыми в недрах корпоративных хранилищ. Руководители подчеркивают: сам по себе искусственный интеллект не является источником проблемы. Он лишь выступает в роли сверхскоростной поисковой системы, которая находит и структурирует информацию, доступную в сети компании.
Стив Макинтайр, старший вице-президент Fidelity Investments, отмечает, что после внедрения ИИ-помощников в компании, насчитывающей 400 тысяч сотрудников, нейросети начали извлекать документы десятилетней давности из сетевых хранилищ и SharePoint. Аналогичная ситуация возникла в EY, где ИИ-системы получили доступ к петабайтам несистематизированных данных, многие из которых не имели ответственных владельцев и не проходили процедуру контроля жизненного цикла.
Ключевые вызовы безопасности
Основные трудности, с которыми столкнулись ИТ-руководители, можно свести к следующим пунктам:
- Отсутствие прозрачности в вопросах владения данными в глобальных структурах.
- Накопление огромных массивов неструктурированной информации, которая до эпохи больших языковых моделей не представляла ценности, а теперь стала критически важным активом.
- Риски, связанные с теневым ИИ — неконтролируемым использованием нейросетей сотрудниками без одобрения ИТ-отделов.
- Сложность управления правами доступа при использовании сторонних моделей, таких как Claude.
Стратегия защиты данных
Для исправления ситуации компании внедряют строгие меры управления и защиты:
- Идентификация и классификация данных: автоматическое присвоение меток, таких как «конфиденциально» или «финансовые услуги», с использованием самого ИИ.
- Географические ограничения: внедрение меток, привязанных к региональному законодательству и контрактным обязательствам по работе с данными клиентов.
- Развертывание защищенных сред для работы ИИ-агентов, где каждое действие протоколируется и отслеживается.
- Установление четких правил использования ИИ, привязанных к конкретным проектам и утвержденным сервисам.
Одной из наиболее сложных задач на ближайшее будущее эксперты называют создание системы управления «идентичностью» ИИ-агентов. Поскольку такие программы могут существовать всего несколько секунд, традиционные методы контроля доступа к ним неприменимы. По мнению специалистов, текущая ситуация требует глубокой переработки принципов информационной безопасности, где защита данных становится фундаментом успешной цифровой трансформации.
