Масштабная утечка данных в Instagram: как ИИ-чат-бот помог хакерам взломать тысячи аккаунтов

Недавнее исследование выявило серьезную уязвимость в системе технической поддержки Meta*, которая привела к компрометации более 34 тысяч аккаунтов в Instagram*. Злоумышленники использовали автоматизированные алгоритмы для получения контроля над профилями, обходя стандартные протоколы безопасности.

Суть проблемы и последствия атаки

Согласно отчету, опубликованному в The New York Times, инцидент затронул десятки тысяч пользователей. Около 20 тысяч учетных записей были успешно взломаны, что привело к утечке конфиденциальной информации, включая адреса электронной почты, номера телефонов и даты рождения. В ряде случаев злоумышленникам удавалось менять имена пользователей и временно блокировать владельцам доступ к их профилям.

Среди пострадавших оказались не только частные лица, но и бизнес-аккаунты, публичные фигуры, а также государственные организации. На взломанных страницах хакеры публиковали несанкционированный контент, прежде чем компания Meta* смогла вмешаться и восстановить доступ.

Механизм взлома через ИИ

В отличие от классических методов, таких как фишинг или кража паролей через вредоносное ПО, в данном случае атака была направлена на автоматизированный чат-бот службы поддержки. Схема действий злоумышленников выглядела следующим образом:

• Хакеры манипулировали запросами к ИИ-помощнику, убеждая его заменить адрес электронной почты, привязанный к целевому аккаунту.
• После смены контактных данных злоумышленники инициировали процедуру сброса пароля.
• Получив контроль, они полностью перехватывали управление профилем.

Позиция Meta* и риски автоматизации

В компании Meta* заявили, что причиной инцидента стали недостатки в системе верификации, а не сама модель искусственного интеллекта. По мнению экспертов, проблема кроется в автоматизации процессов, которые ранее требовали участия человека. Риск заключается в том, что ошибка, допущенная ИИ, может повторяться тысячи раз в автоматическом режиме, если злоумышленники находят подходящую формулировку запроса.

Несмотря на масштаб инцидента, Meta* не планирует отказываться от внедрения ИИ-технологий в свою инфраструктуру. На текущий момент компания приостановила работу конкретного инструмента восстановления паролей, связанного с уязвимостью, однако общая стратегия по расширению использования ИИ-поддержки остается неизменной. Внутренние документы свидетельствуют о том, что в компании рассматривают подобные сбои как рабочие задачи по оптимизации безопасности, а не как повод для замедления внедрения технологий.

* — деятельность компании запрещена на территории РФ