В инстаграме — массовая кража аккаунтов. Виноват искусственный интеллект, который заменил людей в службе поддержки соцсети Как хакеры обманули ИИ? И можно ли защитить свой профиль?
Что случилось?
31 мая на Reddit и в соцсети икс стали появляться сообщения о массовом взломе и угоне аккаунтов в инстаграме. Некоторые пострадавшие пользователи при этом отмечали, что использовали надежный метод защиты своих профилей — с помощью двухфакторной аутентификации — и отказались от авторизации через смс-сообщения.
Уже на следующий день выяснилось, что хакеры обходили все ограничения с помощью встроенного в инстаграм чат-бота поддержки. Этот ассистент использует собственные наработки Meta в области искусственного интеллекта и обладает широкими правами по работе с аккаунтами пользователей. Переписываясь с ним, хакеры убеждали чат-бот поменять почтовый адрес, привязанный к конкретному аккаунту. А потом сбрасывали пароль и отменяли все другие способы восстановления доступа.
Исследователи утверждают, что хакеры атаковали много аккаунтов с коротким юзернеймом (например @hey and @jowo), которые особо ценятся у перекупщиков.
Среди пострадавших была исследовательница в сфере безопасности и бывшая сотрудница Meta Джейн Манчун Вонг (Jane Manchun Wong).
31 мая был взломан и инстаграм @obamawhitehouse. Это официальная страница Белого дома эпохи правления президента США Барака Обамы. Он не обновлялся с 2017 года. При этом неизвестно точно, использовалась ли для этого взлома уязвимость чат-бота.
Вечером 1 июня представитель Meta Энди Стоун написал в одном из тредов, что уязвимость была исправлена. Но воровство чужих аккаунтов после этого не остановилось. Исследователи предполагают, что Meta явно запретила использование конкретных фраз, но оставила ИИ-ассистенту все полномочия. Поэтому взломщики теперь действуют хитрее, используя весь известный арсенал атак против больших языковых моделей.
Позже Meta скрыла кнопку чат-бота, но оставила открытым его API. То есть отсекла лишь обычных пользователей, которые могли попытаться использовать этот метод из праздного любопытства.
Мой аккаунт тоже могут украсть?
Увы, в теории да. Meta, видимо, пока не закрыла уязвимость полностью, так что попробовать обмануть чат-бот все еще может любой желающий. Точный масштаб таких атак, впрочем, неизвестен.
Зато мы знаем, что Meta начала возвращать украденные аккаунты. И рассылать предупреждения пользователям, чьи профили атаковали хакеры.
Хотелось бы уже забыть про блокировки, но нет такой возможности! Продолжаем рассказывать, как оставаться на связи, даже когда ее ограничивают. Например, как дозвониться родным в Россию и не потратить на это все деньги (и нервы), что делать, если не работает VPN, и почему, когда россияне едут в отпуск за границу, блокировки едут вместе с ними? А чтобы не пропустить ничего важного — скачайте наше приложение!
Но защититься как-то можно?
Нам, к сожалению, не удалось найти ни одного дельного совета на этот счет.
Устранение угрозы в первую очередь зависит от Meta.
- Компания может попытаться обучить ИИ-ассистента распознавать все подобные атаки (хотя мы не знаем, возможно ли это в принципе).
- Или пойти на более радикальный шаг — и отобрать у чат-бота возможности по смене почтового адреса и других учетных данных пользователя.
Хотя двухфакторная аутентификация не помогает при таких кражах, это не повод от нее отказываться. Без нее ваш инстаграм может оказаться беззащитен против обычных хакерских атак.
«Медуза»