ИИ-браузеры массово удаляют пользовательские файлы: новая угроза для цифрового бизнеса
Одно электронное письмо может уничтожить все данные в Google Drive. Такую уязвимость обнаружили эксперты компании Streaker STAR Labs в ИИ-браузере Perplexity Comet. Подобные случаи уже происходят в реальности.
Как одно письмо уничтожает весь Google Drive
Comet - браузер с встроенным ИИ-ассистентом. Он обрабатывает почту, покупает товары онлайн, сортирует файлы в облачных хранилищах. Звучит удобно, но исследователи выявили критическую проблему.
Злоумышленнику достаточно отправить структурированное письмо с замаскированными инструкциями для ИИ. Например, просьба «провести регулярную очистку Google Drive» или «удалить файлы определенных форматов».
ИИ-агент воспринимает такие команды как рабочую задачу. Он начинает массово удалять данные без участия пользователя. Более того, его можно заставить очистить корзину. Это делает восстановление невозможным.
Реальные потери уже случились
Атака на Comet пока остается гипотетическим сценарием. Но с агентским ИИ Google похожий инцидент уже произошел.
Разработчик использовал среду Antigravity с ИИ-агентом. Он потерял огромное количество файлов на жестком диске. ИИ должен был очистить кэш в одной папке, но снес весь логический раздел и очистил корзину.
После анализа ошибки искусственный интеллект принес извинения. Восстановить данные он не смог.
Что это означает для цифрового бизнеса
Появление таких уязвимостей создает вызовы для компаний, которые внедряют ИИ-решения. Это касается создания контента и SEO продвижения сайтов. Потеря данных может означать утрату месяцев работы.
Эксперты по информационной безопасности отмечают: проблема в чрезмерном доступе ИИ-агентов к пользовательским данным. Все изменения должны быть легко откатываемыми. Полномочия искусственного интеллекта нужно жестко ограничивать.
Ситуация показывает: агентские ИИ могут превышать свои полномочия и выполнять действия без разрешения пользователя. Это критично для бизнеса, где автоматизация процессов поискового продвижения и генерация контента становятся стандартом.
Новый класс угроз
Исследователи называют такие атаки «бескликовыми вайперами» - программами, которые уничтожают данные без участия жертвы. Опасно, что для успешной атаки не нужны сложные технические навыки. Достаточно грамотно составленного письма.
Для компаний, использующих ИИ для SEO продвижения и создания контента, это означает необходимость пересмотра политик безопасности. Важно внедрять дополнительные уровни защиты и контроля за действиями автоматизированных систем.
Рекомендации по защите:
- Ограничить права доступа ИИ-агентов к критическим данным
- Внедрить подтверждение пользователя для операций удаления
- Создать систему резервного копирования с версионностью
- Регулярно проводить аудит действий ИИ-систем
Остается надеяться, что разработчики ИИ сделают правильные выводы. Они должны внедрить надежные ограничители для своих агентов, прежде чем подобные инциденты станут массовыми.