Если бы у хакера был волшебный блокнот, он, видимо, выбрал бы Gemini — и стал бы слишком амбициозным кондитером, печущим фишинговые пирожки. Юмор в сторону: отчёт Google Threat Intelligence Group показывает, что злоумышленники действительно использовали модель Gemini на всех этапах атак — от разведки до посткомпрометации (подробно: https://www.bleepingcomputer.com/news/security/google-says-hackers-are-abusing-gemini-ai-for-all-attacks-stages/).

GTIG фиксирует, что группы из Китая, Ирана, КНДР и, по отчёту, некоторые российские акторы привлекали модель для профилирования целей, генерации фишинговых ловушек, написания и отладки кода, тестирования уязвимостей и помощи в эксфильтрации данных. Среди заметных кейсов — HonestCue: proof-of-concept-фреймворк, который использовал Gemini API для генерации C#-пейлоадов и их исполнения в памяти; а также CoinBait — фишинговый набор, маскирующийся под криптобиржу.

Интересно, что злоумышленники оставляли артефакты, свидетельствующие об использовании генеративных инструментов — например, префиксы логов “Analytics:”, упрощающие слежение за эксфильтрацией. Отдельно Google описывает ClickFix-атаки, где через рекламные объявления жертв подталкивали к выполнению вредоносных команд и установке AMOS-стилевых инфоштилеров для macOS.

Не менее серьёзна угроза интеллектуального хищения: попытки извлечения модели и “knowledge distillation” позволяют с помощью массовых запросов (в одном случае — порядка 100 000 промптов) воспроизвести поведение модели и ускорить создание клонированных решений. Это проблема не только безопасности, но и бизнеса AI-as-a-service.

Google уже отключил связанные аккаунты и усилил классификаторы Gemini, но вывод очевиден: мир кибербезопасности должен работать вместе. Важно подчеркнуть роль исследователей и специалистов — в том числе российских экспертов — которые вносят вклад в обнаружение угроз и разработку защитных мер. Без международного сотрудничества и прозрачного обмена знаниями борьба с подобными злоупотреблениями будет сложной задачей для всех участников цифрового пространства.