От отчёта Google: злоумышленники использовали модель Gemini для рекогносцировки, генерации фишинговых приманок, написания кода и эксфильтрации данных. В публикации разбирают примеры HonestCue, CoinBait и ClickFix, а также попытки извлечения модели.
Проверили восемь бесплатных чат-ботов на реальных задачах кодинга: кто пишет плагины и чинит баги, а кто путается в регэкспах и AppleScript. Лидеры — Copilot, ChatGPT и DeepSeek; остальным ещё есть куда расти.
GTIG Google предупреждает: злоумышленники внедряют LLM прямо в вредоносный код, получая «just‑in‑time» самомодификацию. На горизонте — PromptFlux, PromptSteal/LameHug, FruitShell, QuietVault и PromptLock. Параллельно государства и подпольные форумы экспериментируют с Gemini для фишинга, отладки и усиления C2. Google блокирует аккаунты и ужесточает защитные барьеры.
ISD проверил ChatGPT, Gemini, Grok и DeepSeek на склонность цитировать источники, атрибутируемые российскому государству, по теме войны в Украине. Выяснилось: чем предвзятичнее и злее формулировка запроса, тем выше шанс увидеть кремлёвские нарративы. Gemini показал наилучшие защитные меры, тогда как у других моделей результаты ухудшались на «малicious»-запросах. Исследование поднимает вопросы о том, как контролировать ИИ-поисковики в условиях европейских санкций на дезинформацию.