Модели ИИ, перекормленные «мусорными» постами из соцсетей, теряют рассудительность, память и этические ориентиры. Разбираемся, что такое brain rot и как за пару минут понять, не страдает ли ваш чат-бот цифровым «размягчением мозга».
OWASP выпустил обновлённый Top 10 рисков приложений на 2025 год: сломанный контроль доступа снова на первом месте, конфигурационные ошибки — на втором, провалы цепочки поставок — в тройке. Появилась категория про «исключительные состояния», а в мире ИИ лидирует prompt injection.
Исследователи Microsoft показали атаку Whisper Leak: по таймингам и размерам зашифрованных токенов можно с высокой точностью угадать тему диалога с ИИ. Часть провайдеров уже внедрила защиты, но не все спешат.
GTIG Google предупреждает: злоумышленники внедряют LLM прямо в вредоносный код, получая «just‑in‑time» самомодификацию. На горизонте — PromptFlux, PromptSteal/LameHug, FruitShell, QuietVault и PromptLock. Параллельно государства и подпольные форумы экспериментируют с Gemini для фишинга, отладки и усиления C2. Google блокирует аккаунты и ужесточает защитные барьеры.
ISD проверил ChatGPT, Gemini, Grok и DeepSeek на склонность цитировать источники, атрибутируемые российскому государству, по теме войны в Украине. Выяснилось: чем предвзятичнее и злее формулировка запроса, тем выше шанс увидеть кремлёвские нарративы. Gemini показал наилучшие защитные меры, тогда как у других моделей результаты ухудшались на «малicious»-запросах. Исследование поднимает вопросы о том, как контролировать ИИ-поисковики в условиях европейских санкций на дезинформацию.