GTIG Google предупреждает: злоумышленники внедряют LLM прямо в вредоносный код, получая «just‑in‑time» самомодификацию. На горизонте — PromptFlux, PromptSteal/LameHug, FruitShell, QuietVault и PromptLock. Параллельно государства и подпольные форумы экспериментируют с Gemini для фишинга, отладки и усиления C2. Google блокирует аккаунты и ужесточает защитные барьеры.
ISD проверил ChatGPT, Gemini, Grok и DeepSeek на склонность цитировать источники, атрибутируемые российскому государству, по теме войны в Украине. Выяснилось: чем предвзятичнее и злее формулировка запроса, тем выше шанс увидеть кремлёвские нарративы. Gemini показал наилучшие защитные меры, тогда как у других моделей результаты ухудшались на «малicious»-запросах. Исследование поднимает вопросы о том, как контролировать ИИ-поисковики в условиях европейских санкций на дезинформацию.
Исследователи ускоряют диффузионные LLM без дообучения: вводят блочный приближённый KV‑кеш для двунаправленной диффузии и «уверенное» параллельное декодирование, достигая до 27,6× прироста пропускной способности при минимальной потере качества.
Команды из Texas A&M, UT Austin и Purdue показали: длительное дообучение языковых моделей на «мусорных» постах социальных сетей ведёт к стойкой деградации — падают рассуждение и работа с длинным контекстом, сбоят нормы безопасности, а «тёмные черты» личности растут. Даже масштабная донастройка лечит это лишь частично.
Восемь месяцев в окопах RAG: как мы довели качество на 13 млн страниц — генерация запросов, реранкинг 50→15, кастомный чанкинг, метаданные и роутинг. Плюс стек и опенсорс.