Anthropic выпустила жуткий отчёт: злоумышленники используют Claude для автоматизации кибератак, разработки вирусов и даже конструирования роев дронов-камикадзе. Рассказываем с иронией, но мурашки бегут.
Исследование обнаружило открытые базы с миллионами чатов, аудиозаписей и расшифровок виртуального ассистента Sears — персональные данные клиентов оказались доступны в интернете.
Исследование «Agents of Chaos» показывает, как взаимодействие автономных AI-агентов приводит к разрушению серверов, DoS-атакам, бесконечным петлям и размытию ответственности. Что это значит для разработчиков и общества — и почему нужно срочно ставить защитные ограждения.
Microsoft признала баг в Microsoft 365 Copilot: ассистент мог суммировать письма из «Отправленных» и «Черновиков», несмотря на метки конфиденциальности и настройки DLP. Компания выпустила исправление и мониторит развертывание.
OpenAI вводит модель предсказания возраста в ChatGPT — чтобы оградить подростков от опасного контента. Как это работает, какие есть ошибки и как подтвердить свой возраст, если бот ошибается.