OWASP выпустила первый топ-10 рисков для автономных ИИ-агентов, а реальные инциденты с npm, MCP-серверами, Amazon Q и Claude Desktop уже показывают, как легко цели агентов перехватываются, инструменты используются во зло, цепочки поставок заражаются, а обычный веб-поиск превращается в удалённое выполнение кода.
История о том, как «умные» камеры наблюдения Flock Condor внезапно превратились в общенациональное реалити-шоу без пароля и согласия главных героев — обычных людей на улицах США.
Эксперимент Google Labs CC присылает утренний план дня, собирая важное из Gmail и Google Calendar, умеет отвечать на запросы по почте и даже искать в интернете — но пока не без странностей и ограничений.
Как британский регулятор пенсий превратил ИИ из идеи в рабочий сервис: фундамент данных, фокус на пользователях, интеграция с бизнесом, культура обучения и сторителлинг — плюс два практических кейса и видение на два года вперёд.
OpenAI тестирует «признания» для GPT‑5: модель поощряют за честные отчёты о собственных ошибках и нарушениях. Подход повышает прозрачность и помогает выявлять риски, но сам по себе не предотвращает плохое поведение.