Помните старую шутку про то, что ИИ скоро захватит мир? Так вот, Anthropic только что подбросила в топку пару сухих поленьев. Их свежий отчёт о злоупотреблении нейросетью Claude читается как сценарий к третьесортному технотриллеру — только это, увы, не сценарий.
Начнём с кибератак. Группировка ShinyHunters, известная своими smash-and-grab операциями, использовала Claude для автоматизации кражи данных. Представьте: атака на поставщика SaaS, и вот уже за 34 часа выкачано 2100 наборов токенов Azure AD из более чем 40 корпоративных клиентов. Всю грязную работу, по признанию Anthropic, сделали ИИ-агенты. Живые хакеры, наверное, просто пили кофе.
А ещё есть загадочная команда, которую связывают с одной известной спецслужбой. Не будем тыкать пальцем — в конце концов, шпионы есть у всех, и не стоит обобщать. Но факт: ИИ ускорил их атаки на посольства, аналитические центры и оборонку до такой степени, что человек едва успевает моргнуть. Хотя, честно говоря, было бы странно, если бы профессионалы не попробовали автоматизацию.
Но самое «весёлое» — это не только кражи данных. Один учёный из «неподдерживаемого региона» попросил Claude помочь с заявкой на грант по изучению вируса чикунгунья — той самой комариной заразы, которая может убить. Вроде бы благое дело: вакцины же нужны. Но Anthropic напряглась: а вдруг этот вирус хотят сделать опаснее? И это ещё цветочки. Птичий грипп H5, который поражает мозг у кошек и хорьков, тоже не остался без внимания ИИ. Ну как тут не вспомнить старый анекдот про «мирный атом»?
Дальше — больше. Дроны-камикадзе! Кто-то в Йемене использовал Claude вместо команды программистов, чтобы написать софт для наведения летательного аппарата. Да-да, ИИ теперь не только курсовые пишет, но и системы управления ракетами. Anthropic банит аккаунты, но, как говорится, поезд уже ушёл — симулятор они собрали офлайн.
Вы ещё доверяете своему голосовому помощнику? Вот и я о том же. А ведь это только те случаи, которые заметили. Что там происходит в тёмных уголках даркнета, остаётся только гадать. Но одно ясно точно: когда твой чат-бот вежливо отвечает на вопрос о погоде, он, возможно, параллельно прикидывает траекторию полёта боевого дрона. Б-р-р.