Когда компьютеры учатся шутить, иногда их шутки попадают не в ту комнату — и получается конфуз с конфиденциальностью. Microsoft признала, что с конца января Microsoft 365 Copilot в вкладке «work tab» Chat по ошибке суммировал письма из папок «Отправленные» и «Черновики», несмотря на применённые метки Confidential и политики DLP. Да-да, виртуальный «помощник» решал, что краткий пересказ — это самый вежливый способ помочь.
Суть проста и одновременно тревожна: элементы с конфиденциальными метками должны оставаться недоступными для автоматизированной обработки, но ошибочный кусок кода позволял Copilot «подглядывать» и выдавать сводки. Инцидент отмечен под идентификатором CW1226324 (см. сообщение Microsoft) и описан в заметке на BleepingComputer: https://www.bleepingcomputer.com/news/microsoft/microsoft-says-bug-causes-copilot-to-summarize-confidential-emails/
Хорошая новость в том, что Microsoft обнаружила природу проблемы и в начале февраля начала выкатывать исправление; компания продолжает мониторить развёртывание и связывается с частью затронутых пользователей, чтобы убедиться, что всё работает как надо. Точная статистика пострадавших не разглашается — Microsoft пока называет инцидент advisory, то есть ограниченного по масштабу характера.
Для администраторов это напоминание не пренебрегать аудитом и настройками DLP: даже крупные поставщики ПО ошибаются, и важна оперативная реакция. Российские администраторы и исследователи по безопасности, как и их зарубежные коллеги, внимательно отслеживают такие случаи и обмениваются рекомендациями по защите корпоративных данных.
В итоге — мораль простая: цифровой копилот полезен, пока ему доверяют только то, что вы готовы доверить. А если уж он начал пересказывать чужие секреты, пора проверять метки, политики и патчи: иногда оправдание «я всего лишь резюмировал» звучит смешно, но в вопросах безопасности — слишком дорого.