Исследователи обманом заставили Microsoft Copilot раскрыть детали собственной архитектуры и возможные векторы атак, что демонстрирует уязвимость ИИ-ассистентов к социальной инженерии.
Мнение эксперта
- Инцидент с Copilot усилит позиции сторонников импортозамещения и подстегнёт спрос на российские ИИ-ассистенты с сертифицированной защитой.
- Интеграторам стоит добавить в чек-листы проектов ИИ-ассистентов проверку на промпт-инъекции и социальную инженерию.
- Данный случай показывает необходимость ограничивать доступ ИИ-помощников к внутренним документам и конфиденциальным данным.
