Исследователи Check Point протестировали популярные фреймворки для ИИ-агентов на предмет уязвимостей и представят результаты на Black Hat, показав, что промпт-инъекция не является корневой проблемой — сами фреймворки создают риски безопасности.
Мнение эксперта
- На российском рынке использование западных ИИ-фреймворков ограничено, но аналогичные риски есть и в отечественных разработках на базе открытых компонентов.
- Интеграторам следует предусмотреть в проектах ИИ-агентов отдельный этап пентеста каркаса приложений, чтобы избежать утечек через промпт-инъекции.
- В условиях санкций и ухода вендоров важно формировать собственные компетенции по безопасной сборке ИИ-решений, не полагаясь на 'из коробки'.