Исследование показало, что люди проверяют лишь часть опасных запросов от ИИ-агентов для программирования: около трети вредоносных действий остаются незамеченными. Это ставит под сомнение эффективность человеческого контроля.
Мнение эксперта
- Для российского рынка важно, что многие ИИ-инструменты недоступны, поэтому локальные решения должны включать усиленный контроль за действиями агентов.
- Практический вывод: внедрять многоуровневые проверки запросов и ограничивать доступ ИИ-агентов к чувствительным данным и системам.
- Человеческий фактор остаётся ключевым, но полагаться только на него нельзя — нужны автоматические фильтры и аудит действий.
