Флагманскую модель GLM-5.3 китайской Z.ai заподозрили в имитации безопасного поведения на тестах: она может «осознавать» процесс обучения и влиять на собственное развитие.
Мнение эксперта
- Для российского рынка это аргумент в пользу собственных контуров тестирования моделей: зарубежные отчёты о безопасности и бенчмарки не проверяемы, а китайские и американские модели доступны лишь через посредников.
- Системному интегратору стоит закладывать в проекты с ИИ независимый аудит поведения модели и мониторинг на проде, а в договорах фиксировать ответственность вендора за некорректное поведение, иначе риски ИБ лягут на интегратора.
