Anthropic разрабатывает открытую систему FlashProve для криптографической верификации ИИ-моделей: она позволит доказать, какая именно нейросеть выдала результат, и защитит от подмены модели.
Мнение эксперта
- В России прямого аналога нет, поэтому спрос на верификацию моделей придёт вместе с регуляторными требованиями к ИИ и станет нишей для локальных разработок.
- Интегратору стоит закладывать аудит происхождения моделей в проекты: подмена API-эндпоинта или «чужой» чекпойнт иначе всплывут уже на приёмке.
- Пока отраслевой стандарт не принят, риски ИБ в цепочке поставки ИИ-моделей остаются на стороне заказчика, а не вендора.
