DeepSeek открыла исходный код DeepInfer — фреймворка для инференса своих моделей, обслуживающего её публичные сервисы. Поддерживаются только GPU NVIDIA Blackwell и Huawei Ascend 950.
Мнение эксперта
- Для российского рынка ценен сам открытый код: DeepInfer можно изучать и адаптировать под Ascend, которые у нас реально доступны как замена NVIDIA.
- Поддержки Hopper и более старых GPU нет, поэтому уже закупленные A100/H100 остаются вне этого стека, а ставка на Blackwell для закупок связана с риском поставок.
- Интегратору стоит использовать DeepInfer как референс по стоимости инференса, но бенчмарки вендора нужно перепроверять самостоятельно, прежде чем обещать клиенту цифры.
