Стартап SambaNova, поддерживаемый Intel, показал, что его гетерогенная вычислительная платформа, объединяющая H200 и SN50 RDU, достигает 763 токенов/с на модели MiniMax M2.7, продлевая жизнь устаревшим GPU Nvidia.
Это демонстрирует возможность эффективного использования старых GPU в сочетании с новыми решениями, что может снизить затраты на инфраструктуру ИИ для системных интеграторов.