Т1 проверил более 20 ИИ-моделей на альтернативах NVIDIA
По данным холдинга, смешанный парк из NVIDIA и китайских ускорителей позволяет наращивать мощности при дефиците, а стоимость инференса может сократиться в разы. Источник: https://www.computerra.ru/373065/it-holding-t1-proveril-bolee-20-ii-modelej-na-alternativah-nvidia-stoimost-inferensa-mozhet-sokratitsya-v-razy/ — 3 ноября **Что стоит отслеживать** — Отпечатки моделей без раскрытия весов: от тог
Холдинг Т1 протестировал свыше 20 ИИ-моделей на ускорителях, которые могут заменить оборудование NVIDIA. Испытания проводились на смешанном парке: в нём одновременно работали чипы NVIDIA и китайские ускорители. По оценке компании, такая комбинация даёт возможность наращивать вычислительные мощности при нехватке аппаратуры. Ещё один ожидаемый эффект — снижение стоимости инференса, причём в разы. Для рынка это существенно, поскольку спрос на запуск ИИ-моделей растёт, а поставки NVIDIA ограничены. Тест Т1 показывает, что часть нагрузки можно перенести на доступные альтернативные ускорители.