NVIDIA выпустила Minerva — платформу наблюдаемости для «ИИ-фабрик»

NVIDIA представила Minerva — AIOps-платформу, которая помогает раньше находить проблемы и поддерживать работоспособность «ИИ-фабрик». Такие фабрики состоят из огромного числа GPU, связанных высокоскоростными сетями, и даже один подсевший компонент способен замедлить целую задачу. Платформа собирает телеметрию с GPU, сетевого оборудования, хранилищ, планировщиков и самих нагрузок, а затем строит из этих данных динамический граф знаний о всей инфраструктуре. Это позволяет проследить причину медленного обучения к конкретному узлу или кабелю даже в кластере из сотен тысяч GPU. Minerva обрабатывает миллиарды точек данных в час с помощью обучения с учителем и без него: выявляет нетипичное поведение, предсказывает назревающие сбои и объединяет лавину сигналов в один инцидент с вероятной первопричиной. В платформу встроен ИИ-ассистент на естественном языке, который отвечает на вопросы по живой телеметрии и подсказывает исправления, при этом решения можно оставить за человеком или передать автоматизации через API.