Hugging Face выложила Beam — открытую модель на 501 млрд параметров

Hugging Face опубликовала в открытом доступе модель Beam с 501 млрд параметров. Это одна из самых крупных открытых моделей, выложенных сообществом. Заявленная особенность — возможность держать её на собственной инфраструктуре, а не обращаться к чужому API. Пользователи смогут дообучать модель под свои данные и задачи. Также заявлена масштабируемость: конфигурацию можно адаптировать под доступные мощности. Работа с моделью такого размера потребует серьёзных вычислительных ресурсов, поэтому ориентирована она прежде всего на команды с собственным кластером.