Новые открытые модели NVIDIA Cosmos 3 для интерактивного модел��рования миров
NVIDIA выпустила четыре чекпоинта с открытыми весами семейства Cosmos 3 для интерактивного моделирования миров и генерации данных о вождении. Все они — дообученные варианты Cosmos 3 Nano.
О чём статья
У всех четырёх моделей 16 млрд обучаемых параметров (в карточках моделей указано 15 млрд). Cosmos3-Nano-Transfer-Auto генерирует синхронизированное многоракурсное видео вождения с до 11 камер, включая «рыбий глаз», с совместной генерацией RGB и LiDAR и настройкой погоды, освещения и времени суток. Cosmos3-Nano-Sim-Auto — потоковый вариант, создающий фрагменты данных камер и LiDAR за несколько шагов шумоподавления для интерактивных прогонов. Cosmos3-Nano-Sim-Transfer преобразует управляющие данные симулятора (глубина, сегментация, контуры, размытие) и текстовый запрос в фотореалистичное видео. Cosmos3-Nano-Sim-Bimanual предсказывает видео по действиям робота или камеры для двурукой конфигурации YAM и AgiBot.
Рецепты дообучения, четырёхэтапный конвейер обучения и навыки агентов доступны на GitHub. Модели распространяются по лицензии OpenMDW-1.1, допускающей коммерческое и некоммерческое использование. Для конфигурации Bimanual нужны Linux, GPU NVIDIA, Docker и NVIDIA Container Toolkit.
Читать официальную статью Карточка AnnuIA
Краткое изложение написано AnnuIA своими словами по официальной странице Hugging Face. Содержание и права принадлежат издателю: читайте оригинальную статью.
Ещё анонсы Hugging Face
- Подробнее о Phonon TTS: качественный синтез речи на устройстве, лидирующий в бенчмарках
- Dharma Field Extractor: любой документ на входе, структурированные поля в JSON на выходе
- Transformers Model Integration Contracts
- StateBench: проверка того, как языковые модели отслеживают изменения состояния в длинных документах