NVIDIA анонсировала новый компактный ИИ-суперкомпьютер Project Digits, который будет доступен для приобретения в мае. Основу устройства составляет новый чип GB10 Grace Blackwell Superchip, обладает способностью обрабатывать ИИ-модели с количеством параметров до 200 миллиардов, при этом он может удобно размещаться на столе и подключаться к стандартной электросети.

Система, по дизайну схожая с Mac Mini, впечатляет своими характеристиками: 128 ГБ унифицированной оперативной памяти и до 4 ТБ NVMe-накопителей. Также имеется возможность объединить два таких устройства для работы с моделями до 405 миллиардов параметров, что сопоставимо с возможностями наиболее мощных систем от OpenAI. Таким образом, запуск моделей может выполняться локально.

Чип GB10 демонстрирует производительность на уровне 1 петафлопс, специально предназначенную для ИИ-вычислений. Компания MediaTek принимала участие в разработке, оптимизируя энергоэффективность нового чипа. Эта система включает современные ядра CUDA и тензорные ядра пятого поколения.

Project Digits работает на операционной системе NVIDIA DGX OS, основанной на Linux, и поддерживает самые распространенные фреймворки, такие как PyTorch, Python и Jupyter notebooks. Пользователи смогут получить доступ к обширной библиотеке ИИ-инструментов от NVIDIA и предобученным моделям через каталог NGC.

Тем не менее, стоимость этого устройства достаточно высока – 3000 долларов (~321 000 рублей).

Источник: @droidergram