NVIDIA обяви нов клас суперкомпютри с голямо количество памет - суперкомпютърът NVIDIA DGX, базиран на суперчипове NVIDIA GH200 Grace Hopper и системи за превключване NVIDIA NVLink. Той е предназначен за разработване на модели от следващо поколение за генеративни приложения AI, препоръчителни системи и работни натоварвания за анализ на данни.
Масивно пространство в паметта NVIDIA DGX GH200 използва технология за свързване NVLink с NVLink Switch System, за да комбинира 256 суперчипа GH200, които в резултат работят като един GPU. Това осигурява 1 exaflop производителност и 144 TB споделена памет, близо 500 пъти повече от предишното поколение NVIDIA DGX A100, който беше представен през 2020 г.
„Генеративна AI, големите езикови модели и препоръчителните системи са цифровите двигатели на съвременната икономика, каза основателят и главен изпълнителен директор NVIDIA Дженсън Хуанг. – Суперкомпютрите DGX GH200 AI интегрират най-съвременните ускорени изчислителни и мрежови технологии NVIDIAза разширяване на границите на ИИ“.
Както се съобщава в прессъобщение на уебсайта на компанията, суперчиповете GH200 премахват необходимостта от традиционна CPU-GPU PCIe връзка. Те съчетават процесора NVIDIA Базирана на ръка Grace и GPU NVIDIA H100 Tensor Core в един корпус. Това увеличава честотната лента между GPU и CPU със 7 пъти, значително намалява консумацията на енергия и осигурява 600 GB GPU Hopper архитектура за нови суперкомпютри. Архитектурата DGX GH200 осигурява 48 пъти по-голяма честотна лента на NVLink от предишното поколение.
Очаква се Google Cloud да Meta че Microsoft ще бъде сред първите, които ще получат достъп до DGX GH200 и ще изследват възможностите му за генериране на AI натоварвания. Производителят също възнамерява да предостави дизайна на DGX GH200 като проба на доставчиците на облачни услуги, за да могат да го адаптират за своята инфраструктура.
„Създаването на усъвършенствани генеративни модели изисква иновативни подходи към инфраструктурата на изкуствения интелект“, каза вицепрезидентът по компютърни технологии в Google Cloud Марк Ломайер. „Новият мащаб на NVLink и паметта на суперчипа Grace Hopper се справят с ключови затруднения в широкомащабния AI и очакваме с нетърпение да проучим потенциала му за Google Cloud и нашите генеративни AI инициативи.“
Корпоративен вицепрезидент за Azure Infrastructure в Microsoft Гириш Баблани отбеляза потенциала на DGX GH200 за работа с терабайтови набори от данни, което ще позволи на разработчиците да провеждат изследвания в по-големи мащаби и при ускорени скорости.
Компанията създава и суперкомпютър NVIDIA Helios, базиран на DGX GH200, за неговите изследователи и екипи за развитие. Той ще бъде оборудван с четири системи DGX GH200 и всяка ще бъде свързана чрез мрежа Quantum-2 InfiniBand, за да се увеличи пропускателната способност на данните за обучение на големи AI модели. Helios ще включва 1024 суперчипа Grace Hopper и се очаква да заработи до края на годината.
Софтуер NVIDIA Base Command осигурява управление на работния процес с AI, управление на клъстери от корпоративен клас, библиотеки, които ускоряват изчисленията, съхранението и мрежовата инфраструктура, както и системен софтуер, оптимизиран за натоварвания на AI. Включен е и AI Enterprise софтуер, който предоставя над 100 рамки, предварително обучени модели и инструменти за разработка за опростяване на разработването и внедряването на производствен AI, включително генериращ AI AI, компютърно зрение, реч AI и много повече.
Суперкомпютри NVIDIA DGX GH200 ще бъде наличен до края на годината.
Прочетете също: