Root NationСтатииКомпанииОт CUDA до AI: Тайните на успеха NVIDIA

От CUDA до AI: Тайните на успеха NVIDIA

-

NVIDIA - първата компания в историята на чип индустрията, чиято капитализация надхвърли трилион долара. Каква е тайната на успеха?

Сигурен съм, че много от вас са чували за компанията NVIDIA и повечето от вас го свързват конкретно с графичните процесори, защото фразата "NVIDIA GeForce" са чували почти всички.

NVIDIA

NVIDIA наскоро направи финансова история в ИТ индустрията. Това е първата компания за интегрални схеми, чиято пазарна стойност е надхвърлила трилион долара. Това е и петата технологична компания в историята, която постига такъв голям (по пазарна капитализация) успех. Преди това само хората можеха да се похвалят с толкова висок рейтинг Apple, Microsoft, Alphabet (собственик на Google) и Amazon. Ето защо финансистите понякога го наричаха "Клубът на четиримата", който сега е разширен NVIDIA.

Освен това по пазарна капитализация е далеч зад AMD, Intel, Qualcomm и други технологични компании. Това не би било възможно без визионерската политика на компанията, въведена преди десетилетие.

Прочетете също: Има ли бъдеще за TruthGPT на Илон Мъск?

Невероятно търсене на NVIDIA H100 Tensor Core

Каква е тайната на такова увеличение на капитализацията? На първо място това е реакцията на фондовата борса на успеха на чипа NVIDIA H100 Tensor Core, който е в голямо търсене сред водещите доставчици на облачна инфраструктура и онлайн услуги. Тези чипове се купуват от Amazon, Meta и Microsoft (за собствени нужди и нуждите на своя партньор - компанията OpenAI). Те са особено енергийно ефективни при ускоряване на изчисления, типични за генеративния изкуствен интелект, като ChatGPT или Dall-E. Това е невероятен скок от порядък за ускореното изчисление. Получаваме безпрецедентна производителност, мащабируемост и сигурност за всяко работно натоварване NVIDIA Графичен процесор H100 Tensor Core.

NVIDIA-H100-Тензорно ядро

Използване на превключваща система NVIDIA NVLink може да бъде свързан към до 256 H100 GPU за ускоряване на работните натоварвания в exa мащаб. Графичният процесор също така включва специален Transformer Engine за решаване на езикови модели с трилиони параметри. Комбинираните технологични иновации на H100 могат да ускорят големите езикови модели (LLM) с невероятните 30 пъти в сравнение с предишното поколение, предоставяйки водещ в индустрията разговорен AI. Разработчиците го смятат за почти идеален за машинно обучение.

- Реклама -

H100 обаче не се появи от нищото. И, честно казано, не е особено революционно. NVIDIA, като никоя друга компания, инвестира огромни ресурси в изкуствения интелект от много години. В резултат на това компания, свързана основно с марката графични карти GeForce, може да третира потребителския пазар почти като хоби. В края на краищата това изгражда истинска мощ на пазара на ИТ гиганти NVIDIA вече могат да говорят с тях като с равни.

Също интересно: Какво представляват 6G мрежите и защо са необходими?

Бъдещето ли е изкуственият интелект?

Днес в това са убедени почти всички, дори скептично настроените експерти в тази област. Сега това е почти аксиома, истина. Макар че NViDIA знаеше за това преди 20 години. Изненадах ли ви?

Технически, първият близък контакт NVIDIA с изкуствения интелект се случи през 1999 г., когато на пазара се появи процесорът GeForce 256, способен да ускорява изчисленията с машинно обучение. въпреки това NVIDIA започва да инвестира сериозно в изкуствения интелект едва през 2006 г., когато въвежда архитектурата CUDA, която позволява използването на възможностите за паралелна обработка на графичните процесори за обучение и изследвания.

NVIDIA-CUDA

Какво е CUDA? Най-добре се дефинира като паралелна изчислителна платформа и интерфейс за програмиране на приложения (API), който позволява на софтуера да използва графични процесори с общо предназначение (GPGPU). Този подход се нарича изчисление с общо предназначение на GPU. В допълнение, CUDA е софтуерен слой, който осигурява директен достъп до виртуалния набор от инструкции и паралелни изчислителни елементи на графичния процесор. Той е проектиран да работи с езици за програмиране като C, C++ и Fortran.

Именно тази достъпност улеснява паралелните разработчици да се възползват от GPU ресурсите, за разлика от предишните API като Direct3D и OpenGL, които изискваха напреднали умения за графично програмиране.

NVIDIA-CUDA

Важен пробив беше предоставянето от компанията NVIDIA изчислителна мощност за новаторската невронна мрежа AlexNet. Това е конволюционна невронна мрежа (CNN), разработена от украинеца Алекс Крижевски в сътрудничество с Иля Суцкевер и Джефри Гинтън.

Конволюционните невронни мрежи (CNN) винаги са били основният модел за разпознаване на обекти - те са мощни модели, които са лесни за управление и дори по-лесни за обучение. Те не изпитват прекомерно монтиране до тревожна степен, когато се използват върху милиони изображения. Тяхната производителност е почти идентична със стандартните предадени невронни мрежи със същия размер. Единственият проблем е, че те трудно се прилагат към изображения с висока разделителна способност. Мащабът на ImageNet изисква иновации, които ще бъдат оптимизирани за GPU и ще намалят времето за обучение, като същевременно ще подобрят производителността.

AlexNet

На 30 септември 2012 г. AlexNet участва в ImageNet Large Scale Visual Recognition Challenge. Мрежата постигна резултат от 15,3% в теста за топ пет грешки, с над 10,8% по-нисък резултат от второто място.

Основното заключение от оригиналната работа беше, че сложността на модела се дължи на неговата висока производителност, която също беше много скъпа от изчислителна гледна точка, но стана възможна чрез използването на графични процесори (GPU) по време на процеса на обучение.

Самата конволюционна невронна мрежа AlexNet се състои от осем слоя; първите пет са конволюционни слоеве, някои от които са предшествани от максимално свързани слоеве, а последните три са напълно свързани слоеве. Мрежата, с изключение на последния слой, е разделена на две копия, всяко от които работи на един GPU.

- Реклама -

Тоест благодарение на него NVIDIA и все още повечето експерти и учени смятат, че AlexNet е невероятно мощен модел, способен да постигне висока точност на много сложни набори от данни. AlexNet е водещата архитектура за всяка задача за откриване на обекти и може да има много широки приложения в сектора на компютърното зрение за проблеми с изкуствения интелект. В бъдеще AlexNet може да се използва повече от CNN в областта на изображенията.

Също интересно: Феноменът Bluesky: какъв вид услуга и за дълго ли е?

Изкуственият интелект не е само в лабораториите и центровете за данни

В NVIDIA видя големи перспективи за ИИ и в технологиите на потребителските устройства и Интернет на нещата. Докато конкурентите тепърва започват да обмислят да инвестират по-широко в нов тип интегрална схема, NVIDIA вече работи върху тяхното миниатюризиране. Чипът Tegra K1, разработен в сътрудничество с Tesla и други автомобилни компании, вероятно е особено важен.

NVIDIA-Tegra-K1

Процесорът Tegra K1 е един от първите процесори NVIDIA, създаден специално за AI приложения в мобилни и вградени устройства. Tegra K1 използва същата GPU архитектура като серията графични карти и системи NVIDIA GeForce, Quadro и Tesla, което осигурява висока производителност и съвместимост с графични и изчислителни стандарти като OpenGL 4.4, DirectX 11.2, CUDA 6.5 и OpenCL 1.2. Благодарение на това процесорът Tegra K1 може да поддържа усъвършенствани алгоритми за изкуствен интелект като дълбоки невронни мрежи, обучение с подсилване, разпознаване на изображения и реч и анализ на данни. Tegra K1 има 192 CUDA ядра.

През 2016г NVIDIA пусна серия от Pascal процесори, оптимизирани да поддържат дълбоки невронни мрежи и други модели на изкуствен интелект. В рамките на една година на пазара се появи серия от процесори Volta за приложения, свързани с изкуствения интелект, които са още по-ефективни и енергоспестяващи. През 2019г NVIDIA купува Mellanox Technologies, производител на високопроизводителни компютърни мрежи за центрове за данни и суперкомпютри.

NVIDIA

В резултат на това всички те използват процесори NVIDIA. На потребителския пазар, например, геймърите използват революционния DLSS алгоритъм за реконструкция на изображения, който им позволява да се насладят на по-отчетлива графика в игрите, без да харчат много пари за графична карта. На бизнес пазара се признава, че чиповете NVIDIA по много начини отвъд предлаганото от конкурентите. Въпреки че не е така, че Intel и AMD напълно проспаха интелектуалната революция.

Също интересно: Най-добрите инструменти, базирани на изкуствен интелект

Intel и AMD в областта на изкуствения интелект

Да поговорим за преките конкуренти NVIDIA в този пазарен сегмент. Тук Intel и AMD работят все по-активно, но с голямо закъснение.

Intel придоби няколко AI компании като Nervana Systems, Movidius, Mobileye и Habana Labs, за да подсили своето портфолио от AI технологии и решения. Intel също така предлага хардуерни и софтуерни платформи за изкуствен интелект, като процесори Xeon, FPGA, NNP чипове и библиотеки за оптимизация. Intel също така работи с партньори от публичния и частния сектор за напредък в иновациите и образованието в областта на ИИ.

Intel и AMD

AMD разработи серия от процесори Epyc и графични карти Radeon Instinct, които са оптимизирани за AI и приложения за дълбоко обучение. AMD работи и с компании като Google, Microsoft, IBM и Amazon, предоставящи облачни решения за AI. AMD също така се стреми да участва в изследвания и разработки на AI чрез партньорства с академични институции и индустриални организации. Но всичко е много добре NVIDIA вече е далеч пред тях, а успехът му в областта на разработката и поддръжката на AI алгоритми е несравнимо по-голям.

Също интересно: Обобщение на Google I/O 2023: Android 14, Pixel и много AI

NVIDIA се свързва с видеоигрите от десетилетия

Това също не трябва да се забравя. NVIDIA не предоставя точна разбивка на своите приходи между потребителския и бизнес пазарите, но те могат да бъдат оценени въз основа на оперативните сегменти, които компанията оповестява във финансовите си отчети. NVIDIA разделя четири оперативни сегмента: игри, професионални визуализации, центрове за данни и автомобили.

NVIDIA

Може да се предположи, че сегментът на игрите е фокусиран основно върху потребителския пазар, тъй като включва продажбата на видеокарти GeForce и чипове Tegra за игрови конзоли. Сегментът за професионална визуализация е фокусиран основно върху бизнес пазара, като включва продажбата на Quadro видео карти и RTX чипове за работни станции и професионални приложения. Сегментът на центровете за данни също е фокусиран основно върху бизнес пазара, тъй като включва продажбата на GPU и NPU (т.е. чипове от следващо поколение - вече не GPU, а предназначени изключително за AI) за сървъри и облачни услуги. Автомобилният сегмент е насочен както към потребителските, така и към бизнес пазарите, тъй като включва продажби на Tegra и Drive системи за инфоразвлекателни системи и автономно шофиране.

NVIDIA

Въз основа на тези допускания е възможно да се оцени делът на приходите от потребителските и бизнес пазарите в общите приходи NVIDIA. Според последния финансов отчет за 2022 г. приходите на компанията NVIDIA по оперативни сегменти са както следва:

  • Игри: 12,9 милиарда долара
  • Професионална визуализация: 1,3 милиарда долара
  • Центрове за данни: 9,7 милиарда долара
  • Автомобили: 0,8 милиарда долара
  • Всички останали сегменти: 8,7 милиарда долара

Общ доход NVIDIA възлиза на $33,4 млрд. Ако приемем, че автомобилният сегмент е разделен приблизително поравно между потребителския и бизнес пазарите, могат да се изчислят следните пропорции:

  • Приходи от потребителския пазар: (12,9 + 0,4) / 33,4 = 0,4 (40%)
  • Приходи от бизнес пазара: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)

Това означава, че около 40% от приходите NVIDIA идва от потребителския пазар и около 60% от бизнес пазара. Тоест основната посока е бизнес сегментът. Но игралната индустрия също носи доста добри приходи. Най-важното е те да растат всяка година.

Също интересно: Дневникът на един сърдит стар гийк: Bing срещу Google

Какво ще ни донесе бъдещето?

Очевидно е, че NVIDIA вече има план за участие в разработването на алгоритми за изкуствен интелект. И е много по-широк и по-обещаващ от всеки от преките си конкуренти.

Само през последния месец NVIDIA обяви множество нови инвестиции в изкуствен интелект. Един от тях е механизмът GET3D, който е в състояние да генерира сложни триизмерни модели на различни обекти и герои, които вярно отразяват реалността. GET3D може да генерира около 20 обекта в секунда с помощта на един графичен чип.

Трябва да се спомене и още един интересен проект. За Израел-1 е суперкомпютър за програми с изкуствен интелект, който NVIDIA създава в сътрудничество с Министерството на науката и технологиите на Израел и компанията Mellanox. Очаква се машината да има повече от 7 петафлопа изчислителна мощност и да използва повече от 1000 графични процесора NVIDIA A100 Tensor Core. Израел-1 ще се използва за изследвания и разработки в области като медицина, биология, химия, физика и киберсигурност. И това вече са много обещаващи капиталови инвестиции, предвид дългосрочните перспективи.

NVIDIA

Освен това вече има друг проект - NVIDIA ACE. Това е нова технология, която е настроена да революционизира индустрията на игрите, като позволява на играча да взаимодейства с неиграещ герой (NPC) по естествен и реалистичен начин. Тези герои ще могат да водят открит диалог с играча, да реагират на неговите емоции и жестове и дори да изразяват собствените си чувства и мисли. NVIDIA ACE използва усъвършенствани езикови модели и базирани на AI генератори на изображения.

Първият трилион долара в NVIDIA. Изглежда скоро ще има още. Със сигурност ще следим развитието на компанията и ще ви уведомим.

Прочетете също:

Yuri Svitlyk
Yuri Svitlyk
Син на Карпатите, непризнат гений на математиката, "адвокат"Microsoft, практичен алтруист, ляво-дясно
- Реклама -
Регистрирай се
Уведомете за
гост

0 Коментари
Вградени рецензии
Вижте всички коментари