Новости из мира HPC и AI

📸 ИИ-суперкомпьютер на 100 тысяч GPU - как это выглядит в жизни. Свежий репортаж из дата-центра компании X.AI Илона Маска, где недавно был установлена первая очередь ИИ-суперкомпьютера Colossus на 100 тыс. GPU H100, то есть примерно 12 тыс узлов. Полная конфигурация будет 200 тыс узлов.Что интересно: - это наверно сейчас уже самый мощный суперкомпьютер в мире, у номер 1 в ТОП-500 Frontier количество GPU-карт подобного же класса равно 40 тыс., а здесь 100 тыс. - классическая (не ИИ) производительность FP64 его должна быть 34ТФ *100 000= 3.4 ЭкзаФлопса (а будет почти 7 ЭкзаФлопс); - построено на 4U узлах Supermicro с жидкостным охлаждением по 8 узлов в стойке;- вся сеть построена на Ethernet-400Gbits (BlueFielfd-3) по 8 портов на один узел, привычный Infiniband для интерконнекта не используется. Говорят - иначе (такая большая система) не масштабируется. При этом для складной работы GPU между собой используется особый режим работы и протокол Ethernet - RoCE (RDMA over Converged Ethernet). Все очень подробно показано и рассказано - рекомендуем:Видео (всего 15 минут): https://www.youtube.com/watch?v=Jf8EPSBZU7YСтатья того же авторства с картинками: https://www.servethehome.com/inside-100000-nvidia-gpu-xai-colossus-cluster-supermicro-helped-build-for-elon-musk/4/

🚀 Лонч процессоров AMD пятого поколения EPYC Turin, теперь доступно 192 физических ядра х86 в одном процессореСегодняшняя суперновость, правда не неожиданость. 😎Пару часов назад АМД выпустила свои новые серверные процессоры Turin с ядрами пятого поколения Zen5 (Zen 5C):https://www.servethehome.com/amd-epyc-9005-turin-turns-transcendent-performance-solidigm-broadcom/Максимальное количество физических ядер в одном процессоре теперь - 192 штуки. Для архитектуры x86 это точно рекорд (Интел месяц назад в процессорах Xeon 6900P показал 144 ядра), а для вообще процессоров вроде как тоже (компания Ampere в мае обещала 256 ядер, но пока не показала.)

⛅️ Как стать "Новым облачным ИИ-провайдером"Подробное и дружелюбное руководство "Как стать "Новым облачным ИИ-провайдером"", или провайдером облачного предоставления GPU-ресурсов для ИИ (или "ИИ-Неоклауд-провайдером") : https://www.semianalysis.com/p/ai-neocloud-playbook-and-anatomyСтатья состоит из двух частей: - Как, из чего и за какие деньги правильно построить такое облако (цены только приведены "тамошние", цены здесь будут примерно в два раза выше); - Экономика облака - но она закрыта пей-воллом (читается по платной подписке). Написана великолепным Диланом Пателем (в соавторстве с коллегой) - одним из лучшим экспертов в технологии HPC-AI.Подробно читать наверно долго и сложно, но всяко интересно полистать и хотя бы посмотреть картинки - чтобы иметь представление о глубине и ширине вопроса.

⚙️ Выставка-конференцияCOMPUTEX 2024 в Тайпее. Из новостей железа4 июня Интел официально выпустила процессоры 6-го поколения с максимум 144 штук так называемых "экономичных" Е-ядер Sierra Forest (рабочее инженерное название). В производстве теперь эта новая серия называется Xeon 6 (вместо текущих серий - Xeon Scalable): https://www.tomshardware.com/pc-components/cpus/intel-launches-144-core-sierra-forrest-xeon-6-cpus-granite-rapids-follows-in-q3Это прямой конкурент процессора AMD Bеrgamo с 128 "облегченными" ядрами, объявленный тоже на COMPUTEX, но год назад - в 2023г: https://www.tomshardware.com/news/amds-epyc-bergamo-and-zen-4c-detailed-same-as-zen-4-but-denserВ свою очередь AMD сделала еще ход уже на этом COMPUTEX-2024, и великолепная Лиза Су анонсировала их новый процессор Turin c 192 ядрами, который будет доступен к покупке "во второй половине 2024", то есть уже через месяц:https://www.tomshardware.com/pc-components/cpus/amd-announces-3nm-epyc-turin-launching-with-192-cores-and-384-threads-in-second-half-of-2024-54x-faster-than-intel-xeon-in-ai-workloadКейноут-выступление Пола Гельсингера, CEO Intel, можно посмотреть здесь: https://www.youtube.com/watch?v=2nZg3v7h0kUКейноут Лизы Су, CEO AMD, здесь: https://www.youtube.com/watch?v=MCi8jgALPYAPSДве добавки к новости:А) Объявленный сейчас AMD новый процессор Turin - не с Е-ядрами (экономичными), как у Intel Sierra Forest, а с "производительными" P-ядрами. И у AMD этих P-ядер 192 штуки, против 144 штук E-ядер у Intel.Б) Компания Supermicro уже выпустила платформы под новый Intel Xeon 6, они теперь называются "серия X14" (у SM названия моделей платформ заканчиваются суффиксом-цифрой "2"). Например: https://www.servethehome.com/intel-xeon-6-6700e-sierra-forest-shatters-xeon-expectations/5/https://www.anewtech.net/products/industrial-server-storage/rackmount-server/hyper-server/sys-222h-tn

🏰 Первый день работы конференции ISC’24 в Гамбурге. Новая редакция TOP-500.Сегодня прошел первый день работы конференции ISC’24 (International SuperComputing) в Гамбурге. Среди всех событий - опубликована новая «июньская» редакция рейтинга TOP-500 самых производительных суперкомпьютеров мира. Из новостей этой редакции: в Аргоннской Национальной Лаборатории заработал в полную силу уже ставший легендой суперкомпьютер Aurora, который показал обещанную пиковую производительность 2 экзафлопса, оставив первое место по Линпак-производительности за машиной Frontier. Вторая броская новость – появление в списке на высоких местах двух машин на новом комбо-чипе nVidia GH200, который содержит под одной крышкой одновременно кристаллы CPU на 72 ядрах ARM и GPU H100. Это машины Alps на 250 петафлопс пиковой и Venado на 130 петафлопс. Обе машины успешно прошли тест Линпак и по праву заняли свои 6-е и 11- место в рейтинге. Третья особенность рейтинга, на которую стоит обратить внимание, и которая досталась ему по наследству от ноябрьской редакции – это 3-е место и производительность 847 петафлопс суперкомпьютера Eagle (частной компании) Microsoft. Вероятно на нем обучается ChatGPT. Из этой точки становится видно, отчасти откуда у OpenAI такие значимые успехи в области разработки искусственного интеллекта.

📟 Микропроцессор Zilog Z80 снят с производства после 48 лет нахождения в нем (окончание)Прим.* Еще интересные статьи на Хабре про процессор Z80 и компьютер Sinclair ZX Spectrum, в порядке появления:https://habr.com/ru/articles/84093/https://habr.com/ru/articles/486584/https://habr.com/ru/articles/809205/** Хорошее изложение истории микропроцессоров рекомендуем почитать здесь:https://habr.com/ru/companies/ua-hosting/articles/387347/

📟 Микропроцессор Zilog Z80 снят с производства после 48 лет нахождения в немКомпания Zilog снимает с производства знаменитый микропроцессор Zilog Z80.15 апреля на него объявлен End of Life.В наше очень быстрое время (в области ИТ, как минимум), когда многие изделия устаревают за 2-3 года (видеокарты, например), процессор Z80 просуществовал на рынке 48 лет – с 1976 года, и это очень удивительно.Для тех, кто вдруг не в курсе, но интересуется: микропроцессор Z80 в конце 70-х стал основой многих персональных компьютеров, среди которых самым знаменитым и знаковым стал Sinclair ZХ Spectrum, или просто "Синклер", или просто "Спектрум". Это 8-разрядная машина, невероятно лаконичной конструкции (сильно благодаря именно процессору Z80), с цветной графикой и приличным звуком. Машина компактная, внешне выглядящая, как клавиатура с разъемами, которая подключалась к телевизору – как монитору, и к обычному кассетному магнитофону – как хранилищу программ (и данных). Конструкция была настолько хороша и проста (полтора десятка недефицитных микросхем на одной плате и блок питания), что наверно миллионы людей, если не купили, то собрали себе эти машины и попали благодаря этому в компьютерный мир. Через игры, конечно. Тогда компьютерные игры (в англоязычном мире они почему-то назывались Video Games) это было нечто завораживающее – супер-мега-хайтек, и этих игр всем нестерпимо хотелось. В России движение изготовителей-пользователей Спектрумов-Синклеров было особенно развито, так как, как раз в то время изготовление такой своей машины было по карману многим, а, скажем, "фирменный" х86 (IBM PC - "писюк") был космически дорог.До сих пор есть и процветают сообщества фанов Синклера. Машины сейчас сильно усовершенствовались – имеют в 2-8 раз большую память, чем оригинал (было 48 МБ, стало 64МБ, 128МБ, 256МБ и даже 512МБ), делаются часто на современной элементной базе и у них уже есть стандартные на сегодня видео-интерфейсы VGA или даже HDMI/DVI (для подключения к обычным мониторам), USB (

📟 Началась конференция NVIDIA GTC 2024. Кейноут CEO nVidia Дженсен Хуанга.Вчера в 1PM PDT (23-00 по Москве) CEO nVidia Дженсен Хуанг излагал свой кейноут (ключевую лекцию):https://www.nvidia.com/gtc/keynote/?regcode=no-ncid&ncid=no-ncidОн анонсировал GPU ускоритель B100 новой архитектуры Blackwell:https://www.anandtech.com/show/21310/nvidia-blackwell-architecture-and-b200b100-accelerators-announced-going-bigger-with-smaller-data

🔥 Через неделю стартует конференция OpenTalksAI Сегодня последний день «стандартной» регистрации на замечательную конференцию OpenTalksAI, осталось меньше часа, если кто решил, что ему нужно: https://opentalks.ai/en/#participantsВсячески рекомендуем!Это наверно лучшая из доступных конференция по ИИ, спасибо Игорю Пивоварову.

🔥 Microsoft Ignite - армии фаблесс производителей процессоров и ускорителей прибылоМикрософт несколько дней назад показал микросхемы CPU Azure Cobalt 100 (128 ядер ARM) и ИИ-ускоритель Azure Maia 100 собственной разработки. Интересно, что эти новые чипы были показаны на собственной новой конференции Microsoft Ignite ("Зажечь!"), которая прошла с 15 по 18 ноября в Сиэтле - прямо в те же дни, что и конференция SC'23 в Денвере, о которой мы недавно рассказывали.Чтобы быстро понять, что это за устройства, удобно посмотреть сжатое до 8 минут выступление СЕО Микрософт Сатья Наделла, который рассказывает про оба чипа. В ускорителе Майя 100 млрд транзисторов (в nVidia H100 - 80 млрд) и сделана она на фабрике TSMC по 5нм технологии. Охлаждение - исключительно жидкостное. Сколько памяти на борту пока непонятно (новая планка = 140ГБ+ -> это уже у H200, и наверно не меньше будет). Говорят, что Майя уже работает под нагрузкой ChatGPT 3.5 в составе AI Copilot на GitHub-е.Также занятно и примечательно, что на эту тусовку Microsoft Ignition пришел даже Дженсен Хуанг - СЕО nVidia, вот здесь он выходит на сцену к Сатья Наделла.