Intel отреагировала на заявления AMD о производительности искусственного интеллекта в центрах обработки данных для своих процессоров EPYC Turin 5-го поколения, заявив, что процессоры Xeon 5-го поколения работают быстрее при правильной оптимизации.
На выставке Computex 2024 компания AMD официально анонсировала семейство процессоров EPYC пятого поколения под кодовым названием Turin, в котором используется новейшая архитектура ядра Zen 5. Компания похвасталась производительностью, сравнив свои новые продукты с семейством процессоров Intel Xeon пятого поколения под кодовым названием Emerald Rapids, особенно в рамках рабочих нагрузок пропускной способности ИИ. После заявления акции компании AMD выросли на 1,5%, позволив инвесторам быстро заработать. О том, как купить иностранные акции в России, можно узнать из статьи финансового блога.
В ответ представители Intel уточнили, что эти тесты проводились без должной оптимизации для Xeon, и после их реализации процессоры пятого поколения должны легко превзойти новейшие серверные чипы EPYC (Turin) с точки зрения производительности ИИ. Результатом стало резкое падение курса ценных бумаг AMD.
Intel утверждает, что процессоры Xeon пятого поколения более эффективны, чем системы AMD EPYC Tutin при соответствующих оптимизациях.
Тест, который был особо отмечен Intel, — это чат-бот Llama2-7B, который основан на пропускной способности вывода INT4, а тест выполнялся с задержкой 50 мс. AMD похвасталась, что процессоры Intel EPYC пятого поколения в конфигурации 2S (два процессора) со 128 ядрами каждый обеспечивают производительность до 671 токена/с, а процессоры Intel Xeon Platinum 8592+ пятого поколения с 64 ядрами каждый работают в той же конфигурации с двойным сокетом обеспечивают только 125 токенов/с. Это означало огромное преимущество в 5,4 раза для процессоров AMD EPYC семейства Turin.
В Intel заявляют, что тесты проводились без соответствующего пакета программного обеспечения для процессоров Xeon пятого поколения, а AMD не предоставила в своих сносках никаких подробностей о конфигурации платформы Intel. Синяя команда теперь провела тесты на одних и тех же рабочих нагрузках ИИ, и похоже, что результаты радикально отличаются.
Используя расширение Intel для PyTorch (задержка P99), процессоры Emerald Rapids могут обеспечить производительность в 5,4 раза выше, чем продемонстрировала AMD. Производительность 686 токенов/с даже превосходит результат чипов EPYC пятого поколения. Это произошло не только благодаря оптимизации программного обеспечения Intel для Llama2, но и добавлению аппаратных ускорителей искусственного интеллекта в семействе Emerald Rapids 5-го поколения, которые обеспечивают значительный прирост производительности. Напомним, что такие процессоры пользуются популярностью среди майнеров криптовалют через пулы для майнинга биткоина и менее популярных криптовалют.
Intel не останавливается на достигнутом, компания также заявляет, что для оставшихся двух рабочих нагрузок, трансляции и суммирования, компания добилась увеличения производительности от 1,2 до 2,3 раза по сравнению с результатами, которые AMD представила в своей презентации на Computex 2024.
Более того, более важным аспектом является то, что эти тесты сильно зависят от памяти, а семейство EPYC следующего поколения будет иметь 12-канальный интерфейс DDR5. В то время как процессоры Intel Xeon «Emerald Rapids» текущего поколения поддерживают до 8 каналов памяти DDR5, процессоры Granite Rapids следующего поколения «Xeon 6700P/6900P» будут не только иметь тот же 12-канальный интерфейс памяти, что и новые процессоры EPYC, но и имеют такое же количество ядер: 128 для процессоров с P-ядрами и до 288E для семейства Xeon 6900E, которое появится в начале 2025 года. Процессоры Granite Rapids Xeon 6700P будут доступны с 86 P-ядрами в третьем квартале 2024 года.
Реакцию Intel можно понять, ведь рынок ИИ чрезвычайно прибылен и за клиентов в этом сегменте идет ожесточенная борьба не только за клиентов, но и за инвесторов на фондовом рынке.
