SamsungСообщается, что подразделение ИТ-услуг и другие компании тестируют процессор, который содержит более 1000 ядер RISC-V общего назначения, чтобы обеспечить то, что, по словам разработчика чипа, является более быстрой и энергоэффективной производительностью вывода ИИ, чем энергоемкая специальность. кремний.
Об этом в четверг заявил разработчик чипов Esperanto Technologies. Samsung SDS и другие неназванные компании, которых она идентифицировала только как «ведущих клиентов», проводят первоначальные оценки ускорителя логического вывода ET-SoC-1 стартапа.
Стартап из Маунтин-Вью, штат Калифорния, был основан в 2014 году Дэйвом Дитцелем, ветераном полупроводниковой отрасли, который работал над архитектурами параллельных вычислений в Intel, а ранее руководил разработкой архитектуры набора инструкций ЦП SPARC в Sun Microsystems. Esperanto теперь возглавляет Арт Свифт, который занимал несколько руководящих должностей в области полупроводников, включая генерального директора Wave Computing.
ET-SoC-1 содержит 1088 энергоэффективных 64-разрядных процессорных ядер, использующих архитектуру набора инструкций RISC-V, новую альтернативу x86 и Arm ISA. Эти ядра сопровождаются собственными векторными/тензорными математическими блоками для ускорения операций машинного обучения, а чип также оснащен четырьмя высокопроизводительными ядрами RISC-V, а также более чем 160 млн байт встроенной SRAM (более 152 МБ, затем) и интерфейсы для флэш-памяти и внешней DRAM.
Esperanto утверждает, что с этой архитектурой у него самый быстрый чип AI RISC-V. Стартап заявил, что в сочетании с требованиями к низкому энергопотреблению ET-SoC-1 «разработан для удовлетворения требований к производительности, мощности и общей стоимости владения для клиентов крупных центров обработки данных».
В то время как Esperanto утверждает, что ET-SoC-1 может «хорошо справиться с любой рабочей нагрузкой машинного обучения», компания заявила, что чип превосходит рекомендации ML, одного из наиболее распространенных серверных приложений, запускаемых так называемыми гиперскейлерами, такими как материнская компания Facebook Meta и Amazon.
Аплодисменты от Samsung паспорт безопасности
Патрик Бангерт, вице-президент по искусственному интеллекту в Samsung SDS сказал, что его команда по обработке данных «была очень впечатлена» первым испытанием ET-SoC-1, проведенным компанией. Он добавил, что процессоры конкурентов Esperanto не обеспечивают такой же уровень масштабирования производительности, как ET-SoC-1, а это означает, что чип хорошо справляется с обеспечением более высокого уровня производительности пропорционально количеству используемых чипов.
«Он был быстрым, производительным и в целом простым в использовании. Кроме того, SoC продемонстрировал почти линейное масштабирование производительности в различных конфигурациях вычислительных кластеров ИИ. признанные компании, предлагающие альтернативные решения для эсперанто», — сказал Бангерт в цитате, предоставленной Esperanto.
Это свидетельство крупного ИТ-провайдера, который продает различные услуги ИИ и анализа данных через свою программную платформу Brightics AI.
Но одно дело попробовать новый чип. Совсем другое дело, когда крупная компания делает крупный заказ на покупку и использует такие чипы для создания продуктов и услуг, приносящих доход. Таким образом, новости о выборке Esperanto — это лишь одна из многих вех, которые ей нужно будет достичь, прежде чем она вызовет беспокойство у доминирующего поставщика чипов AI, Nvidia, и других разработчиков чипов.
Таким образом, Esperanto заявила, что ищет другие компании, которые захотят присоединиться к ее программе оценки, которая позволяет пользователям использовать ET-SoC-1 с различными готовыми моделями искусственного интеллекта, включая рекомендательные, преобразовательные и визуальные сетевые модели. Программа позволяет пользователям тестировать различные модели, типы данных, размеры пакетов и вычислительные конфигурации до 32 кластеров.
Хорошая поддержка программного обеспечения, но не слишком ли поздно?
Карл Фройнд, главный аналитик Cambrian-AI Research, сказал, что Esperanto продемонстрировал «жесткую» производительность для ET-SoC-1 с моделями ResNet 50, DLRM и Transformer, хотя он пока не может поделиться результатами. Он добавил, что ожидает, что чипу потребуется всего 20 Вт для работы на полной мощности.
Фройнд сказал, что изначально он скептически относился к тому, что ET-SoC-1 может обеспечить высокий уровень производительности логических выводов с использованием ядер RISC-V общего назначения, но результаты показали, что он ошибался. «Что действительно делает этот подход уникальным, так это то, что ядра RISC-V на самом деле выполняют тяжелую работу, а не перекладывают матричное умножение на ядро MAC или графический процессор», — сказал он.
Не менее важно, по словам Фройнда, Esperanto «имеет инструменты программирования и программный стек, чтобы легче адаптироваться к новым рабочим нагрузкам ИИ, наряду с рабочими нагрузками, не связанными с ИИ, и все они работают на одном кристалле».
Тем не менее, Фройнд признал, что чип Esperanto появился «немного с опозданием», поэтому возникает вопрос, сможет ли стартап идти в ногу с другими компаниями, работающими над маломощными чипами для логических выводов. ®
