AlphaICs заявляет, что перевела свой первый ИИ-чип от разработки до производства при скромном бюджете в 10 миллионов долларов венчурного финансирования.
Четырехлетний стартап в понедельник объявил, что тестирует чип, который называется Gluon, для клиентов для оценки. Бизнес столкнулся с задержками из-за глобального кризиса поставок чипов, чтобы получить готовые компоненты от TSMC, и следующим шагом будет получение отзывов клиентов о том, как работает чип, сказал соучредитель AlphaIC Прашант Триведи. Регистр.
Ускоритель может обеспечить 8 TOPS производительности INT8. Компания нацелена на системы компьютерного зрения с нейронными сетями, которые включают распознавание лиц и классификацию объектов в средах в стиле умного города, в розничной торговле, а также в приложениях для автономных роботов и вождения.
«Мы начинаем с чипа искусственного интеллекта», — сказал Триведи. «По мере того, как мы будем двигаться дальше, мы увеличим вычислительную мощность, а также включим обучение в чип».
Согласно данным S&P, в прошлом году стартапы в области полупроводников привлекли около $19,2 млрд инвестиций. Подавляющее большинство из них не имеют фабрики, и самой большой проблемой для них является запуск компонентов в производство, особенно во время нехватки полупроводников.
Нехватка чипов не является серьезной проблемой для стартапов, поскольку они не поставляются в больших количествах, но у такого производителя, как TSMC, для небольших заказов сложно получить мощности, сказал Джон Эбботт, аналитик S&P Global.
«Если все проходят через TSMC, значит, у них тоже нет возможностей. И тогда они выбирают лучших клиентов, тех, кого действительно хотят сохранить», — сказал Эбботт. «Стартапам будет трудно получить предложение». Apple и Qualcomm в настоящее время являются одними из крупнейших клиентов TSMC и управляют производственными мощностями.
Живу на краю
AlphaICs была основана в 2016 году бывшим исполнительным директором Intel Винодом Дхамом, известным как отец Pentium. Компания получила начальное финансирование в размере около 2,5 млн долларов и еще 8 млн долларов инвестиций, а также поставила оценочные платы на основе FPGA, которые реализовали ее аппаратные разработки. Его последний процессор Gluon изготовлен с использованием 16-нм технологического узла TSMC FinFET. Он использует PCIe для взаимодействия с хост-системами на базе Linux и взаимодействует с LPDDR4 DRAM. Как ускоритель, он подключается к хосту, получает данные и обученные модели через PCIe и возвращает свои прогнозы в соответствии с указаниями своего программного стека. Во-первых, он принимает модели, созданные с использованием TensorFlow.
Gluon состоит из нескольких агентов, которые AlphaICs называет агентами. У каждого агента есть набор блоков тензорной обработки, которые выполняют матричное умножение, необходимое для вывода на основе машинного обучения, и ядро скалярного процессора для управления. Эта первая версия Gluon будет иметь 16 тензорных единиц на агента и 16 агентов.
Познакомьтесь с Gluon… чипом в его системе оценки. Нажмите, чтобы увеличить. Источник: АльфаИКс.
Триведи сказал, что Gluon использует новую архитектуру набора инструкций, и для получения дополнительной производительности он способен объединять инструкции для повышения производительности и сокращения запросов к памяти, где это возможно. Хотя изначально целью является вывод — получение обученной модели для принятия решения на основе входных данных — стартап надеется, что за счет увеличения числа агентов и тензорных единиц его семейство Gluon будет иметь достаточную производительность TOPS для обучения на границе сети. Это означает обучение модели не на большом внутреннем сервере, а на встроенном устройстве.
«Gluon в первую очередь ориентирован на системы с низким энергопотреблением, такие как система мощностью от трех до пяти ватт, которая может работать и принимать три или четыре входа камеры и может выполнять эту работу. Но с другой стороны, мы думаем, что периферийное обучение — довольно новая идея». — сказал Триведи. Он объяснил, что обучение на периферии потенциально может решить проблему ИИ, называемую дрейфом модели, когда неверные данные могут сбить обучающую модель с пути.
Ожидается, что продукты со встроенным обучением на периферии приведут к более быстрому совершенствованию процесса принятия решений и устранению искаженных данных для поддержания точности более крупных моделей обучения. Дрейф модели был проблемой для некоторых во время пандемии, когда внезапные изменения тенденций в цепочке поставок выводили из равновесия модели ИИ, основанные на долгосрочных тенденциях.
«Вы обучаете свою систему распределению данных или изображений, когда она на самом деле работает в области, которая меняется. Затем у вас возникают проблемы, если ваша точность падает, и вам приходится ее переобучать. Это то, что мы пытаемся решить с помощью периферийного обучения. — сказал Триведи.
Компания, у которой есть офисы в Силиконовой долине и Индии, а также присутствие в Японии, рассчитывает выпустить преемника Gluon под названием Dolphin, который будет обеспечивать производительность 32 TOPS, и чип Einstein с производительностью 64 TOPS в 2023 году.
