Зарегистрировать чайник На этой неделе Тимоти Прикетт Морган на нашем сестринском сайте Следующая платформа написал фантастический глубокий анализ того, как эта последняя реклама ИИ оказывает влияние на графические процессоры центров обработки данных.
Вы можете поймать статью здесь. Короче говоря, спрос на ускорители машинного обучения для обучения, тестирования и запуска моделей резко увеличивает цены на серверные графические процессоры, и мы, вероятно, также увидим рост затрат на облачные графические процессоры и рационирование ресурсов.
Например, мы видели топовый кремний Nvidia, продаваемый по 40 000 долларов за штуку. Как писал Тим: «Ситуация хуже, чем на рынке подержанных автомобилей здесь, в Соединенных Штатах, и это своего рода инфляция, которая возникает из-за слишком большого спроса и слишком малого предложения.
«Ситуация, которая нравится поставщикам, когда они знают, что они все равно не смогут произвести достаточное количество единиц. Гиперскейлеры и разработчики облачных сервисов распределяют доступ к графическим процессорам среди своих собственных разработчиков, и мы не удивимся, если увидим рост цен на мощность графических процессоров в облаке. “
На этой неделе Чайник мы собрались с Тимом, чтобы обсудить ситуацию, когда остаются покупатели ИТ и многое другое, и вы можете увидеть все это менее чем за 20 минут ниже.
По часовой стрелке, сверху слева на миниатюре, у нас есть Тимоти с Эль РегТобайас Манн, Крис Уильямс и постоянный ведущий Иэн Томсон.
Получите представление о том, что на самом деле думают наши стервятники, не только о ценах на графические процессоры, но и о том, почему облачные гиганты строят центры обработки данных в, казалось бы, самых странных местах, технологиях охлаждения и выборе, ограничениях, с которыми сталкиваются эти растущие большие языковые модели, оборудовании, необходимом для рекомендательных систем. , и более. ®
