AWS разработала новую схему зарабатывания денег, позволяющую клиентам, отчаянно нуждающимся в ресурсах графических процессоров, платить за их резервирование на запланированные даты и время, с авансовой оплатой и без возможности изменения заказа.
Новая модель потребления известна как блоки емкости Amazon Elastic Compute Cloud (EC2) для машинного обучения. Оно позволяет клиентам получить доступ к востребованным вычислительным ресурсам графического процессора для выполнения коротких рабочих нагрузок машинного обучения.
Рост спроса на мощности графических процессоров для обучения и вывода моделей машинного обучения опережал предложение в масштабах всей отрасли, что сделало графические процессоры дефицитным ресурсом.
Чего AWS, конечно, не признает, так это того, что гиперскейлеры находятся в начале очереди за графическими процессорами, перехватывая поставки, включая саму AWS. Сообщается, что Nvidia заявила, что 22 процента ее календарной выручки во втором квартале было получено от одного поставщика облачных услуг.
Блоки емкости EC2 изначально доступны для экземпляров виртуальных машин Amazon EC2 P5, из которых в настоящее время существует только один тип — p5.48xlarge. Он оснащен 192 виртуальными процессорами, 2 ТБ системной памяти и восемью графическими процессорами Nvidia H100, что делает его довольно внушительным экземпляром.
По данным AWS, резервирование блоков мощности EC2 работает так же, как бронирование номеров в отелях. Вы указываете дату, продолжительность и размер вашей комнаты. Точно так же AWS позволяет вам выбрать дату и продолжительность, когда вам потребуются экземпляры графического процессора, а также необходимое количество экземпляров.
Клиенты могут зарезервировать блок мощности EC2, включающий только один экземпляр или до 64, и они могут быть зарезервированы на срок от одного до 14 дней по мере необходимости. AWS позволит зарезервировать их на срок до восьми недель вперед, утверждая, что клиенты смогут затем с уверенностью планировать развертывание машинного обучения, зная, что у них будет мощность графического процессора, когда она им понадобится.
AWS заявляет, что цены на блоки мощности EC2 являются динамичными и зависят от общего доступного уровня спроса и предложения на момент покупки клиентом. AWS утверждает, что покажет самое дешевое доступное предложение, соответствующее диапазону, указанному клиентом. На скриншоте в блоге компании показан пример одного экземпляра на один день стоимостью 2344 доллара.
Но вот что интересно: общая стоимость блока емкости EC2 взимается заранее, счет зачисляется на ваш счет в течение 12 часов, и AWS не позволяет изменять или отменять их после покупки. Так что вам лучше быть уверенным, что вам действительно нужна эта мощность графического процессора в эти даты.
И как только ваше время истечет, ваша рабочая нагрузка будет бесцеремонно остановлена. EC2 отправит событие через Amazon EventBridge, чтобы предупредить об окончании резервирования, чтобы пользователь мог проверить рабочую нагрузку. Работающие экземпляры перейдут в состояние отключения за 30 минут до окончания резервирования, но по истечении этого времени все еще работающие экземпляры будут прекращены.
Блоки емкости EC2 доступны уже сейчас, но первоначально только в регионе AWS Восток США (Огайо). По словам AWS, в будущем планируется доступность для дополнительных регионов и локальных зон.
Облачный бизнес сообщил о выручке в третьем квартале этого года в размере $23 млрд по сравнению с $20,5 млрд годом ранее, что отражает продолжающийся рост облачного рынка, но более медленными темпами, поскольку клиенты ищут способы обуздать расходы. Как и другие крупные облака, AWS рассматривает спрос на услуги искусственного интеллекта как способ борьбы с этой тенденцией. ®
