Обновлено В четверг Amazon Web Services анонсировала платформу API под названием Bedrock, на которой размещаются генеративные модели ИИ, созданные ведущими стартапами AI21 Labs, Anthropic и Stability AI.
Популярность генеративного ИИ резко возросла благодаря разработке моделей, способных создавать текст и изображения. Коммерческие инструменты, разработанные шумными стартапами, такими как OpenAI и Midjourney, завоевали десятки миллионов пользователей, и теперь Big Tech спешит наверстать упущенное.
В то время как Майкрософт и Google конкурируют за внедрение генеративных чат-ботов с искусственным интеллектом в поисковые и продуктивные наборы, стратегия Amazon заключается в том, чтобы оставаться относительно нейтральной — как своего рода Швейцария с машинным обучением — и предоставлять доступ к новейшим моделям на своей облачной платформе. Это беспроигрышный вариант для стартапов, которые согласились работать с гигантом электронной коммерции. Разработчики платят за использование API для доступа к моделям новичков, а AWS предоставляет всю базовую инфраструктуру, которая полностью управляет этими услугами и предоставляет их.
«Клиенты сказали нам, что сегодня на их пути стоят несколько серьезных проблем, — сказал Свами Сивасубраманиан, вице-президент AWS по машинному обучению, в своем блоге.
«Во-первых, им нужен простой способ найти и получить доступ к высокопроизводительным [foundational models] которые дают выдающиеся результаты и лучше всего подходят для своих целей. Во-вторых, клиенты хотят, чтобы интеграция с приложениями была бесшовной, без необходимости управлять огромными кластерами инфраструктуры или нести большие затраты».
В настоящее время Amazon Bedrock предлагает большие языковые модели, способные обрабатывать и генерировать текст — Jurassic-2 от AI21 Labs и Claude от Anthropic, а также модель Stability AI для преобразования текста в изображение Stable Diffusion. Bedrock также предоставит две собственные базовые модели Amazon под брендом Titan, не путать с Googleфирменные вещи Титана.
Разработчики могут создавать свои собственные генеративные продукты и услуги на основе ИИ на основе этих API-интерфейсов, управляемых Bedrock, и могут точно настраивать модель для конкретной задачи, предоставляя свои собственные обучающие примеры с пометками. Amazon заявила, что этот процесс настройки позволит организациям адаптировать нейтральные сети к своим конкретным приложениям, не беспокоясь о том, что их частные обучающие данные будут просочены, потеряны или использованы для обучения других крупных языковых моделей.
Amazon также продвигает свое семейство специально разработанных чипов для ускорения машинного обучения Trainium и Inferentia, которые можно использовать для самостоятельного обучения и запуска таких генеративных моделей в своем облаке. Новый тип инстанса EC2 под названием Trn1 работает на основе кремния Trainium, и, как сообщается, разработчики могут использовать его, чтобы сэкономить до 50% затрат на обучение по сравнению с другими инстансами EC2.
Экземпляры Trn1 оптимизированы для распределения обучения между несколькими серверами и имеют пропускную способность сети до 1600 Гбит/с. Разработчики также могут запускать «ультракластеры» с масштабированием до 30 000 чипов Trainium для обеспечения вычислительной мощности более 6 экзафлопс.
Что касается работы по логическому выводу, AWS сообщает, что ее инстанс типа Inf2 EC2 теперь общедоступен и ускоряется с помощью кремния Inferentia2 облачного гиганта.
Наконец, Amazon также делает свой инструмент парного программирования ИИ CodeWhisperer общедоступным и бесплатным для квалифицированных разработчиков. Он был расширен для поддержки десяти новых языков, включая Go, Kotlin, Rust, PHP, SQL и другие, помимо Python, Java, JavaScript, TypeScript и C#.
«Мы считаем, что CodeWhisperer теперь является самым точным, быстрым и безопасным способом создания кода для сервисов AWS, включая Amazon EC2, AWS Lambda и Amazon S3», — считает Сивасубраманян. ®
Обновлять
Мы заметили, что в объявлении Amazon говорится, что «клиенты просто указывают Bedrock на несколько помеченных примеров в Amazon S3, и сервис может точно настроить модель для конкретной задачи». Это заставило нас задуматься о том, нужно ли использовать Bedrock с другими ресурсами AWS, за которые клиентам придется платить.
Представители AWS связались с вами, чтобы сообщить, что Bedrock — это автономный полностью управляемый сервис API, которому не нужны какие-либо другие ресурсы AWS, такие как S3, хотя клиенты могут использовать API Bedrock и сервисы AWS вместе, если они хотят, и за это будет взиматься счет Amazon. как надо. Или клиенты могут использовать только Bedrock отдельно и платить только за это.
