[ad_1]
Искусственный интеллект (ИИ) сегодня в моде, и стоимость входа в эксперименты с моделями большого языка ИИ (LLM) значительно снизилась. На самом деле, вы даже можете установить несколько LLM на миниатюрный и недорогой Raspberry Pi 5. Малиновый Пи предлагает свой собственный комплект AI, M.2 HAT с модулем ускорения AI Hailo, но это не единственная игра в городе. Есть несколько других вариантов интеграции высокопроизводительного искусственного интеллекта в Raspberry Pi 5.
Комплект Raspberry Pi AI
Комплект Raspberry Pi AI Kit объединяет Raspberry Pi M.2 HAT+ с модулем ускорения AI Hailo для использования с Raspberry Pi 5. Он обеспечивает доступный, экономичный и энергоэффективный способ интеграции высокопроизводительного искусственного интеллекта.
Ваши потребности в экспериментах с искусственным интеллектом могут быть удовлетворены на Raspberry Pi 5.
Комплект Raspberry Pi 5 AI Kit представляет собой M.2 HAT+ с нейронным процессором Hailo-8L (NPU). NPU берет на себя тяжелую работу по решению ваших задач искусственного интеллекта, а сам модуль подключается к интерфейсу PCIe 2.0, что значительно уменьшает любые узкие места ввода-вывода, которые могут возникнуть при использовании вместо этого более медленного порта USB.
Производительность ИИ измеряется в тераоперациях в секунду (TOPS). Чем больше TOPS может предложить NPU, тем выше производительность ИИ вы увидите. Чтобы предложить пару ориентиров, прежде чем мы углубимся в то, что может предложить Raspberry Pi 5, Microsoft требует, чтобы на некоторых компьютерах был NPU с производительностью 40 TOPS или более, чтобы иметь бренд Copilot +. iPhone Для сравнения, NPU 16 способен выдавать 35 TOPS.
Hailo-8L, предлагаемый в комплекте Raspberry Pi 5 AI Kit, не так надежен. Его мощность составляет всего 13 TOPS, что по-прежнему достаточно мощно, чтобы экспериментировать с несколькими моделями ИИ. Другой популярный AI-чип для SBC, такой как RPi, Coral Edge, может достигать только 4 TOPS.
Естественно, вам может потребоваться гибкость и выбор при проведении экспериментов с ИИ. Вы также можете использовать это драгоценное пространство HAT не только для своего NPU, например для добавления хранилища NVMe. Это невозможно с комплектом Raspberry Pi 5 AI Kit, но другие варианты предоставляют больше возможностей. Вот некоторые из наших фаворитов.
4 Комплект Pineboards Ai (Hailo-8L)
Все, что предлагает Raspberry Pi 5 AI Kit, и даже больше
В то время как официальный комплект Raspberry Pi 5 AI Kit предлагает только чип Hailo-8L, исключая возможность добавления хранилища NVMe на шину PCIe, Pineboards предлагает способ избежать этого компромисса. В комплект Pineboards Ai входит тот же чип Hailo-8L из официального комплекта и многое другое.
Помимо NPU, эта плата также включает в себя разъем M.2 M-key для хранилища NVMe. Он совместим со всеми популярными размерами твердотельных накопителей NVMe, включая модули хранения M.2 2230, 2242 и 2280 M-key. Этот HAT в основном сочетает в себе возможности Сосновые доски HatDrive Nano с тем же чипом AI, который используется в официальном комплекте AI Raspberry Pi.
Этот вариант также не требует снижения производительности ИИ. Входящий в комплект AI-ускоритель Hailo-8L по-прежнему обеспечивает производительность в 13 TOPS, хотя плата удваивает возможности HAT.
Pineboards Ai Bundle также работает с тем же программным стеком, что и Raspberry Pi 5 AI Kit, поэтому, если вы уже начали разрабатывать свои проекты в этом программном обеспечении, вы можете легко переключиться на Pineboards HAT, не теряя времени на разработку.
Комплект Pineboards Ai (Hailo-8L)
Если вы хотите использовать Raspberry Pi 5 с ускорителем Hailo-8L, но при этом иметь загрузочное хранилище NVMe, это ответ. Комплект Pineboards Ai Bundle включает в себя тот же чип Hailo 8L-AI, который есть в официальном комплекте AI Raspberry Pi 5, а также второй слот M.2 для модуля NVMe SSD.
3 Шляпа из сосновой доски! Комплект ТПУ AI Coral Edge
Конечно, менее мощный NPU, но, возможно, это все, что вам нужно… и он по-прежнему включает в себя хранилище NVMe.
Далее, возможно, вы уже разрабатывали свой проект искусственного интеллекта с помощью Coral Edge TPU и хотите продолжить его с Raspberry Pi 5. У Pineboards есть несколько HAT Coral Edge, включая вариант HatDrive. Он предлагает Coral Edge TPU вместе со вторым слотом M.2 для модуля SSD.
Этот HAT поддерживает один диск NVMe, но только размеров 2230 и 2242. Хотя это означает меньшую емкость хранилища и потенциально более высокие цены, чем твердотельный накопитель 2280, он по-прежнему является хорошим вариантом для многих проектов. Конечно, это единственные два размера, поддерживаемые официальной шляпой M.2 NVMe Raspberry Pi, поэтому вы по-прежнему объединяете две шляпы в одну.
Как отмечалось ранее, Coral Edge значительно уступает по мощности Hailo-8L. Вы получите всего 4 TOPS ускорения ИИ, но этого более чем достаточно для многих проектов машинного зрения и робототехники.
Шляпа ИИ! Комплект Coral TPU для Raspberry Pi 5
Шляпа из сосновой доски! Ай! Комплект Coral Edge TPU поможет вам интегрировать Google Coral Edge TPU в ваши проекты Raspberry Pi 5. Он монтируется под Raspberry Pi 5 и не блокирует доступ к заголовкам GPIO.
2 Шляпа Pineboards AI! Комплект из ТПУ с двумя краями кораллового цвета
Как обычный Coral Edge, но с удвоенной ставкой.
Pineboards также предлагает шляпу Coral Dual Edge для Raspberry Pi 5. Это позволяет вам эффективно удвоить возможности Coral Edge без необходимости использования второго устройства. Это важно, поскольку на Raspberry Pi 5 вы можете использовать только один HAT одновременно.
Модуль Coral Dual Edge, как и обычный Coral Edge, представляет собой устройство M.2, подключаемое к HAT. Затем HAT подключается к разъему PCIe на Raspberry Pi 5.
Эта плата обеспечит ваш Raspberry Pi 5 8 TOPS обработки искусственного интеллекта, что делает ее хорошим шагом вперед по сравнению с одним TPU Coral Edge. Опять же, это может показаться недостаточным для LLM по сравнению с 13 TOPS Hailo-8L, но у него все равно есть много полезностей для конкретного проекта.
Шляпа из сосновых досок AI! Комплект Dual Edge Coral TPU для Raspberry Pi 5
Шляпа Pineboards AI! В комплект Dual Edge Coral TPU входит один Coral TPU, но имеется второй разъем M.2 для дополнительного модуля AI. Он установлен под Raspberry Pi 5, поэтому у вас по-прежнему есть свободный доступ к заголовку GPIO.
1 Комплект Pineboards Hat mPCIe Coral Edge TPU
Ваш TPU плюс возможность передачи данных по сотовой сети и USB 2.0
Наконец, что, если вашему проекту искусственного интеллекта необходим доступ в Интернет там, где нет Wi-Fi? Для этого идеально подходит комплект Pineboards Hat mPCIe Coral Edge TPU. HAT включает в себя ТПУ Coral Edge, но предлагает больше, чем просто это.
Этот HAT также включает в себя гнездо для нано-SIM и дополнительный разъем USB 2.0. Он поддерживает карты Wi-Fi и сотовые модемы, предоставляя вашему Raspberry Pi 5 возможность использовать сотовые данные для тех проектов, которые находятся за пределами зоны покрытия Wi-Fi.
Комплект Pineboards Hat mPCIe Coral Edge TPU для Raspberry Pi 5
Этот PCIe HAT для Raspberry Pi 5 включает в себя TPU Coral Edge для задач искусственного интеллекта, а также дополнительные возможности. Он включает в себя дополнительный разъем USB и слот для нано-SIM, который можно использовать для различных карт Wi-Fi и сотовых модемов.
Отправьтесь в приключение с искусственным интеллектом вместе с Raspberry Pi 5.
Все эти варианты официального комплекта AI Raspberry Pi 5 позволят вам хотя бы окунуться в воду проектов искусственного интеллекта. Хотя вы не сможете запустить что-либо столь же надежное, как ChatGPT, существует множество приложений искусственного интеллекта, для которых Pi идеально подходит, если у вас есть один из этих HAT для предоставления NPU.
[ad_2]
