И NVidia, и Google недавно выпустили доску для разработчиков, ориентированную на EdgeAI, а также с точки зрения затрат, чтобы привлечь разработчиков, производителей и любителей. Обе платы разработчиков предназначены в первую очередь для вывода, но поддерживают ограниченное повторное обучение с переносом обучения. Edge TPU поддерживает обучение с переносом с использованием техники импринтинга. Оба комплекта разработчика состоят из SOM (System-on-Module), подключенного к плате разработчика, которая имеет различные разъемы, такие как USB, Ethernet, слоты microSD и т. Д. Это сравнение оборудования для двух комплектов разработчика, которые можно использовать. как одноплатный компьютер (SBC), а не как USB-накопитель Edge TPU. Если вы не хотите читать всю статью, на мой взгляд, комплект разработчика Coral Edge немного лучше по соотношению цены и качества, поскольку он включает в себя важные периферийные устройства, такие как Wi-Fi и Bluetooth, однако Jetson Nano имеет лучшую поддержку программного обеспечения (как INT8, так и FP16 Inference ).

Плата для разработчиков Coral Edge TPU

Размер всего комплекта - 88 мм x 60 мм x 22 мм, а размер только SOM - 48 мм x 40 мм x 5 мм. Таким образом, люди также могут создавать свои собственные базовые платы различного форм-фактора и подключаться к SOM. Плата поставляется только с загрузчиком u-boot, а позже можно загрузить образ, как Mendel linux. Несколько примеров / руководств находятся здесь. Предварительно обученные модели для доски доступны здесь.

Процессор NXP iMXM на Coral SOM также имеет графический графический процессор Vivante GC7000 lite - можно ли использовать что-нибудь кроме графики? Подробные характеристики - https://coral.withgoogle.com/docs/dev-board/datasheet/

Купить здесь - https://coral.withgoogle.com/products/dev-board

Edge TPU SOM доступен сейчас по цене 114,99 долларов, и только Edge TPU (без процессора NXP) доступен как Mini PCIe, M.2 A + E key и M.2 B + M key. »По 34,99 доллара США за штуку.

Вскоре Edge TPU будет доступен в виде MCM (многочиповый модуль), который можно паять на плате, MCM содержит чип Edge TPU и PMIC (интегральную схему управления питанием) для управления питанием. Edge TPU может выполнять 4 TOPS при 2 TOPS / ватт.

Комплект для разработки NVIDIA Jetson Nano

Как и коралловая доска, здесь к плинтусу подключается SOM. Jetson SOM немного больше - 69,6 мм x 45 мм. Плата поставляется со средой на основе Ubuntu 18.04. Согласно документации NVidia, Nano может выполнять 472 гигафлопс (гигафлопс в секунду) и поддерживает режимы энергопотребления 5 Вт и 10 Вт.

Подробные характеристики - https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-nano/

Купить здесь - https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-nano/

Сравнение

Ниже приведено сравнение аппаратных характеристик двух плат.

В будущем плата Coral Edge будет доступна с 2 ГБ и 4 ГБ оперативной памяти.

Представление

Nvidia предоставила некоторое сравнение производительности Jetson Nano с другими SBC, такими как Raspberry Pi 3, TPU с платой Google Coral Edge - https://devblogs.nvidia.com/jetson-nano-ai-computing/

В приведенных выше результатах Jetson Nano использовала точность FP16.

Выше очень мало результатов представлено для платы Coral Edge TPU, поскольку она не может запускать предварительно обученные модели, которые не были скомпилированы для Edge TPU с использованием посттренировочного квантования или обучения с учетом квантования. Google предоставил некоторое сравнение производительности ЦП для настольных ПК (64-разрядный процессор Intel (R) Xeon (R) Gold 6154 @ 3,00 ГГц) и при использовании встроенного ЦП (Четырехъядерный Cortex-A53 @ 1,5 ГГц)

Больше результатов здесь - https://github.com/jolibrain/dd_performances

и https://www.phoronix.com/scan.php?page=article&item=nvidia-jetson-nano&num=3

Заключение

На мой взгляд, плата разработчика Coral Edge TPU лучше по следующим причинам:

1. Плата для разработки Coral по цене 149 долларов немного дороже, чем Jetson Nano (99 долларов), однако она поддерживает Wi-Fi и Bluetooth, тогда как для Jetson Nano необходимо покупать внешний Wi-Fi ключ.

2. Кроме того, NXP iMX8 SOC на коралловой плате включает в себя блок обработки видео и графический процессор Vivante GC700 lite, который можно использовать для традиционной обработки изображений и видео. Он также имеет маломощный микроконтроллер Cortex-M4F, который можно использовать для связи с другими датчиками, такими как датчик температуры, датчик внешней освещенности и т. Д. Другие датчики здесь - http://lightsensors.blogspot.com/2014/09/collection -of-different-sizes.html

Jetson также имеет блоки кодирования и декодирования видео. Кроме того, Jetson Nano лучше поддерживает другие фреймворки глубокого обучения, такие как Pytorch, MXNet. Он также поддерживает библиотеку ускорителя NVidia TensorRT для вывода FP16 и вывода INT8. Плата Edge TPU поддерживает только 8-битные квантованные модели Tensorflow lite, и вам необходимо использовать обучение с учетом квантования.

Мне интересно работать над глубоким обучением для периферийных приложений, у меня есть опыт работы в НЛП, компьютерном зрении и масштабируемых системах, если вы нанимаете, вы можете связаться со мной здесь.

Дополнительные полезные ссылки