Микрокомпьютеры NVIDIA Jetson - это одноплатные компьютеры с графическим процессором CUDA, которые запускают нейросети прямо на устройстве, без облака. Их ставят в роботов, камеры машинного зрения, дроны и промышленные контроллеры, где нужно обрабатывать видео и данные с датчиков в реальном времени. Вычисления идут на GPU, поэтому Jetson тянет распознавание объектов, сегментацию и инференс моделей там, где обычный мини-ПК не справится.

Как выбрать Jetson

Выбор начинается с задачи и нужной производительности в TOPS - это число операций ИИ в секунду. Дальше смотрят на объём ОЗУ, архитектуру GPU и набор интерфейсов.

Производительность (TOPS) - показывает, сколько нейросетей и с каким разрешением видео потянет плата; для простого детектора хватит единиц TOPS, для нескольких камер нужны десятки.
Объём ОЗУ (GB) - 2-4 GB на Nano и 16-64 GB на старших Orin; память делят CPU, GPU и сама модель, поэтому крупные сети требуют больше.
Ядра CUDA и архитектура GPU - задают скорость инференса; у Orin архитектура Ampere, родственная десктопным видеокартам RTX.
Интерфейсы - MIPI CSI под камеры, USB, Gigabit Ethernet, PCIe, GPIO, слот M.2 под SSD или модем.
Энергопотребление - режимы 5-60 Вт; для дрона или носимого устройства берут экономичный профиль.

Модельный ряд

Линейка охватывает разные уровни мощности, от учебных плат до модулей для автономного транспорта.

Jetson Nano - стартовая плата на 2-4 GB, подходит для учёбы, прототипов и лёгких моделей распознавания.
Orin Nano - современная замена Nano, до 40 TOPS, тянет несколько нейросетей сразу.
Orin NX - компактный модуль до 100 TOPS для роботов и умных камер с высокой нагрузкой.
AGX Orin - топовый модуль до 275 TOPS под многокамерные системы и автономную технику.
Jetson One и подобные готовые мини-ПК - плата уже собрана в корпусе, включать можно сразу.

Модуль или dev-kit

Jetson поставляется в двух форматах. Модуль (SoM) - это вычислительное ядро на плате SO-DIMM, его ставят на свою несущую плату в серийном изделии. Dev-kit - готовый набор с модулем, несущей платой, разъёмами и питанием; на нём удобно писать и отлаживать код. Для разработки берут dev-kit, для продукта в тираже - отдельный модуль нужного класса.

Где применяют

Jetson работает там, где ИИ нужен на месте, а не на удалённом сервере:

машинное зрение - контроль качества на конвейере, подсчёт объектов, чтение маркировки;
робототехника и дроны - навигация, объезд препятствий, управление манипуляторами;
умные камеры и видеоаналитика - распознавание лиц, номеров, событий в кадре;
edge-AI - обработка данных с датчиков без отправки в облако.

Ориентируйтесь на производительность в TOPS и объём памяти под вашу модель, затем проверьте интерфейсы для камер и периферии. Для экспериментов берите dev-kit на Orin Nano, для серийного устройства - отдельный модуль. Подберите и купите микрокомпьютер NVIDIA Jetson под свои задачи.

Часто задаваемые вопросы

Чем NVIDIA Jetson отличается от Raspberry Pi?

Jetson несёт мощный GPU с ядрами CUDA и считает нейросети в разы быстрее Raspberry Pi. Raspberry Pi - это универсальный мини-ПК без серьёзного ускорителя ИИ, он хорош для простой автоматики и веб-задач. Jetson берут, когда нужен инференс моделей, машинное зрение или обработка видео с камер в реальном времени.

Сколько ОЗУ нужно для машинного зрения?

Для одной камеры и лёгкой модели детекции хватит 4 GB, как на Jetson Nano или Orin Nano. Несколько потоков видео, сегментация или крупные нейросети требуют 8-16 GB и выше, поэтому под многокамерные системы берут Orin NX или AGX Orin. Память на Jetson общая для CPU и GPU, это учитывают при выборе.

Что такое TOPS и на что он влияет?

TOPS - это число триллионов операций ИИ в секунду, показатель скорости инференса. Чем больше TOPS, тем больше нейросетей и тем выше разрешение видео потянет плата. Jetson Nano даёт единицы TOPS, Orin Nano около 40, Orin NX до 100, AGX Orin до 275. Считайте нужный TOPS под конкретную модель и число камер.

Что выбрать для старта - модуль или dev-kit?

Для старта берите dev-kit: это готовый набор с модулем, несущей платой, разъёмами и питанием, на нём сразу пишут и отлаживают код. Отдельный модуль (SoM) нужен, когда устройство идёт в серию и ставится на свою несущую плату. Новичкам и для прототипов dev-kit на Orin Nano удобнее всего.