NVIDIA Jetson : Arsitektur, Cara Kerja & Aplikasinya

Platform terkemuka di dunia seperti NVIDIA Jetson adalah urutan papan komputasi tertanam yang terutama digunakan di mesin otonom & lainnya aplikasi tertanam . Papan ini terutama berisi modul Jetson, yang merupakan komputer berperforma tinggi. Jetson sangat cocok dengan perangkat lunak AI serupa & alur kerja cloud-native yang digunakan di seluruh platform NVIDIA lainnya & memberikan kinerja hemat daya bagi pelanggan untuk membangun mesin otonom berbasis perangkat lunak. NVIDIA Jetson digunakan untuk aplikasi visi komputer. Jadi, artikel ini membahas gambaran kerja NVIDIA Jetson dan aplikasinya.

Apa itu NVIDIA Jetson?

NVIDIA Jetson adalah lanjutan sistem penyematan papan yang digunakan untuk membuat produk AI inovatif di beberapa industri. NVIDIA Jetson adalah salah satu platform perangkat keras terkemuka yang sangat berguna bagi para penggemar teknologi & juga pelajar untuk mendapatkan pengalaman langsung melalui berbagai proyek AI yang inovatif. Papan ini adalah papan yang sangat efisien untuk AI yang mencakup komputer tepi modular, faktor bentuk kecil, dan berkinerja tinggi. Selain itu, board ini juga berisi JetPack SDK yang digunakan untuk akselerasi perangkat lunak serta ekosistem lengkap untuk membantu meningkatkan prosedur pengembangan proyek AI khusus.

Arsitektur NVIDIA Jetson

Kita tahu bahwa modul Nvidia Jetson dari Nvidia adalah rangkaian papan komputasi tertanam. Semua model Jetson TX1, TX2 & TK1 mengusung prosesor SoC atau Tegra dari Nvidia yang menggabungkan CPU berarsitektur ARM. Di sini, Jetson adalah sistem berdaya rendah yang terutama dirancang untuk mempercepat aplikasi pembelajaran mesin.

Arsitektur NVIDIA Jetson Xavier NX ditunjukkan di bawah ini. Ini adalah superkomputer AI paling canggih dan kecil yang digunakan untuk perangkat komputasi edge juga robotika otonom . Modul ini memiliki kapasitas untuk menyebarkan kinerja kelas server dalam faktor bentuk 70x45mm yang solid dan juga menyediakan hingga 21 TOPS komputasi di bawah daya 15W, selain itu hingga 14 TOPS komputasi di bawah 10W.

Diagram di atas berisi NVIDIA Volta 384-core terintegrasi GPU termasuk 6-core NVIDIA Carmel ARMv8.2 64-bit CPU, 48 Tensor Cores, 8GB 128-bit LPDDR4x, encoders dan decoder video 4K, mesin NVDLA ganda (NVIDIA Deep Learning Accelerator), kamera hingga enam resolusi tinggi instan stream sensor, tampilan Port Display ganda atau HDMI 4K, ekspansi PCIe Generasi 3, USB 3.1 & GPIO dengan bus I2C, SPI, I2S, UART & CAN.

Spesifikasi NVIDIA Jetson antara lain sebagai berikut.

• Daya adalah mode 10W atau 15W dan input 5V.
• CPU adalah 6-core NVIDIA Carmel 64-bit ARMv 8.2 pada 1400MHz.
• GPU adalah NVIDIA Volta 384-core pada 1100MHz melalui 48 Tensor Cores.
• DL adalah mesin Dual NVDLA.
• Memori 8GB 128-bit LPDDR4x pada 1600MHz.
• Penyimpanan 16GB eMMC 5.1.
• Kamera adalah jalur 12x MIPI CSI-2 | Kamera 3×4 atau 6×2.
• Hingga 6 kamera (36 melalui saluran virtual).
• Termal dari -25°C hingga 90°C.
• Layarnya adalah DP 1.4 atau eDP 1.4 atau HDMI 2.0 a/b pada 4Kp60.
• Ethernet adalah 10 atau 100 atau 1000 BASE-T Ethernet.
• USB 3.1 dan USB 2.0.

Modul ini didukung oleh seluruh tumpukan perangkat lunak CUDA-X NVIDIA & juga JetPack SDK untuk pengembangan AI. Ini menjalankan kerangka kerja pembelajaran mesin yang sangat populer & DNN yang sulit pada beberapa aliran sensor beresolusi tinggi sekaligus, selain visi komputer real-time, grafik, dan aplikasi multimedia dalam lingkungan desktop Linux yang lengkap.

Saat ini, pengembang mulai merancang aplikasi AI untuk Jetson Xavier NX dengan bantuan Jetson AGX Xavier Developer Kit. Menerapkan tambalan pola perangkat di dekat JetPack akan membuat perangkat berfungsi sebagai Jetson Xavier NX. Ini akan memodifikasi jumlah inti GPU & CPU yang dapat diperoleh melalui perangkat lunak dan mengatur frekuensi jam serta voltase inti di seluruh sistem.

Tambalan sepenuhnya dapat dibalik yang digunakan untuk memperkirakan kinerja Jetson Xavier NX. Modul ini akan mengklasifikasikan mode daya default 10W & 15W yang mencapai kinerja puncak antara 14 & 21 TOPS berdasarkan mode aktif. Alat nvpmodel digunakan untuk menangani profil daya guna menyesuaikan frekuensi CLK tertinggi untuk GPU, CPU, jam SoC lainnya, dan pengontrol memori bersama dengan berbagai kluster CPU.

Berdasarkan beban kerja, pengatur DVFS (Dynamic Voltage & Frequency Scaling) menyeimbangkan frekuensi saat runtime hingga batas tertingginya seperti yang dijelaskan oleh model nvp aktif, sehingga pemanfaatan daya berkurang saat idle & berdasarkan operasi prosesor. Alat nvpmodel membantu dalam membuat & memodifikasi mode daya baru berdasarkan TDP & persyaratan aplikasi.

Modul NVIDIA Jetson membawa kinerja superkomputer ke tepi dalam SOM faktor bentuk kecil (system-on-module). Setara dengan 21 TOPS komputasi yang dipercepat mengirimkan tenaga kuda untuk menjalankan jaringan saraf saat ini secara paralel & memproses data dari berbagai sensor beresolusi tinggi. Modul ini ideal untuk sistem AI berbasis kinerja tinggi seperti instrumen medis, robot komersial, sistem tertanam AIoT, kamera pintar, inspeksi optik otomatis, sensor resolusi tinggi, pabrik pintar, dll.

Perangkat lunak

Modul NVIDIA Jetson hanya didukung melalui arsitektur perangkat lunak gabungan sehingga akan membuat pengembang perangkat lunak bekerja lebih mudah. Pendekatan gabungan ini hanya menghemat kerumitan pengkodean berulang pengembang sambil meningkatkan formasi mereka pada modul Jetson lainnya.

NVIDIA JetPack SDK tersedia dengan OS Linux, pustaka & API terakselerasi CUDA-X untuk berbagai bidang pembelajaran mesin seperti visi komputer, pembelajaran mendalam, dll. Ini juga mendukung kerangka kerja pembelajaran mesin seperti Caffe, TensorFlow, Keras, dan visi komputer OpenCV perpustakaan.
NVIDIA Jetson menawarkan perangkat lunak yang berbeda untuk modulnya yang dibahas di bawah ini.

NVIDIA JetPack SDK

Bundel perangkat lunak platform Jetson seperti TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV, dan Visionworks semuanya dirakit di atas L4T melalui kernel LTS Linux.

Paket Driver NVIDIA Jetson Linux

Ini menyediakan kernel Linux, driver NVIDIA, bootloader, sistem file sampel, utilitas flashing, dan banyak lagi untuk platform Jetson.

NVIDIA DeepStream SDK

Ini adalah kumpulan API & pustaka untuk membantu pengembang dalam merancang & menyusun solusi IVA (intelligent video analytics) yang kuat di platform Jetson. Ini digunakan untuk membangun aplikasi kompleks seperti encoding, pengambilan gambar, decoding, inferensi dengan TensorRT, dll.

NVIDIA Ishak SDK

Ini adalah seperangkat perpustakaan, API, driver & alat lain yang akan menambahkan AI ke robot generasi mendatang untuk navigasi, persepsi & manipulasi. Jadi ini membantu dalam membuat & menerapkan robotika bertenaga AI.

Jenis NVIDIA Jetson

Modul NVIDIA Jetson hadir dengan memori, GPU, CPU, antarmuka berkecepatan tinggi, manajemen daya, dll. Modul ini tersedia dalam berbagai performa, efisiensi daya & variasi faktor bentuk agar dapat digunakan di berbagai industri. Ada berbagai perangkat NVIDIA Jetson yang tersedia yang dibahas di bawah ini.

NVIDIA Jetson Nano

Modul NVIDIA Jetson Nano cocok untuk pengembang atau siswa dan juga untuk pemula karena terutama dirancang untuk pembelajaran & pengajaran langsung. Ukuran modul ini kecil namun efisiensi daya dan kinerjanya tinggi untuk membuatnya sempurna untuk menjalankan beberapa jaringan saraf paralel saat ini, beban kerja AI & pemrosesan data dari sensor resolusi tinggi sekaligus. Dengan demikian, modul Jetson Nano adalah perangkat edge yang sangat populer yang digunakan untuk membuat produk & solusi AI tersemat.

Modul ini sangat cocok untuk aplikasi visi komputer berbasis AI dan melakukan tugas visi AI seperti deteksi objek, segmentasi gambar, klasifikasi gambar, dll. Modul ini sangat kompatibel dengan perangkat lunak visi komputer sumber terbuka & pustaka pembelajaran mesin OpenCV.

Seri NVIDIA Jetson TX2

Modul NVIDIA Jetson TX2 Series didesain seukuran kartu kredit. Fitur modul ini terutama mencakup GPU NVIDIA Pascal, memori hingga 8 GB, bandwidth memori 59,7 GB/dtk, dan antarmuka perangkat keras standar. Modul ini memberikan kinerja hingga 2,5 kali dibandingkan dengan modul NVIDIA Jetson Nano.

Modul ini sangat efisien menjalankan jaringan saraf yang dalam pada perangkat edge untuk mencapai akurasi yang lebih tinggi. Modul yang tersedia dalam seri ini terutama mencakup Jetson TX2 4GB, Jetson TX2i, Jetson TX2, dan Jetson TX2 NX. Modul NVIDIA Jetson TX2 NX hanya berbagi kompatibilitas pin & faktor bentuk melalui Jetson Xavier NX dan Jetson Nano.

Tiga modul yang tersisa akan berbagi faktor bentuk modul Jetson TX2 asli. Penggunaan seri TX2 hanya berkisar di berbagai industri seperti pertanian, manufaktur, ilmu kehidupan, ritel, dll. Modul Jetson TX2i dari modul lainnya paling cocok untuk perangkat AI berperforma tinggi seperti peralatan medis, kamera visi mesin, dan robot industri karena dari desainnya yang kuat.

Modul ini adalah alat komputasi AI tertanam yang sangat cepat yang menawarkan efisiensi daya tinggi seperti 7,5 W, kemampuan superkomputer terutama untuk perangkat AI edge, dan juga berbagai antarmuka perangkat keras untuk digabungkan dengan mudah ke berbagai produk & faktor bentuk.

NVIDIA Jetson Xavier NX

Modul NVIDIA Jetson Xavier NX sangat kecil dibandingkan dengan kartu kredit dengan performa tinggi & efisiensi daya. Ini juga dikenal sebagai superkomputer AI terkecil untuk sistem edge & embedded di dunia. Modul ini sangat membantu dalam menjalankan sistem AI yang lengkap.

Fitur Jetson Xavier NX juga mendukung teknologi cloud-native, sehingga memudahkan developer dalam melakukan upgrade & pengelolaan produk AI. Modul ini mendukung semua model & kerangka kerja AI populer. Jadi modul ini sepenuhnya sesuai dengan sistem AI berperforma tinggi seperti kamera pintar, sistem penglihatan beresolusi tinggi bertenaga AI, drone, robot komersial, atau peralatan medis.

Modul NVIDIA Jetson Xavier NX menghadirkan 21 Operasi Tera per Detik atau TOPS untuk menjalankan beban kerja AI saat ini dengan mengonsumsi daya 10W. Faktor bentuk modul ini lebih ringkas dibandingkan dengan kartu kredit. Modul Xavier NX menjalankan berbagai jaringan saraf sekaligus dan memproses data dari berbagai sensor beresolusi tinggi. Jenis modul ini digunakan untuk merancang aplikasi perangkat komputasi tertanam & tepi yang membutuhkan kinerja tinggi meskipun dengan kendala berat, ukuran & daya yang signifikan.

Seri NVIDIA Jetson AGX Xavier

Modul NVIDIA Jetson AGX Xavier Series terutama dikembangkan untuk mesin cerdas otonom generasi berikutnya. Modul ini memberikan performa AI hingga 32 TOPS atau Tera Operations per Second saat menggunakan daya sesedikit 10 watt. Pengembang perangkat lunak hanya diizinkan untuk mengatur jaringan saraf dengan cepat menggunakan seperangkat alat perangkat lunak AI NVIDIA.

Modul ini menyediakan berbagai spesifikasi & kemampuan keamanan fungsional sehingga pengembang menciptakan produk yang aman atau bersertifikasi industri. Performa tinggi modul ini membuatnya sesuai untuk berbagai mesin otonom seperti robot logistik & industri, sistem pabrik & drone besar.

Kit Pengembang Jetson Xavier NX

Kit pengembang jetson xavier nx menyertakan modul Xavier NX hemat daya yang solid yang digunakan untuk perangkat edge bertenaga AI. Modul ini memiliki beberapa fitur seperti dukungan cloud-native & mempercepat tumpukan perangkat lunak NVIDIA hanya dalam 10W dengan kinerja di atas 10 kali lipat dari Jetson TX2. Kit pengembang ini digunakan oleh produsen mesin cerdas, startup AI & pengembang aplikasi untuk merancang produk modern dengan inferensi AI yang ringkas dan sangat akurat & faktor bentuk hemat daya.

Industri Jetson AGX Xavier

Modul Industri Jetson AGX Xavier adalah bagian dari seri AGX Xavier. Desain modul ini adalah faktor bentuk yang kompatibel dengan pin yang mengontrol model AI terbaru dalam aplikasi yang menuntut. Modul ini menyediakan getaran yang diperpanjang, guncangan, spesifikasi suhu, fitur keamanan canggih, hingga 4 kali memori & 20 kali kinerja modul TX2i.

Modul ini sangat membantu para desainer untuk merancang otomatisasi, robotika & produk cerdas lainnya. Selain itu, ia juga mendesain produk bersertifikasi keselamatan & kokoh untuk menghadirkan kinerja tinggi untuk aplikasi industri, fungsional & keamanan yang disematkan AI dalam desain faktor bentuk yang kokoh serta hemat daya.

Keuntungan

Itu keunggulan NVIDIA Jetson termasuk berikut ini.

• NVIDIA Jetson cocok untuk siswa, pengembang individu & organisasi yang berbeda.
• Platform Jetson sangat populer karena hadir dengan berbagai manfaat seperti fleksibilitas modular, perangkat lunak terpadu, dan dukungan untuk teknologi cloud-native.
• Papan ini menyediakan satu set modul yang sangat membantu untuk segala hal mulai dari aplikasi AI dasar hingga perangkat bertenaga AI yang sangat kompleks.
• Papan ini digerakkan oleh daya melalui arsitektur perangkat lunak terpadu yang membantu pengembang dari pengkodean berulang. Begitu mereka membutuhkan kapasitas AI/ML, mereka dapat menyertakan modul Jetson terkait ke perangkat & menangani pekerjaan berat.
• Platform NVIDIA Jetson hanya mendukung teknologi & alur kerja cloud-native seperti orkestrasi & containerisasi, memberikan pengembang kemampuan untuk mengembangkan dengan cepat & memperluas produk AI.
• NVIDIA JetPack SDK tersedia dengan OS Linux, API & pustaka akselerasi CUDA-X untuk berbagai domain pembelajaran mesin seperti visi komputer & pembelajaran mendalam. Ini juga menyediakan dukungan untuk kerangka kerja pembelajaran mesin seperti Caffe dan Keras, perpustakaan TensorFlow & OpenCV dari visi komputer.

Kekurangan

Ini memiliki sedikit kerugian sambil mempertimbangkan harga

• Modul nano NVIDIA Jetson tidak tersedia dengan wifi di dalamnya.
• Modul nano NVIDIA Jetson hanya menyertakan dua pin PWM di papan tulis.

Aplikasi

Aplikasi NVIDIA Jetson meliputi yang berikut ini.

• Modul NVIDIA Jetson menawarkan sistem penyematan superior yang digunakan untuk membuat produk AI untuk berbagai skenario. Ini adalah modul hemat daya yang digunakan untuk AI yang mencakup komputer edge berperforma tinggi, modular, dan berfaktor bentuk kecil.
• Papan Nvidia Jetson terutama dirancang untuk digunakan dalam sistem tertanam seperti drone, robot & perangkat lain yang membutuhkan pemrosesan yang kuat dalam faktor bentuk kecil. Aplikasi umum papan Jetson terutama mencakup perangkat medis, kendaraan otonom, papan tanda digital, headset AR/VR, aplikasi kota pintar, dll.
• Modul ini mendukung arsitektur perangkat lunak terpadu untuk membuat pekerjaan pengembang perangkat lunak menjadi lebih sederhana.
  Modul & perangkat NVIDIA Jetson adalah perangkat tepi yang dioptimalkan yang digunakan untuk mengembangkan sistem Edge AI.
• Kit Pengembang NVIDIA Jetson Nano adalah komputer yang sangat kuat dan kecil yang menjalankan beberapa jaringan saraf secara paralel untuk berbagai aplikasi seperti deteksi objek, klasifikasi gambar, pemrosesan & segmentasi ucapan.
• Modul NVIDIA Jetson Nano sangat cocok untuk aplikasi visi komputer berbasis AI dan menjalankan tugas visi AI seperti segmentasi gambar, klasifikasi gambar, deteksi objek, dll.
• Modul Nano NVIDIA Jetson menghadirkan kemampuan baru yang luar biasa ke ribuan sistem AI kecil dan hemat daya
• Modul NVIDIA Jetson Nano kompatibel dengan pustaka pembelajaran mesin OpenCV dan perangkat lunak visi komputer sumber terbuka.

Q). Berapa konsumsi daya modul Jetson?

A). Konsumsi daya modul Jetson bervariasi tergantung pada model dan penggunaannya. Modul Jetson Xavier, misalnya, memiliki konsumsi daya sekitar 15w hingga 30w, sedangkan Jetson TX2 dapat mengonsumsi antara 7w hingga 15w.

Q). Bisakah Jetson digunakan untuk deteksi dan pelacakan objek waktu nyata?

A). Ya, Platform Jetson dapat menangani deteksi dan pelacakan penglihatan. Modul nano adalah GPU kinerja tinggi- dengan platform komputasi tepi terutama dapat digunakan untuk deteksi, penghitungan & pelacakan.

Q). Jenis sensor apa yang dapat dihubungkan dengan Jetson?

A). Sensor penglihatan digunakan untuk menghubungkan Jetson dengan berbagai antarmuka kamera seperti USB, MIPI CSI & Ethernet. Mereka juga dapat berinteraksi dengan lidar, sensor ultrasonik dan jenis lainnya juga menggunakan berbagai jenis antarmuka seperti I2C, SPI dll.

Q). Apa perbedaan antara Jetson dan Raspberry Pi?

A). Perbedaan utama antara kedua papan ini adalah; NVIDIA Jetson dikembangkan untuk menangani tugas-tugas AI dan visi komputer yang menuntut tinggi, sedangkan papan Raspberry Pi 4 memiliki GPU multimedia berbasis daya rendah yang digunakan untuk komputasi dan pendidikan tujuan umum. Jetson dapat digunakan untuk fitur yang lebih canggih seperti decoding dan encoding video yang dipercepat perangkat keras menggunakan GPU (Graphical Processing Unit) dan CPU (Central processing Unit) yang kuat.

Q). Bisakah Jetson digunakan untuk aplikasi robotika otonom?

A). Robotika & industri otonom masa depan akan digerakkan oleh daya melalui NVIDIA Jetson untuk Mesin & Robot Cerdas Cerdas.

Jadi, ini gambaran umum NVIDIA Jetson - kelebihan dan aplikasinya Modul ini adalah platform terdepan di seluruh dunia yang digunakan oleh pengembang untuk membuat produk AI tingkat lanjut di semua industri. Modul-modul ini juga digunakan oleh siswa & juga penggemar untuk mendapatkan pengalaman langsung dalam pembelajaran AI untuk membuat proyek yang luar biasa. Platform Jetson terutama terdiri dari kit pengembang & modul produksi kecil yang hemat daya. Ini pertanyaan untuk Anda, apa itu NVIDIA?