ANALISIS KINERJA TENSORRT DAN OPENVINO SEBAGAI INFERENCE FRAMEWORK UNTUK PEMODELAN DEEP LEARNING

ATMODJO, LOUIS AXEL TJOKRO (2024) ANALISIS KINERJA TENSORRT DAN OPENVINO SEBAGAI INFERENCE FRAMEWORK UNTUK PEMODELAN DEEP LEARNING. Tugas Akhir/Skripsi thesis, Universitas Ma Chung.

Text 312110008_Louis Axel.pdf Download (3MB)

Abstract

Deep Learning berusaha meniru kemampuan manusia melalui Artificial
Neural Network untuk melakukan task yang lebih kompleks dari sekedar
mengambil keputusan. Deep learning yang lebih kompleks, tentunya membutuhkan
data dan komputasi lebih kompleks juga. Inference framework mampu
mengoptimalkan deep learning agar lebih efisien tanpa mengorbankan akurasi.
Namun, tiap model deep learning membutuhkan inference framework yang tepat
agar mendapatkan performa optimal.
Metode computer vision dengan training dataset dilakukan terhadap dataset
citra yang dikumpulkan dalam pencahayaan redup hingga sangat terang menjadi
dua buah model deep learning, yaitu YOLOv8n dan YOLOv11n yang kemudian
dioptimalkan menjadi inference framework TensorRT yang memiliki keunggulan
dalam pengolahan dengan GPU dari NVIDIA dan OpenVINO yang unggul dengan
pengolahan menggunakan CPU dari Intel. Pengujian statistik T-Test dan Two-Way
ANOVA digunakan dalam penelitian ini untuk melihat performa kedua inference
framework secara terukur dan ilmiah.
TensorRT memiliki rata-rata inference speed sebesar 0.006 detik dan ratarata model load time selama 0.0007 detik sehingga sesuai untuk penggunaan realtime processing dan unggul daripada OpenVINO. Sedangkan OpenVINO memiliki
rata-rata memory consumption sebesar 617841.9 MB dan rata-rata model size
sebesar 6 MB sehingga sesuai untuk penggunaan yang memiliki keterbatasan pada
perangkat, karena unggul dari TensorRT. Accuracy dari kedua inference framework
dan tiap model menunjukkan bahwa YOLOv11n lebih unggul sebesar 1% dari
YOLOv8n dan OpenVINO mampu mengoptimalkan model yang lebih kompleks
dengan lebih baik.

Kata kunci : deep learning, inference framework, OpenVINO, TensorRT

Item Type:	Thesis (Tugas Akhir/Skripsi)
Subjects:	T Technology > T Technology (General)
Divisions:	Fakultas Teknologi dan Desain > S1 Teknik Informatika
Depositing User:	umclibs1
Date Deposited:	26 Jan 2026 07:49
Last Modified:	26 Jan 2026 07:49
URI:	http://repository.machung.ac.id/id/eprint/1114

Actions (login required)

View Item