Yolov5 modeli OpenVINO'ya nasıl dağıtılır

İlgili Etiketler：1.PyTorch
2. Alluxio Derin Öğrenme Uygulamaları - 1: HDFS Üzerinde PyTorch Çerçevesini Çalıştırma


Özet: OpenVINO, Intel tarafından piyasaya sürülen ve yapay zeka uygulamaları ve çözümlerini hızla dağıtmak için kullanılabilen bir YZ araç paketidir. Bilgisayarlı görüyü destekleyen 150'den fazla CNN ağ yapısı bulunmaktadır.

Giriş: OpenVINO, Intel tarafından piyasaya sürülen ve yapay zeka uygulamaları ve çözümlerini hızla dağıtmak için kullanılabilen bir YZ araç paketidir. Bilgisayarlı görüyü destekleyen 150'den fazla CNN ağ yapısı bulunmaktadır. PyTorch, Tensorflow, Keras, mxnet, Caffe ve ONNX gibi çeşitli ana akım açık kaynak çerçevelerle uyumludur. Araçlar aracılığıyla yukarıdaki açık kaynak çerçevelerde eğitilen modelleri kolayca OpenVINO çerçevesine dönüştürebilir ve önceden eğitilmiş modellerin Intel CPU'larına, GPU'larına ve VPU'larına dağıtımını destekleyebilir.

1:OpenVINO'ya Genel Bakış

Baidu Baike ve diğer kaynaklara göre OpenVINO, Intel tarafından piyasaya sürülen ve yapay zeka uygulamaları ve çözümlerini hızla dağıtmak için kullanılabilen bir YZ araç paketidir. Bilgisayarlı görüyü destekleyen 150'den fazla CNN ağ yapısı bulunmaktadır. PyTorch, Tensorflow, Keras, mxnet, Caffe ve ONNX gibi çeşitli ana akım açık kaynak çerçevelerle uyumludur. Araçlar aracılığıyla yukarıdaki açık kaynak çerçevelerde eğitilen modelleri kolayca OpenVINO çerçevesine dönüştürebilir ve önceden eğitilmiş modellerin Intel CPU'larına, GPU'larına ve VPU'larına dağıtımını destekleyebilir.

İlk deneyimi yaşamak isteyen geliştiriciler için OpenVINO'nun YZ modellerini Intel CPU'larına dağıtması oldukça pratiktir. OpenVINO paketi ayrıca görüntü işleme paketi OpenCV'yi ve çıkarım sonuçlarının video kodunu çözme, ön işleme ve son işleme süreçlerinde kullanılan video işleme araç seti Media SDK'yı içerir. Genel olarak model çıkarımı yaparken çoğu durumda ön işleme ve son işleme gereklidir. Ön işleme kanal dönüşümü, boyut değişikliği, ortalamalama ve normalizasyon gibi adımları kapsar. Son işleme ise nesne algılama çerçeveleri gibi özelliklerin görüntülere çizilmesini gerektirir; bu işlemler OpenVINO ve OpenCV kullanılarak gerçekleştirilebilir.

Ayrıca farklı donanım ortamlarının desteklenen modeller ile girdi ve çıktı kesinliğinin farklı olduğunu belirtmek gerekir. Aşağıda farklı donanımlar tarafından desteklenen model formatları verilmiştir.

Yukarıdaki şekilden de görülebileceği üzere VPU şu anda yalnızca FP16 model formatını desteklemektedir. Ayrıca aşağıdaki donanımlar üzerinde optimize edilmiştir (İşlemciler için optimize edilmiştir):
• 6. ila 12. nesil Intel® Core™ işlemciler ve Intel® Xeon® işlemciler
• 3. nesil Intel® Xeon® Ölçeklenebilir işlemci (eski kod adı Cooper Lake)
• Intel® Xeon® Ölçeklenebilir işlemci (eski adıyla Skylake ve Cascade Lake)
• Intel® Streaming SIMD Extensions 4.1 (Intel® SSE4.1) desteğine sahip Intel Atom® işlemci
• Intel® HD Graphics'e sahip Intel Pentium® işlemci N4200/5, N3350/5 veya N3450/5
• Intel® Iris® Xe MAX Grafikleri
• Intel® Neural Compute Stick 2
• Intel® Movidius™ VPU'lara sahip Intel® Vision Accelerator Design

2: Yolov5'e Genel Bakış

Yolov5, YOLO algoritmasının (You Only Look Once) beşinci sürümüdür. YOLO, mevcut gerçek zamanlı nesne algılama algoritmalarının lideri olarak kabul edilebilir. 2016 yılında Redmon ve arkadaşları tarafından bir makalede tanıtılmıştır ve günümüzde çeşitli YZ hedef nesne algılama senaryolarında yaygın olarak kullanılmaktadır. İnsanlar, arabalar, hayvanlar vb. gibi nesne kategorilerini görüntülerde algılamak oldukça pratiktir. Bazı senaryolarda yolov4'ün çıkarım doğruluğu mevcut yolov5'ten daha iyi olsa da yolov5'in bazı yeni özellikleri daha caziptir. Örneğin yolov5, ortalama algılama doğruluğunu düşürmeden daha küçük çıkarım modeli dosyası, daha kısa eğitim süresi ve hızlı çıkarım hızı gibi avantajlar sunar. Bu sayede düşük doğruluk gereksinimlerinin olduğu durumlarda model oluşturma ve model dağıtımı gibi aşamalarda yolov5 kullanmak daha pratik olacak ve çıkarım hızı daha yüksek olacaktır.

Resmi web sitesinin kaynak adresi yolu şöyledir: , ve resmi sitede yolov5'in (6.0 sürümleri) farklı önceden eğitilmiş ağırlık modelleri (YOLOv5s, YOLOv5m, YOLOv5n vb.) de sunulmaktadır. OpenVINO ile uyumluluk sağlamak için burada yolov5 v5.0 sürümü seçilmiştir. Buradan ağırlık modeli dosyasını ve kaynak kodu yolov5-5.0'i https://github.com/ultralytics/yolov5/releases/tag/v5.0 adresinden indirebilirsiniz.

3:Uyum ortamına genel bakış

• İşletim Sistemi: Windows 10 (Intel CPU)
• Python sürümü: Python 3.7.7
• OpenVINO Python Paketi : openvino 2021.4.2
• Yolov : yolov5-5.0
• netron 5.5.3
• onnx 1.10.2
• opencv-python: 4.5.4.60
OpenVINO paketini resmi web sitesinden indirebilirsiniz.

Ayrıca openvino_toolkit için başka bağımlılıkların (C++ ortamı) da kurulması gerekir; cmake-3.22.1-windows-x86_64.msi ve MSBuild içeren Visual Studio 2019'un kurulması bunlar arasındadır. Bu işlem, C++ masaüstü geliştirme ortamı ve diğer bileşenlerin işaretlenmesi gereken Visual Studio Community Edition kurularak yapılabilir. Ayrıntılar için lütfen OpenVINO resmi web sitesi belgelerine bakın:
https://docs.openvino.ai/latest/openvino_docs_install_guides_installing_openvino_windows.html. Ortam kurulduktan sonra C++ ortamının başarıyla kurulup kurulmadığını doğrulamak için aşağıdaki CMD komutunu çalıştırabilirsiniz:

#Ortam değişkenlerini geçici olarak ayarla
# dizini değiştir
# bağımlılıkları yükle
install_prerequisites.bat
#Demo'yu derle ve çalıştır
demo_security_barrier_camera.bat