JeVois  1.22
JeVois Smart Embedded Machine Vision Toolkit
Share this page:
Loading...
Searching...
No Matches
JeVois-Pro Deep Neural Network Benchmarks on older JeVois 1.18.0 software

See JeVois-Pro Deep Neural Network Benchmarks for the latest version.

PipelineInputOutputPreProcNetworkPostProcTotal

FPS

NPU:Classify:Inception-V3 4D 1x299x299x3 8U2D 1x1001 32F1.1 +/- 0.1 ms21.0 +/- 0.1 ms127.7 +/- 12.2 us22.2 +/- 0.1 ms45.1 fps
NPU:Classify:MobileNet-V1 4D 1x224x224x3 8S2D 1x1001 32F863.6 +/- 48.8 us8.0 +/- 0.2 ms127.8 +/- 76.1 us9.0 +/- 0.3 ms111.6 fps
NPU:Detect:Yolo-Face-DFP 4D 1x3x416x416 8S4D 1x30x13x13 32F2.7 +/- 0.4 ms5.5 +/- 0.0 ms115.0 +/- 14.1 us8.3 +/- 0.4 ms120.8 fps
NPU:Detect:YoloV2-DFP 4D 1x3x416x416 8S4D 1x425x13x13 32F2.7 +/- 0.4 ms22.5 +/- 0.1 ms217.0 +/- 19.5 us25.4 +/- 0.4 ms39.3 fps
NPU:Detect:YoloV3-DFP 4D 1x3x416x416 8S4D 1x255x13x13 32F, 4D 1x255x26x26 32F, 4D 1x255x52x52 32F2.7 +/- 0.6 ms85.6 +/- 0.3 ms594.4 +/- 76.3 us88.9 +/- 0.7 ms11.2 fps
NPU:Detect:YoloV3-Tiny-DFP 4D 1x3x416x416 8S4D 1x255x13x13 32F, 4D 1x255x26x26 32F2.6 +/- 0.5 ms5.9 +/- 0.1 ms214.7 +/- 18.6 us8.8 +/- 0.5 ms114.2 fps
NPU:Detect:YoloV4-DFP 4D 1x3x416x416 8S4D 1x255x52x52 32F, 4D 1x255x26x26 32F, 4D 1x255x13x13 32F3.4 +/- 0.8 ms151.2 +/- 0.8 ms557.1 +/- 130.4 us155.2 +/- 1.6 ms6.4 fps
NPU:Detect:YoloV7-Tiny-AA 4D 1x3x416x416 8U4D 1x255x52x52 32F, 4D 1x255x26x26 32F, 4D 1x255x13x13 32F2.3 +/- 0.4 ms17.7 +/- 0.1 ms536.0 +/- 31.8 us20.5 +/- 0.4 ms48.8 fps
NPU:Detect:YoloV7-Tiny-DFP 4D 1x3x416x416 8S4D 1x255x52x52 32F, 4D 1x255x26x26 32F, 4D 1x255x13x13 32F2.8 +/- 0.5 ms44.5 +/- 0.4 ms570.6 +/- 69.1 us47.8 +/- 0.6 ms20.9 fps
NPU:Detect:yolov2-coco 4D 1x3x416x416 8U4D 1x425x13x13 32F2.4 +/- 0.5 ms24.4 +/- 0.1 ms244.1 +/- 38.7 us27.1 +/- 0.5 ms37.0 fps
NPU:Detect:yolov2-voc 4D 1x3x416x416 8U4D 1x125x13x13 32F2.3 +/- 0.4 ms24.1 +/- 0.1 ms158.2 +/- 35.1 us26.6 +/- 0.4 ms37.6 fps
NPU:Detect:yolov3-spp 4D 1x3x608x608 8U4D 1x255x19x19 32F, 4D 1x255x38x38 32F, 4D 1x255x76x76 32F4.1 +/- 0.7 ms216.5 +/- 0.5 ms777.6 +/- 109.6 us221.3 +/- 0.9 ms4.5 fps
NPU:Detect:yolov3-tiny 4D 1x3x416x416 8U4D 1x255x13x13 32F, 4D 1x255x26x26 32F2.2 +/- 0.4 ms6.4 +/- 0.1 ms290.5 +/- 31.9 us9.0 +/- 0.4 ms111.5 fps
NPU:Detect:yolov4-csp-x-swish 4D 1x3x640x640 8U4D 1x255x80x80 32F, 4D 1x255x40x40 32F, 4D 1x255x20x20 32F4.3 +/- 0.8 ms309.0 +/- 1.1 ms922.4 +/- 120.8 us314.3 +/- 1.3 ms3.2 fps
NPU:Detect:yolov4-tiny 4D 1x3x416x416 8U4D 1x255x13x13 32F, 4D 1x255x26x26 32F2.2 +/- 0.4 ms11.8 +/- 0.1 ms290.7 +/- 25.6 us14.3 +/- 0.4 ms69.8 fps
NPU:Detect:yolov7-tiny-1024x576 4D 1x3x576x1024 8U4D 1x255x72x128 32F, 4D 1x255x36x64 32F, 4D 1x255x18x32 32F1.6 +/- 0.1 ms60.8 +/- 0.4 ms720.1 +/- 73.7 us63.1 +/- 0.4 ms15.8 fps
NPU:Detect:yolov7-tiny-512x288 4D 1x3x288x512 8U4D 1x255x36x64 32F, 4D 1x255x18x32 32F, 4D 1x255x9x16 32F2.2 +/- 0.4 ms14.2 +/- 0.1 ms561.5 +/- 62.9 us17.0 +/- 0.4 ms58.9 fps
NPUX:Classify:ResNet-50-int8 4D 1x3x224x224 32F2D 1x1000 32F3.6 +/- 0.0 ms554.9 +/- 1.2 ms174.7 +/- 28.3 us558.7 +/- 1.2 ms1.8 fps
NPUX:Segment:PP-HumanSeg 4D 1x3x192x192 8U4D 1x2x192x192 32F690.6 +/- 56.7 us27.1 +/- 0.4 ms1.1 +/- 0.1 ms28.9 +/- 0.4 ms34.7 fps
NPUX:YuNet:YuNet-Face-512x288 4D 1x3x288x512 8U2D 8448x2 32F, 2D 8448x1 32F, 2D 8448x14 32F1.6 +/- 0.4 ms16.8 +/- 0.7 ms245.7 +/- 50.3 us18.6 +/- 0.7 ms53.8 fps
NPUX:YuNet:YuNet-Face-768x432 4D 1x3x432x768 8U2D 18984x2 32F, 2D 18984x1 32F, 2D 18984x14 32F2.7 +/- 0.7 ms35.0 +/- 1.3 ms533.1 +/- 107.0 us38.2 +/- 1.5 ms26.2 fps
OpenCV:Classify:GoogleNet 4D 1x3x224x224 32F2D 1x1000 32F1.7 +/- 0.1 ms181.8 +/- 3.5 ms128.2 +/- 19.5 us183.6 +/- 3.5 ms5.4 fps
OpenCV:Classify:Inception-V3 4D 1x3x299x299 32F2D 1x1001 32F3.3 +/- 0.1 ms591.1 +/- 5.3 ms146.9 +/- 24.0 us594.5 +/- 5.4 ms1.7 fps
OpenCV:Classify:ResNet-50-int8 4D 1x3x224x224 32F2D 1x1000 32F3.7 +/- 0.4 ms267.4 +/- 4.8 ms172.6 +/- 34.5 us271.3 +/- 4.9 ms3.7 fps
OpenCV:Classify:SqueezeNet 4D 1x3x227x227 32F4D 1x1000x1x1 32F1.3 +/- 0.0 ms51.3 +/- 2.2 ms150.2 +/- 150.1 us52.7 +/- 2.2 ms19.0 fps
OpenCV:Detect:MobileNet-SSD-VOC 4D 1x3x300x300 32F4D 1x1x100x7 32F3.1 +/- 0.4 ms133.7 +/- 3.0 ms55.3 +/- 22.6 us136.9 +/- 3.1 ms7.3 fps
OpenCV:Detect:OpenCV-Face 4D 1x3x300x300 32F4D 1x1x200x7 32F2.6 +/- 0.4 ms137.8 +/- 4.9 ms41.5 +/- 13.3 us140.4 +/- 5.0 ms7.1 fps
OpenCV:Detect:YOLOv3 4D 1x3x416x416 32F2D 507x85 32F, 2D 2028x85 32F, 2D 8112x85 32F3.3 +/- 0.7 ms3.0 +/- 0.0 s1.8 +/- 0.9 ms3.0 +/- 0.0 s0.3 fps
OpenCV:Detect:YOLOv7-Tiny 4D 1x3x256x480 32F3D 1x7560x85 32F3.0 +/- 0.2 ms257.8 +/- 5.3 ms2.2 +/- 0.5 ms263.0 +/- 5.1 ms3.8 fps
OpenCV:Detect:YoloV2-Tiny-VOC 4D 1x3x416x416 32F2D 845x25 32F3.9 +/- 0.3 ms351.8 +/- 5.3 ms267.7 +/- 86.3 us355.9 +/- 5.1 ms2.8 fps
OpenCV:Detect:YoloV3-Tiny 4D 1x3x416x416 32F2D 507x85 32F, 2D 2028x85 32F3.9 +/- 0.2 ms280.5 +/- 4.8 ms790.2 +/- 78.4 us285.2 +/- 4.8 ms3.5 fps
OpenCV:Segment:DeepLabV3-CPU 4D 1x3x513x513 32F4D 1x21x513x513 32F7.2 +/- 0.6 ms1.2 +/- 0.0 s114.9 +/- 4.2 ms1.3 +/- 0.0 s0.8 fps
OpenCV:Segment:ENet-CityScapes 4D 1x3x256x512 8U4D 1x20x256x512 32F1.2 +/- 0.3 ms251.8 +/- 3.9 ms115.6 +/- 34.7 ms368.5 +/- 34.9 ms2.7 fps
OpenCV:YuNet:YuNet-Face-512x288 4D 1x3x288x512 8U2D 8448x2 32F, 2D 8448x1 32F, 2D 8448x14 32F1.2 +/- 0.1 ms41.5 +/- 2.6 ms223.3 +/- 66.5 us43.0 +/- 2.6 ms23.3 fps
Python:Python:SqueezeNet 4D 1x3x227x227 32F2D 1000x1 32F4.2 +/- 0.1 ms48.4 +/- 1.5 ms326.4 +/- 10.0 us52.9 +/- 1.5 ms18.9 fps
SPU:Classify:EfficientNet-Large 4D 1x300x300x3 8U4D 1x1001x1x1 32F2.2 +/- 0.1 ms22.9 +/- 0.0 ms135.2 +/- 23.9 us25.2 +/- 0.1 ms39.7 fps
SPU:Classify:EfficientNet-Lite4 4D 1x300x300x3 8U4D 1x1000x1x1 32F2.2 +/- 0.1 ms26.7 +/- 0.0 ms132.1 +/- 15.6 us29.0 +/- 0.1 ms34.4 fps
SPU:Classify:EfficientNet-Medium 4D 1x240x240x3 8U4D 1x1001x1x1 32F1.5 +/- 0.0 ms6.3 +/- 1.5 ms127.0 +/- 8.4 us7.9 +/- 1.5 ms126.8 fps
SPU:Classify:EfficientNet-Small 4D 1x224x224x3 8U4D 1x1001x1x1 32F1.3 +/- 0.0 ms5.2 +/- 1.7 ms128.2 +/- 10.2 us6.7 +/- 1.7 ms149.5 fps
SPU:Classify:Hardnet68 4D 1x224x224x3 8U4D 1x1000x1x1 32F744.7 +/- 42.0 us37.8 +/- 0.0 ms165.8 +/- 9.9 us38.7 +/- 0.0 ms25.8 fps
SPU:Classify:Inception-v1 4D 1x224x224x3 8U4D 1x1001x1x1 32F769.0 +/- 46.1 us3.1 +/- 1.9 ms132.8 +/- 20.6 us4.0 +/- 1.9 ms251.5 fps
SPU:Classify:MobileNetV3 4D 1x224x224x3 8U4D 1x1001x1x1 32F747.1 +/- 44.9 us3.3 +/- 1.9 ms129.2 +/- 29.9 us4.2 +/- 1.9 ms239.5 fps
SPU:Classify:ResNet-V1-50 4D 1x224x224x3 8U4D 1x1000x1x1 32F734.4 +/- 42.7 us3.5 +/- 2.0 ms131.2 +/- 17.0 us4.4 +/- 2.0 ms228.6 fps
SPU:Classify:ResNet-V2-34 4D 1x224x224x3 8U4D 1x1000x1x1 32F736.4 +/- 40.7 us4.4 +/- 1.8 ms166.5 +/- 13.0 us5.3 +/- 1.8 ms188.5 fps
SPU:Classify:ResNext-50-32x4d 4D 1x224x224x3 8U4D 1x1000x1x1 32F769.6 +/- 54.8 us8.8 +/- 1.0 ms170.9 +/- 22.2 us9.8 +/- 1.0 ms102.2 fps
SPU:Classify:SqueezeNet 4D 1x224x224x3 8U4D 1x1000x1x1 32F735.9 +/- 47.8 us1.7 +/- 2.1 ms130.5 +/- 30.6 us2.5 +/- 2.1 ms394.8 fps
SPU:Detect:YOLOv3-tiny 4D 1x416x416x3 8U4D 1x13x13x255 32F, 4D 1x26x26x255 32F2.0 +/- 0.5 ms3.9 +/- 1.8 ms495.7 +/- 143.2 us6.4 +/- 1.9 ms156.1 fps
SPU:Detect:YOLOv5m 4D 1x640x640x3 8U4D 1x80x80x255 32F, 4D 1x40x40x255 32F, 4D 1x20x20x255 32F2.7 +/- 0.8 ms20.0 +/- 0.5 ms1.9 +/- 0.4 ms24.6 +/- 1.0 ms40.6 fps
SPU:Detect:YOLOv5s 4D 1x640x640x3 8U4D 1x80x80x255 32F, 4D 1x40x40x255 32F, 4D 1x20x20x255 32F2.9 +/- 0.8 ms17.8 +/- 1.3 ms1.8 +/- 1.5 ms22.4 +/- 2.1 ms44.6 fps
SPU:Detect:YOLOv5xs 4D 1x512x512x3 8U4D 1x64x64x255 32F, 4D 1x32x32x255 32F, 4D 1x16x16x255 32F2.3 +/- 0.9 ms12.5 +/- 1.0 ms1.2 +/- 0.2 ms16.0 +/- 1.3 ms62.3 fps
SPU:Detect:yolov7-640 4D 1x640x640x3 8U4D 1x80x80x255 32F, 4D 1x40x40x255 32F, 4D 1x20x20x255 32F2.8 +/- 0.7 ms81.1 +/- 0.9 ms2.1 +/- 0.6 ms86.1 +/- 1.2 ms11.6 fps
SPU:Segment:DeepLabV3-MobileNetV2 4D 1x513x513x3 8U4D 1x513x513x21 8U2.0 +/- 0.8 ms45.3 +/- 1.1 ms19.6 +/- 2.1 ms67.0 +/- 2.6 ms14.9 fps
SPU:Segment:DeepLabV3-MobileNetV2-NoDilation 4D 1x513x513x3 8U4D 1x513x513x1 8U1.8 +/- 0.6 ms14.1 +/- 0.2 ms995.0 +/- 56.2 us16.9 +/- 0.7 ms59.1 fps
TPU:Classify:EfficientNet-L 4D 1x300x300x3 8U2D 1x1001 32F1.4 +/- 0.1 ms27.5 +/- 0.0 ms131.6 +/- 21.0 us29.0 +/- 0.1 ms34.5 fps
TPU:Classify:EfficientNet-M 4D 1x240x240x3 8U2D 1x1001 32F969.8 +/- 52.6 us9.6 +/- 0.1 ms129.4 +/- 37.6 us10.7 +/- 0.1 ms93.5 fps
TPU:Classify:EfficientNet-S 4D 1x224x224x3 8U2D 1x1001 32F902.1 +/- 58.3 us4.7 +/- 0.1 ms125.0 +/- 17.5 us5.8 +/- 0.1 ms173.3 fps
TPU:Classify:Inception-V1 4D 1x224x224x3 8U2D 1x1001 32F902.7 +/- 38.7 us3.2 +/- 0.0 ms126.9 +/- 5.9 us4.2 +/- 0.0 ms236.0 fps
TPU:Classify:Inception-V2 4D 1x224x224x3 8U2D 1x1001 32F920.8 +/- 52.4 us15.1 +/- 0.0 ms132.2 +/- 16.5 us16.1 +/- 0.1 ms62.0 fps
TPU:Classify:Inception-V3 4D 1x299x299x3 8U2D 1x1001 32F1.4 +/- 0.1 ms45.5 +/- 0.0 ms129.9 +/- 16.0 us47.0 +/- 0.1 ms21.3 fps
TPU:Classify:Inception-V4 4D 1x299x299x3 8U2D 1x1001 32F1.4 +/- 0.1 ms90.5 +/- 0.0 ms130.7 +/- 15.6 us92.0 +/- 0.1 ms10.9 fps
TPU:Classify:MobileNetV1-1.0-224 4D 1x224x224x3 8U2D 1x1001 32F891.1 +/- 45.7 us2.2 +/- 0.0 ms129.3 +/- 10.8 us3.2 +/- 0.0 ms315.3 fps
TPU:Classify:MobileNetV1-1.0-224-TF2 4D 1x224x224x3 8U2D 1x1001 32F903.4 +/- 52.2 us2.2 +/- 0.0 ms131.8 +/- 23.9 us3.2 +/- 0.1 ms309.8 fps
TPU:Classify:MobileNetV2-1.0-224 4D 1x224x224x3 8U2D 1x1001 32F895.6 +/- 50.4 us2.4 +/- 0.0 ms130.0 +/- 11.9 us3.4 +/- 0.1 ms294.1 fps
TPU:Classify:MobileNetV2-1.0-224-TF2 4D 1x224x224x3 8U2D 1x1001 32F894.9 +/- 41.6 us2.4 +/- 0.0 ms125.2 +/- 13.5 us3.5 +/- 0.0 ms289.2 fps
TPU:Classify:MobileNetV2-iNat-Birds 4D 1x224x224x3 8U2D 1x965 32F746.9 +/- 32.9 us2.4 +/- 0.0 ms122.7 +/- 10.9 us3.2 +/- 0.0 ms308.8 fps
TPU:Classify:MobileNetV2-iNat-Insects 4D 1x224x224x3 8U2D 1x1022 32F748.3 +/- 31.5 us2.4 +/- 0.0 ms128.8 +/- 10.5 us3.2 +/- 0.0 ms308.1 fps
TPU:Classify:MobileNetV2-iNat-Plants 4D 1x224x224x3 8U2D 1x2102 32F754.2 +/- 42.1 us2.5 +/- 0.0 ms255.8 +/- 39.6 us3.5 +/- 0.1 ms284.7 fps
TPU:Classify:MobileNetV3-1.0-224 4D 1x224x224x3 8U2D 1x1001 32F892.9 +/- 40.3 us2.9 +/- 0.0 ms126.0 +/- 12.4 us3.9 +/- 0.0 ms253.7 fps
TPU:Classify:MobileNetV3-1.0-224-TF2 4D 1x224x224x3 8U2D 1x1001 32F907.7 +/- 48.8 us2.9 +/- 0.0 ms124.9 +/- 16.7 us4.0 +/- 0.1 ms252.4 fps
TPU:Classify:Popular-US-Products 4D 1x224x224x3 8U2D 1x100000 32F645.2 +/- 140.2 us7.6 +/- 0.0 ms9.7 +/- 2.5 ms17.9 +/- 2.7 ms55.9 fps
TPU:Classify:Resnet-50 4D 1x224x224x3 8U2D 1x1001 32F922.6 +/- 56.0 us45.7 +/- 0.0 ms129.3 +/- 20.2 us46.7 +/- 0.1 ms21.4 fps
TPU:Detect:EfficientDetLite0-Coco 4D 1x320x320x3 8U3D 1x25x4 32F, 2D 1x25 32F, 2D 1x25 32F, 2D 1x1 32F1.6 +/- 0.6 ms52.1 +/- 0.8 ms82.0 +/- 13.9 us53.8 +/- 0.9 ms18.6 fps
TPU:Detect:EfficientDetLite1-Coco 4D 1x384x384x3 8U3D 1x25x4 32F, 2D 1x25 32F, 2D 1x25 32F, 2D 1x1 32F2.2 +/- 0.6 ms78.1 +/- 0.6 ms71.2 +/- 15.8 us80.3 +/- 0.7 ms12.4 fps
TPU:Detect:EfficientDetLite2-Coco 4D 1x448x448x3 8U3D 1x25x4 32F, 2D 1x25 32F, 2D 1x25 32F, 2D 1x1 32F2.4 +/- 0.7 ms122.4 +/- 1.2 ms51.0 +/- 10.8 us124.8 +/- 1.5 ms8.0 fps
TPU:Detect:EfficientDetLite3-Coco 4D 1x512x512x3 8U3D 1x25x4 32F, 2D 1x25 32F, 2D 1x25 32F, 2D 1x1 32F2.5 +/- 1.5 ms133.2 +/- 1.2 ms77.3 +/- 15.7 us135.7 +/- 2.2 ms7.4 fps
TPU:Detect:EfficientDetLite3x-Coco 4D 1x640x640x3 8U3D 1x25x4 32F, 2D 1x25 32F, 2D 1x25 32F, 2D 1x1 32F3.5 +/- 0.4 ms339.7 +/- 2.7 ms166.8 +/- 31.3 us343.3 +/- 2.7 ms2.9 fps
TPU:Detect:MobileDetSSD-Coco 4D 1x320x320x3 8U3D 1x10x4 32F, 2D 1x10 32F, 2D 1x10 32F, 2D 1x1 32F1.7 +/- 0.4 ms8.5 +/- 0.2 ms63.2 +/- 6.1 us10.3 +/- 0.5 ms97.3 fps
TPU:Detect:MobileNetSSDv1-Coco 4D 1x300x300x3 8U3D 1x20x4 32F, 2D 1x20 32F, 2D 1x20 32F, 2D 1x1 32F1.1 +/- 0.1 ms49.1 +/- 0.7 ms89.3 +/- 10.2 us50.3 +/- 0.7 ms19.9 fps
TPU:Detect:MobileNetSSDv2-Coco 4D 1x300x300x3 8U3D 1x20x4 32F, 2D 1x20 32F, 2D 1x20 32F, 2D 1x1 32F1.1 +/- 0.1 ms7.9 +/- 0.1 ms88.5 +/- 13.6 us9.0 +/- 0.1 ms110.7 fps
TPU:Detect:MobileNetSSDv2-face 4D 1x320x320x3 8U3D 1x50x4 32F, 2D 1x50 32F, 2D 1x50 32F, 2D 1x1 32F1.7 +/- 0.3 ms12.4 +/- 0.4 ms19.6 +/- 2.6 us14.1 +/- 0.5 ms70.9 fps
TPU:Segment:DeepLab-slim 4D 1x513x513x3 8U3D 1x513x513 32S3.0 +/- 0.8 ms92.6 +/- 0.1 ms1.5 +/- 0.1 ms97.1 +/- 0.8 ms10.3 fps
TPU:Segment:DeepLabV3-dm0.5 4D 1x513x513x3 8U3D 1x513x513 32S3.2 +/- 0.6 ms87.7 +/- 0.3 ms1.1 +/- 0.1 ms92.1 +/- 0.7 ms10.9 fps
TPU:Segment:DeepLabV3-dm1.0 4D 1x513x513x3 8U3D 1x513x513 32S3.0 +/- 0.7 ms93.6 +/- 0.3 ms1.1 +/- 0.1 ms97.7 +/- 0.8 ms10.2 fps
TPU:Segment:UNet-MobileNetV2-Pets-128 4D 1x128x128x3 8U4D 1x128x128x3 8U429.0 +/- 42.5 us3.1 +/- 0.0 ms333.3 +/- 36.6 us3.9 +/- 0.1 ms257.1 fps
TPU:Segment:UNet-MobileNetV2-Pets-256 4D 1x256x256x3 8U4D 1x256x256x3 8U870.3 +/- 43.9 us15.2 +/- 0.0 ms1.2 +/- 0.0 ms17.2 +/- 0.1 ms58.0 fps
VPU:Classify:Inception-V3 4D 1x3x299x299 32F2D 1x1001 32F3.3 +/- 0.2 ms124.0 +/- 0.2 ms163.1 +/- 41.5 us127.5 +/- 0.3 ms7.8 fps
VPU:Detect:YoloV5s 4D 1x3x640x640 8U4D 1x255x80x80 32F, 4D 1x255x40x40 32F, 4D 1x255x20x20 32F4.0 +/- 0.8 ms523.7 +/- 0.7 ms989.9 +/- 109.8 us528.6 +/- 0.8 ms1.9 fps
VPU:Detect:face-detection-adas-0001 4D 1x3x384x672 8U4D 1x1x200x7 32F3.5 +/- 0.7 ms111.5 +/- 0.4 ms59.0 +/- 20.0 us115.1 +/- 0.8 ms8.7 fps
VPU:Detect:face-detection-retail-0004 4D 1x3x300x300 8U4D 1x1x200x7 32F1.2 +/- 0.1 ms28.1 +/- 0.2 ms25.2 +/- 6.5 us29.4 +/- 0.2 ms34.1 fps
VPU:Detect:pedestrian-and-vehicle-detector-adas-0001 4D 1x3x384x672 8U4D 1x1x200x7 32F3.5 +/- 0.8 ms128.9 +/- 0.1 ms91.9 +/- 19.2 us132.5 +/- 0.8 ms7.5 fps
VPU:Detect:pedestrian-detection-adas-0002 4D 1x3x384x672 8U4D 1x1x200x7 32F3.8 +/- 0.8 ms113.4 +/- 0.1 ms61.5 +/- 23.6 us117.2 +/- 0.8 ms8.5 fps
VPU:Detect:person-detection-retail-0013 4D 1x3x320x544 8U4D 1x1x200x7 32F2.5 +/- 0.6 ms157.2 +/- 0.1 ms34.0 +/- 11.4 us159.7 +/- 0.6 ms6.3 fps
VPU:Detect:product-detection-0001 4D 1x3x512x512 8U4D 1x1x200x7 32F3.5 +/- 0.9 ms154.8 +/- 0.3 ms49.5 +/- 10.6 us158.3 +/- 1.0 ms6.3 fps
VPU:Detect:vehicle-detection-adas-0002 4D 1x3x384x672 8U4D 1x1x200x7 32F3.5 +/- 0.7 ms109.3 +/- 0.1 ms89.8 +/- 14.8 us112.9 +/- 0.7 ms8.9 fps
VPU:Segment:road-segmentation-adas-0001 4D 1x3x512x896 8U4D 1x4x512x896 32F4.8 +/- 0.8 ms653.7 +/- 0.3 ms19.7 +/- 1.6 ms678.1 +/- 2.0 ms1.5 fps
VPUX:Classify:Inception-V3 4D 1x3x299x299 32F2D 1x1001 32F3.1 +/- 0.4 ms519.9 +/- 5.0 ms150.4 +/- 24.0 us523.1 +/- 4.8 ms1.9 fps
VPUX:Detect:face-detection-adas-0001 4D 1x3x384x672 8U4D 1x1x200x7 32F1.3 +/- 0.1 ms422.3 +/- 4.5 ms42.5 +/- 1.7 us423.7 +/- 4.5 ms2.4 fps
VPUX:Detect:face-detection-retail-0004 4D 1x3x300x300 8U4D 1x1x200x7 32F1.2 +/- 0.2 ms105.6 +/- 2.6 ms21.8 +/- 3.2 us106.7 +/- 2.7 ms9.4 fps
VPUX:Detect:pedestrian-and-vehicle-detector-adas-0001 4D 1x3x384x672 8U4D 1x1x200x7 32F1.3 +/- 0.1 ms505.3 +/- 5.2 ms83.4 +/- 3.6 us506.7 +/- 5.3 ms2.0 fps
VPUX:Detect:pedestrian-detection-adas-0002 4D 1x3x384x672 8U4D 1x1x200x7 32F1.3 +/- 0.1 ms431.7 +/- 6.7 ms94.1 +/- 16.4 us433.1 +/- 6.6 ms2.3 fps
VPUX:Detect:person-detection-retail-0013 4D 1x3x320x544 8U4D 1x1x200x7 32F1.1 +/- 0.1 ms568.9 +/- 7.6 ms57.8 +/- 5.7 us570.0 +/- 7.6 ms1.8 fps
VPUX:Detect:product-detection-0001 4D 1x3x512x512 8U4D 1x1x200x7 32F1.4 +/- 0.1 ms2.1 +/- 0.0 s68.3 +/- 17.9 us2.1 +/- 0.0 s0.5 fps
VPUX:Detect:vehicle-detection-adas-0002 4D 1x3x384x672 8U4D 1x1x200x7 32F1.3 +/- 0.1 ms425.6 +/- 3.6 ms85.7 +/- 33.2 us427.1 +/- 3.6 ms2.3 fps
VPUX:Segment:road-segmentation-adas-0001 4D 1x3x512x896 8U4D 1x4x512x896 32F1.7 +/- 0.2 ms2.7 +/- 0.0 s13.7 +/- 6.9 ms2.8 +/- 0.0 s0.4 fps