Inference Score |
174 |
174 |
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Classification (F32)
|
93
|
93
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Classification (F16)
|
163
|
163
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Classification (I8)
|
154
|
154
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Segmentation (F32)
|
117
|
117
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Segmentation (F16)
|
193
|
193
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Segmentation (I8)
|
186
|
186
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Pose Estimation (F32)
|
89
|
89
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Pose Estimation (F16)
|
105
|
105
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Pose Estimation (I8)
|
105
|
105
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Object Detection (F32)
|
68
|
68
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Object Detection (F16)
|
85
|
85
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Object Detection (I8)
|
93
|
93
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Face Detection (F32)
|
255
|
255
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Face Detection (F16)
|
334
|
334
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Face Detection (I8)
|
349
|
349
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Depth Estimation (F32)
|
170
|
170
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Depth Estimation (F16)
|
225
|
225
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Depth Estimation (I8)
|
225
|
225
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Style Transfer (F32)
|
344
|
344
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Style Transfer (F16)
|
478
|
478
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Style Transfer (I8)
|
478
|
478
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Super-Resolution (F32)
|
92
|
92
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Super-Resolution (F16)
|
142
|
142
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Image Super-Resolution (I8)
|
140
|
140
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Text Classification (F32)
|
146
|
146
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Text Classification (F16)
|
145
|
145
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Text Classification (I8)
|
235
|
235
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Machine Translation (F32)
|
268
|
268
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Machine Translation (F16)
|
269
|
269
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|
Machine Translation (I8)
|
245
|
245
|
100.0% |
Vocal Vocal V2
|
|
Vocal Vocal V2
|
|