Model

inference time(ms)

throughput

SI

3.8157

2417.6568

SI + HA

4.3107

1929.5900

SI + SE

4.3295

2266.5443

SI + SA

5.1588

1876.5547

SI + MIX

4.6068

1342.1604

GoogLeNet

7.2448

270.3429

VGG

12.4864

135.2229

AlexNet

10.6465

156.6873