{ | |
"per_channel": true, | |
"reduce_range": true, | |
"per_model_config": { | |
"model": { | |
"op_types": [ | |
"Concat", | |
"Div", | |
"Gather", | |
"Reshape", | |
"Sub", | |
"Pow", | |
"Mul", | |
"Gemm", | |
"Unsqueeze", | |
"Cast", | |
"Tanh", | |
"Add", | |
"Erf", | |
"Sqrt", | |
"Softmax", | |
"ReduceMean", | |
"Transpose", | |
"MatMul", | |
"Slice", | |
"Shape", | |
"Constant" | |
], | |
"weight_type": "QInt8" | |
} | |
} | |
} |