Documentation

Supported ONNX operators

Suggest Edits

📘

NetsPresso Model Compressor Supporting Boundaries

NetsPresso Model Compressor doesn't support the model with postprocessing or loss terms.

NetsPresso Model Compressor supports the following ONNX operators.

Operator Opset version Support
Abs 13, 6, 1 O
Acos 7 O
Acosh 9 O
Add 14, 13, 7, 6, 1 O
And 7, 1 O
ArgMax 13, 12, 11, 1 O
ArgMin 13, 12, 11, 1 O
Asin 7 O
Asinh 9 O
Atan 7 O
Atanh 9 O
AveragePool 11, 10, 7, 1 O
BatchNormalization 15, 14, 9, 7, 6, 1 O
BitShift 11 O
Cast 13, 9, 6, 1 O
Ceil 13, 6, 1 O
Clip 13, 12, 11, 6, 1 O
Compress 11, 9 X
Concat 13, 11, 4, 1 O
ConcatFromSequence 11 X
Constant 13, 12, 11, 9, 1 O
ConstantOfShape 9 O
Conv 11, 1 O
ConvInteger 10 X
ConvTranspose 11, 1 O
Cos 7 O
Cosh 9 O
CumSum 14, 11 X
DFT 17 X
DepthToSpace 13, 11, 1 X
DequantizeLinear 13, 10 X
Det 11 X
Div 14, 13, 7, 6, 1 O
Dropout 13, 12, 10, 7, 6, 1 O
Einsum 12 X
Elu 6, 1 O
Equal 13, 11, 7, 1 O
Erf 13, 9 X
Exp 13, 6, 1 O
Expand 13, 8 O
EyeLike 9 X
Flatten 13, 11, 9, 1 O
Floor 13, 6, 1 O
GRU 14, 7, 3, 1 X
Gather 13, 11, 1 O
GatherElements 13, 11 X
GatherND 13, 12, 11 O
Gemm 13, 11, 9, 7, 6, 1 O
GlobalAveragePool 1 O
GlobalLpPool 2, 1 X
GlobalMaxPool 1 X
Greater 13, 9, 7, 1 O
GridSample 16 X
HardSigmoid 6, 1 O
Hardmax 13, 11, 1 X
Identity 16, 14, 13, 1 O
If 16, 13, 11, 1 X
InstanceNormalization 6, 1 O
IsInf 10 X
IsNaN 13, 9 X
LRN 13, 1 O
LSTM 14, 7, 1 X
LeakyRelu 16, 6, 1 O
Less 13, 9, 7, 1 O
Log 13, 6, 1 O
Loop 16, 13, 11, 1 X
LpNormalization 1 X
LpPool 11, 2, 1 X
MatMul 13, 9, 1 O
MatMulInteger 10 X
Max 13, 12, 8, 6, 1 O
MaxPool 12, 11, 10, 8, 1 O
MaxRoiPool 1 X
MaxUnpool 11, 9 X
Mean 13, 8, 6, 1 X
MelWeightMatrix 17 X
Min 13, 12, 8, 6, 1 X
Mod 13, 10 X
Mul 14, 13, 7, 6, 1 O
Multinomial 7 X
Neg 13, 6, 1 X
NonMaxSuppression 11, 10 O
NonZero 13, 9 O
Not 1 O
OneHot 11, 9 X
Optional 15 X
OptionalGetElement 15 X
OptionalHasElement 15 X
Or 7, 1 X
PRelu 16, 9, 7, 6, 1 O
Pad 13, 11, 2, 1 O
Pow 15, 13, 12, 7, 1 O
QLinearConv 10 X
QLinearMatMul 10 X
QuantizeLinear 13, 10 X
RNN 14, 7, 1 X
RandomNormal 1 X
RandomNormalLike 1 X
RandomUniform 1 X
RandomUniformLike 1 X
Reciprocal 13, 6, 1 O
ReduceL1 13, 11, 1 X
ReduceL2 13, 11, 1 X
ReduceLogSum 13, 11, 1 X
ReduceLogSumExp 13, 11, 1 X
ReduceMax 13, 12, 11, 1 X
ReduceMean 13, 11, 1 O
ReduceMin 13, 12, 11, 1 O
ReduceProd 13, 11, 1 O
ReduceSum 13, 11, 1 O
ReduceSumSquare 13, 11, 1 X
Relu 14, 13, 6, 1 O
Reshape 14, 13, 5, 1 O
Resize 13, 11, 10 O
ReverseSequence 10 X
RoiAlign 16, 10 O
Round 11 O
STFT 17 X
Scan 16, 11, 9, 8 X
Scatter (deprecated) 11, 9 O
ScatterElements 16, 13, 11 O
ScatterND 16, 13, 11 X
Selu 6, 1 X
SequenceAt 11 X
SequenceConstruct 11 X
SequenceEmpty 11 X
SequenceErase 11 X
SequenceInsert 11 X
SequenceLength 11 X
Shape 15, 13, 1 O
Shrink 9 X
Sigmoid 13, 6, 1 O
Sign 13, 9 X
Sin 7 X
Sinh 9 X
Size 13, 1 X
Slice 13, 11, 10, 1 O
Softplus 1 X
Softsign 1 X
SpaceToDepth 13, 1 X
Split 13, 11, 2, 1 O
SplitToSequence 11 X
Sqrt 13, 6, 1 O
Squeeze 13, 11, 1 O
StringNormalizer 10 X
Sub 14, 13, 7, 6, 1 O
Sum 13, 8, 6, 1 X
Tan 7 X
Tanh 13, 6, 1 O
TfIdfVectorizer 9 X
ThresholdedRelu 10 X
Tile 13, 6, 1 O
TopK 11, 10, 1 O
Transpose 13, 1 O
Trilu 14 X
Unique 11 X
Unsqueeze 13, 11, 1 O
Upsample (deprecated) 10, 9, 7 O
Where 16, 9 O
Xor 7, 1 X
Bernoulli 15 X
BlackmanWindow 17 X
CastLike 15 X
Celu 12 X
DynamicQuantizeLinear 11 X
GreaterOrEqual 16, 12 X
HammingWindow 17 X
HannWindow 17 X
HardSwish 14 X
LayerNormalization 17 X
LessOrEqual 16, 12 X
LogSoftmax 13, 11, 1 X
MeanVarianceNormalization 13, 9 X
NegativeLogLikelihoodLoss 13, 12 X
Range 11 X
SequenceMap 17 X
Softmax 13, 11, 1 O
SoftmaxCrossEntropyLoss 13, 12 X

Updated 8 months ago