4.hardShrinkؔ 5.softShrinkؔ 6.Thresholdؔ 7.γάϞΠυؔ(sigmoid) 8.hardSigmoidؔ 9.logSigmoidؔ 10.tanhؔ 11.tanhShrinkؔ 12.hardtanhؔ 13.ReLUؔ 14.ReLU6ؔ 18.leaky-ReLUؔ 19.ELUؔ 20.SELUؔ 21.CELUؔ 22.ιϑτϚοΫεؔ(softmax) 23.softminؔ 24.logSoftmaxؔ 25.softplusؔ 26.softsignؔ 27.Swishؔ 28.hardSwishؔ 29.ACONؔ 30.Mishؔ 31.tanhExpؔ ˞࣌