如何通过自定义 Op实现 解决推理库不支持的 Swish 等激活函数:从 C++ 接口到算子注册
背景 在深度学习模型部署过程中,我们经常会遇到由于推理框架(如 MNN、NCNN、TNN)更新较慢,导致某些新出的激活函数(如 Swish、HardSwish)或者自定义算子不被支持的情况。这时,开发者通常面临两个选择:一是修改模型结构,用...
背景 在深度学习模型部署过程中,我们经常会遇到由于推理框架(如 MNN、NCNN、TNN)更新较慢,导致某些新出的激活函数(如 Swish、HardSwish)或者自定义算子不被支持的情况。这时,开发者通常面临两个选择:一是修改模型结构,用...