怎样将卷积算子移植到 OP-TEE 内部:详解浮点运算在可信环境下的缺失与替代方案
如何在 OP-TEE 内部实现卷积算子:解决浮点运算缺失的定点化替代方案 在安全领域,将深度学习模型部署到 OP-TEE (Open Portable Trusted Execution Environment) 是保护隐私数据的常见需求。...
如何在 OP-TEE 内部实现卷积算子:解决浮点运算缺失的定点化替代方案 在安全领域,将深度学习模型部署到 OP-TEE (Open Portable Trusted Execution Environment) 是保护隐私数据的常见需求。...
在移动端进行 AI 推理时,我们通常依赖 TFLite, MNN 或 NCNN 等成熟框架。然而,当模型引入了高度定制化的层(如新型激活函数、特定的数据重排或融合操作)时,这些框架可能缺乏相应的优化实现,甚至根本不支持。这导致模型必须回退到...