Edge deployment的挑战？模型加密、设备兼容性？
算力与功耗：边缘设备 CPU/NPU 有限，大模型需裁剪、量化或小模型。延迟与离线：网络不稳定或离线时需本地推理，模型与数据需预置。安全与合规：模型与数据在端侧，需防逆向、防篡改、满足隐私合规。设备碎片化：ARM/x86、不同 NPU、不同 OS 与驱动，兼容性与测试成本高。
模型加密：分发时模型文件加密存储，运行时在安全环境（TEE、安全区）内解密加载，防止被直接拷贝或逆向。权重混淆/水印：在不严重影响精度下做混淆或嵌入水印，便于溯源与防滥用。访问控制：端侧 API 鉴权、调用频率与权限控制，防止未授权使用。
格式与运行时：ONNX、TFLite、OpenVINO 等跨平台格式；针对 ARM、NPU 的优化与算子支持。分层策略：强设备用较大模型、弱设备用蒸馏小模型或更强量化；同一服务根据设备能力返回不同模型或配置。CI 与真机：多设备、多 OS 的自动化构建与真机测试，覆盖主流机型与版本。
| 返回模块 | 返回总览 |