第 254 题:推理服务的security?模型加密、API认证?
题目
推理服务的security?模型加密、API认证?
完整讲解
一、推理服务安全需求
安全:模型与数据 不被窃取与篡改;API 仅授权可访问;审计 与 合规。涉及 模型加密、传输与存储安全、API 认证与鉴权。
二、模型加密
静态:模型文件 在 存储与分发 时 加密(如 AES);推理节点 用 密钥(从 KMS 或安全模块获取)解密 后加载;密钥 不落盘、按需注入。运行时:机密计算(如 TEE、SGX)可在 加密内存 中跑推理,模型与输入 对宿主机不可见;成本与兼容性需权衡。目的:防 模型泄露、盗用;满足 合规(如模型含敏感信息)。
三、API 认证
认证:API key、OAuth2、JWT 等;请求带 token,网关或服务 校验后放行。鉴权:RBAC— 谁可访问哪类模型、哪类接口(如只读、只推理);多租户 下按 tenant_id 隔离。传输:TLS 全链路;内网 可 mTLS。审计:访问日志(谁、何时、何接口、何模型);敏感操作 留痕;满足 合规与溯源。
面试要点
- 安全:模型加密、API 认证与鉴权、传输与审计。
- 模型加密:静态加密+ KMS 解密;可选 TEE 机密计算。
- API:API key/OAuth/JWT;RBAC;TLS;审计日志。
记忆要点
- 模型加密:存储/分发加密、KMS 解密;可选 TEE。
- API 认证:key/OAuth/JWT;RBAC、TLS。
- 审计与合规。