ai-infra-interview-305

第 303 题:GPU虚拟化技术?vGPUMIGSR-IOV

题目

GPU虚拟化技术?vGPUMIGSR-IOV


完整讲解

一、GPU 虚拟化需求

云与多租户场景下,需把物理 GPU 拆分或隔离给多 VM/容器,实现分时或分片使用。常见技术:vGPU(厂商方案)、MIG(多实例 GPU)、SR-IOV(直通)等。

二、vGPU

vGPU(如 NVIDIA vGPU):在虚拟化层(Hypervisor)将一块物理 GPU 分成多块虚拟 GPU,每块直通给一台 VM;时间片调度或硬件分区由驱动与 License 管理。共享与隔离兼顾,但需厂商 License、与特定虚拟化栈(如 vSphere)配合。适合企业虚拟桌面与云主机。

三、MIG 与 SR-IOV

MIG(Multi-Instance GPU):A100/A30 等在硬件上把单卡拆成多个实例(如 7 个 1g.5gb),每实例有独立显存与算力,强隔离、无时间片切换开销。适合容器级细粒度共享、多小 job 同卡。SR-IOV:物理 GPU 暴露多个 VF,每 VF 直通给 VM,接近物理性能;需驱动与平台支持,VF 数有限。对比:vGPU 偏虚拟化与 License;MIG 偏容器与硬隔离;SR-IOV 偏 VM 直通性能。


面试要点


记忆要点

  1. vGPU = 虚拟化层拆分、需 License;MIG = 硬件多实例、容器级;SR-IOV = VF 直通。
  2. MIG 强隔离、无时间片;SR-IOV 接近物理性能。
  3. 按 VM/容器、隔离与性能选型。
返回模块 返回总览