标签：TensorRT

随着AI推理场景的普及，云桌面调用本机GPU（即将物理GPU资源直通或透传给云桌面实例）成为常见需求，广泛用于模型实时推理、图像处理和视频分析等场景。 在架构层面，有两种常见方案：一是物理服务器通过PCIe直通（VFIO/PCI passthrough）将GPU独占给云桌面虚拟机；二是使用vGPU或容器化的NVIDIA Docker来共享GPU