亚马逊 SageMaker 新增 GPU 分区功能
← 返回今日版面来源
1 条亚马逊在其 SageMaker 推理中引入了 GPU 分区功能，使用 NVIDIA 多实例 GPU (MIG) 将一个物理 GPU 分割成多个分区。每个分区获得固定的计算资源和一个独立的内存块，并且这种隔离在硬件层面得到保障。
亚马逊在其 SageMaker 推理中引入了 GPU 分区功能，使用 NVIDIA 多实例 GPU (MIG) 将一个物理 GPU 分割成多个分区。每个分区获得固定的计算资源和一个独立的内存块，并且这种隔离在硬件层面得到保障。