Chinese contentSageMaker Inference 支持 NVIDIA MIG，可将单张 GPU 分区部署多个模型
AWS 给 SageMaker 加了 GPU 分区功能，一张卡能跑多个模型，小模型部署终于不用浪费整张卡了。
#NVIDIA MIG
1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "NVIDIA MIG", newest first.
Nov 7
AWS 给 SageMaker 加了 GPU 分区功能，一张卡能跑多个模型，小模型部署终于不用浪费整张卡了。