Perplexity使用NVLink Blackwells进行推理服务

Perplexity每日处理超过5000万查询，使用15个模型包括NVIDIA Nemotron 3 Ultra。该公司已开始在NVLink Blackwells上大量运行推理服务，并计划扩展到Vera Rubins。NVLink Blackwells允许模型在多个节点间扩展而不增加延迟。