01:34
官方账号NVIDIA AI@NVIDIAAI
官方账号NVIDIA AI@NVIDIAAI精选78°
推荐理由：NVIDIA 发了个工具，两行命令把 Hugging Face 模型转 TensorRT，省去 ONNX 导出步骤。
TensorRT
共 2 条相关 AI 资讯
8月19日
01:34
NVIDIA 发布了 TensorRT Model Connect 公测版。用户只需两个命令即可将 Hugging Face 模型转换为 TensorRT 推理格式。该工具无需中间 ONNX 导出，生成的包支持原生 C++ API。整个项目由 OpenAI Codex agents 构建，人类负责指导和审查工作。
5月30日
04:17
04:17
官方账号Together AI@togethercompute
官方账号Together AI@togethercompute72°
推荐理由：语音转录速度提升了一个数量级，做实时语音应用或大规模音频处理的团队可以直接用上，省下不少时间和算力成本。