#TensorRT

共 3 条 · 7 天 1 条 · 30 天 1 条

信息流里打上「TensorRT」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月6日

Atomic Chat 把 NVIDIA TensorRT 接进自家引擎，RTX 5090 上跑 Qwen 系列模型比 llama.cpp 快一倍多，本地部署党可以看看实测数据。

@atomic_chat_hq@atomic_chat_hq11 个信源在谈原文

8月19日

产品中美对照多源确认精选78°01:34

NVIDIA 发了个工具，两行命令把 Hugging Face 模型转 TensorRT，省去 ONNX 导出步骤。

官方账号NVIDIA AI@NVIDIAAI11 个信源在谈原文

5月30日

产品多源确认72°04:17

语音转录速度提升了一个数量级，做实时语音应用或大规模音频处理的团队可以直接用上，省下不少时间和算力成本。

官方账号Together AI@togethercompute6 个信源在谈原文