Transformers 相关 AI 资讯 · AI 热点

7月14日

06:00

06:00

官方账号Clement Delangue@ClementDelangue

77°

Hugging Face 宣布 Transformers 模型现在可以直接在 vLLM 推理引擎中运行，达到原生速度，部分场景超越手写实现。此前，新模型架构需要在 Transformers（训练/研究）和 vLLM（生产推理）中分别实现，导致重复工作与维护成本。现在，模型作者只需在 Transformers 中实现一次，即可自动兼容 vLLM 的优化栈。在 4B 到 235B 参数模型的基准测试中，包括张量并行和 MoE 设置，Transformers 后端吞吐量匹配或超过原生 vLLM。

AI模型 Hugging Face Transformers vLLM

推荐理由：Hugging Face 把 Transformers 模型直接跑进 vLLM，性能不输手写，以后搞推理不用重复造轮子了。

7月9日

19:20

19:20

官方账号vLLM@vllm_project

精选76°

vLLM与Hugging Face团队在v0.25.0中实现了Transformers建模后端与手写vLLM模型的对等性能。现在450多种Transformers架构可以直接在vLLM中以原生速度运行，完全无需移植代码。用户只需集成一次Transformers即可自动获得vLLM的融合内核、torch.compile和CUDA图优化。这一更新大幅降低了在vLLM上使用新模型的工程成本。

AI产品 vLLM Hugging Face Transformers

推荐理由：vLLM和Hugging Face搞了个大活：Transformers v0.25.0直接兼容vLLM，450多个模型自动加速，不用自己写适配代码了，开箱即用！

5月20日

21:51

21:51

berryxia@berryxia

精选

PaddleOCR 3.5 正式发布，支持 Transformers 作为推理后端，PP-OCRv5 和 PaddleOCR-VL 1.5 模型可直接在 Hugging Face 生态中运行。此前将 PaddleOCR 集成到 RAG 或 Document AI 项目需要额外搭建服务栈，现在流程大幅简化。Hugging Face 团队参与了合作，使得 OCR 工具与主流 Transformer 生态无缝对接。输出结果更精准可靠，无需依赖 LLM 来补充。

AI产品 PaddleOCR Hugging Face OCR

推荐理由：做文档智能或 RAG 的团队终于不用在 OCR 和 Transformer 之间搭桥了，PaddleOCR 3.5 直接跑在 Hugging Face 上，省掉一堆服务栈，建议做 Document AI 的开发者点开试试。

5月19日

00:30

00:30官方一手Hugging Face: Blog（博客/媒体）

精选

PaddleOCR 3.5 版本正式发布，新增对 Transformers 后端的支持，允许用户使用 Hugging Face 生态中的预训练模型进行 OCR 和文档解析任务。这一更新打破了原有框架对 PaddlePaddle 模型的依赖，提升了模型选择的灵活性和生态兼容性。新版本还优化了文档解析性能，支持更多语言和复杂版面分析。对于需要集成 OCR 能力的开发者来说，这是一个重要的升级，可以直接利用社区丰富的 Transformers 模型资源。

AI产品 OCR 文档解析 PaddleOCR

推荐理由：PaddleOCR 拥抱 Transformers 生态，做文档解析和 OCR 的团队可以更灵活地选模型，不用被框架绑死，值得升级试试。