AITOP

跨区域推理

共 1 条相关 AI 资讯
8月21日
06:02
06:02官方一手AWS Machine Learning Blog@Melanie Li
Amazon Bedrock 现在在超过 25 个 AWS 区域提供 OpenAI GPT-5.6 模型（Sol、Terra 和 Luna）的跨区域推理功能。该功能通过 US 地理和全球推理配置文件来路由请求，以实现更高的吞吐量。用户可以通过 OpenAI 和 Converse API 调用这些模型。文档还介绍了如何配置 IAM、配额和监控。
AI产品OpenAIGPT-5.6Amazon Bedrock
事件专题
推荐理由：AWS 在 Bedrock 上为 OpenAI GPT-5.6 模型增加了跨区域推理，能提升全球请求的吞吐量，适合需要低延迟和高可用性的开发者。
原文