Amazon工程师蒸馏Anthropic模型以应对即将到来的token定价

Amazon engineers are reportedly distilling Anthropic models to cut costs before new token-based pricing kicks in

精选理由

亚马逊工程师把Anthropic模型蒸馏成小版本来省钱,因为明年起要按token付费了,这招挺实用。

AI 摘要

Amazon工程师正在蒸馏Anthropic模型为更小、更便宜的版本供内部使用。从2025年起,Amazon将按处理的token数而非计算小时数向Anthropic付费,这可能大幅推高成本。为应对涨价,Amazon也在评估OpenAI等其他模型供应商。

AI 翻译 · 中文

Amazon工程师正在蒸馏Anthropic模型为更小、更便宜的版本供内部使用。从2025年起,Amazon将按处理的token数而非计算小时数向Anthropic付费,这可能大幅推高成本。为应对涨价,Amazon也在评估OpenAI等其他模型供应商。

DecoderAmazon engineers are already distilling Anthropic models into smaller, cheaper versions for internal use. Starting next year, Amazon will pay by tokens processed rather than compute hours, which could push costs up sharp