精选理由
高通CEO点明了智能体AI时代Token消耗的指数级增长逻辑,做AI应用、云服务或关注AI商业化的团队,值得思考这对成本模型和产品设计意味着什么。
高通CEO Cristiano Amon 在最新视频中表示,智能体AI(Agentic AI)将消耗“海量”Token,远超当前聊天机器人。因为智能体不仅生成语言,还要自主决策、调用工具、检查输出、修订计划并与其他软件协调。每个任务都可能变成一系列隐藏的微决策,每个微决策都消耗上下文、记忆、工具调用和验证Token。Amon 指出,软件使用方式将从按点击或席位衡量,转向按每个用户消耗的机器推理/Token量来衡量。这预示着AI需求将大幅增长,并带来经济层面的深刻变革。
AI 翻译 · 中文
高通CEO Cristiano Amon 在最新视频中表示,智能体AI(Agentic AI)将消耗“海量”Token,远超当前聊天机器人。因为智能体不仅生成语言,还要自主决策、调用工具、检查输出、修订计划并与其他软件协调。每个任务都可能变成一系列隐藏的微决策,每个微决策都消耗上下文、记忆、工具调用和验证Token。Amon 指出,软件使用方式将从按点击或席位衡量,转向按每个用户消耗的机器推理/Token量来衡量。这预示着AI需求将大幅增长,并带来经济层面的深刻变革。
New video of Qualcomm CEO Cristiano Amon: AI will require “gazillions” of tokens. Because, Agentic AI will consume dramatically more tokens because it performs autonomous tasks, uses multiple systems, and interacts with …