Baseten用Custom Agents打造AE数字分身,回答时间从30分钟缩至20秒

So @baseten runs a billion AI inference calls a day. And still hit a very human bottleneck: their fi...

精选理由

Baseten用Custom Agents给那位AE造了个数字分身,原来要等半小时的问题现在20秒就搞定,牛啊。

AI 摘要

Baseten每天处理10亿次AI推理调用,但其首位客户工程师(AE)成了知识瓶颈,回答同事提问占用了全部时间。他们使用Custom Agents构建了该AE的数字双胞胎,将原本需要30分钟的问题缩短至20秒,实现全天候自动回答。整个公司都能即时获取答案,而AE得以回归只有他能完成的交易工作。

图片来源 · Notion
AI 翻译 · 中文

Baseten每天处理10亿次AI推理调用,但其首位客户工程师(AE)成了知识瓶颈,回答同事提问占用了全部时间。他们使用Custom Agents构建了该AE的数字双胞胎,将原本需要30分钟的问题缩短至20秒,实现全天候自动回答。整个公司都能即时获取答案,而AE得以回归只有他能完成的交易工作。

NotionSo @baseten runs a billion AI inference calls a day. And still hit a very human bottleneck: their first AE became the person with all the answers. Then answering became the job. So they built his digital double with Cust
Baseten用Custom Agents打造AE数字分身,回答时间从30分钟缩至20秒 · AI 热点