01:57a16z@a16z72°Decagon CEO Jesse Zhang 表示,企业开源模型采用率当前在下滑,开源推理占比正在走低,但这并非拒绝开源,而是采用扩散前的信号。企业启动新用例时会先用前沿模型,待流程跑通后,再迁移到更便宜、更快的开源模型。他透露 Decagon 自身 90% 的业务已运行在开源模型上。他还提到,客户支持需求永远超过供给,降低使用成本会带来更多购买。行业DecagonAI开源模型企业采用推荐理由:CEO说开源推理占比下降是好事:新用例先用前沿模型,成熟后换开源省钱。Decagon九成业务跑开源。原文稍后读已读值得跟进有用关注 DecagonAI
00:47a16z@a16zDecagonAI CTO Ashwin Sreenivas在a16z访谈中表示,前沿大模型与廉价小模型之间的取舍是虚假的。他说,通过针对特定任务微调较'笨'的模型,这些模型在该任务上反而能超过大型前沿模型。目前DecagonAI约90%的推理负载运行在开源模型上,并以此服务银行、航空和电信客户。他举例称,年付费10万美元的客户享受白手套服务,而年付费10美元的客户只能看帮助中心,AI可缩小这种差距。行业DecagonAI开源模型微调推荐理由:DecagonAI的CTO说,别迷信顶级模型,微调开源小模型做具体任务,又便宜又快还更好用,值得一看。原文稍后读已读值得跟进有用关注 DecagonAI
23:57a16z@a16z精选DecagonAI联合创始人与a16z对谈,透露其客服智能体90%运行在开源模型上。他们主张智能与便宜不是取舍,新用例先用前沿模型,成熟后迁移到开源。DecagonAI在应用层做按用例微调,降低支持成本后企业会购买更多支持服务。他们希望用AI缩小年付10万美元与10美元客户之间的客服差距。技巧DecagonAIa16z智能体推荐理由:这期访谈挺实在,DecagonAI说90%客服智能体跑在开源模型上,新场景先用贵的再用便宜的,搞微调能省成本。适合做AI应用的人听。原文稍后读已读值得跟进有用关注 DecagonAI
11:07官方账号Together AI@togethercompute精选DecagonAI联合创始人在《纽约时报》指出,在Together AI平台上,将任务从闭源模型迁移到开源模型,成本仅为原来的五分之一到七分之一。这一数据展示了开源模型在实际应用中的经济优势。该观点被视为“充足智能”的实践案例。行业Together AIDecagonAI开源模型推荐理由:DecagonAI联合创始人在NYT说,把任务从闭源模型换到Together AI上的开源模型,成本只要原来的五分之一到七分之一,省太多了。原文稍后读已读值得跟进有用关注 Together AI
18:38官方账号Together AI@togethercomputeDecagonAI 通过与 Together AI 合作,将语音代理每轮对话成本降低近6倍,同时保持实时语音所需的低延迟。他们从闭源模型迁移到微调的开源模型,实现 p95 模型延迟低于400ms。采用自定义投机解码和提示缓存技术,并在 NVIDIA Blackwell 上优化服务部署。模型更新频率达到每周甚至每日,体现了从封闭 API 到开放模型的转变。行业DecagonAITogether AINVIDIA Blackwell6 个信源在谈事件专题推荐理由:DecagonAI 把语音成本砍到原来的1/6,延迟还压到400ms以下,实时语音项目可以参考他们迁移开源模型的做法。原文稍后读已读值得跟进有用关注 DecagonAI