模型多源确认精选78°

ChatGPT 联合发明人创办公司发布全新 AI 模型 Jev,专为软件内部快速决策设计

ChatGPT 联合发明人创办的 TypeSafe AI 正式发布了一种全新类别的 AI 模型:"System One 模型",以及该类别下的第一个模型 Jev。和现有的大语言模型不同,Jev 完全放...

精选理由

朋友,ChatGPT 的联合发明人搞了个新东西,叫 Jev,专门在代码里当个“智能判断函数”,分类、打分、路由这些事,比大模型快又便宜,适合用在需要毫秒级响应的地方。

TypeSafe AI 发布了 Jev,一种完全放弃文本生成能力的模型,专门用于软件内部快速决策。Jev 输入非结构化数据,输出带有校准概率的类型安全结构化结果。响应速度达 70 到 500 毫秒,比主流大模型快 20 到 200 倍。创始人 Diogo Almeida 曾在 OpenAI 参与 InstructGPT 和 RLHF 研发,离开后用 RLCD 方法构建了 Jev。Jev 的定位是解决大模型在代码流程中嵌入智能判断节点时成本高、速度慢、可能生成不可预期内容的问题。

原文 · 宝玉

ChatGPT 联合发明人创办的 TypeSafe AI 正式发布了一种全新类别的 AI 模型:"System One 模型",以及该类别下的第一个模型 Jev。和现有的大语言模型不同,Jev 完全放...

ChatGPT 联合发明人创办的 TypeSafe AI 正式发布了一种全新类别的 AI 模型:"System One 模型",以及该类别下的第一个模型 Jev。和现有的大语言模型不同,Jev 完全放弃了文本生成能力,专门为软件内部的快速决策而设计:输入非结构化数据,输出带有校准概率的类型安全结构化结果。 简单说:Jev 不会写文章、不会聊天,但能以极低的成本和延迟,在代码里充当一个"智能判断函数":分类、打分、路由、提取,这些原本用规则引擎硬写但又写不好的事情,现在可以交给它。 创始人 Diogo Almeida 曾在 OpenAI 参与 InstructGPT 和 RLHF 的核心研发,是 ChatGPT 和 GPT-4 论文的共同作者。他在博客中描述:RLHF 让模型学会了取悦人类,却也让它们在自动化场景里不够可靠。于是他离开 OpenAI,潜行两年,用一套叫做 RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习)的新训练方法从头构建了 Jev。 几个关键数字值得注意: 响应速度 70 到 500 毫秒,比主流前沿大模型的 3 到 329 秒快了一到两个数量级。输入 Token 价格 0.042 美元/百万 Token(约 42 美元处理十亿 Token),输出 Token 免费。官方自称比同等智能水平的大模型快 20 到 200 倍,便宜 40 到 400 倍。 这些数字的来源是 TypeSafe 自研的"工作流评测"(Workflow Evals),用 GPT-6 Astra 和 Anthropic 的 Fable 5.1 的平均结果作为参考答案。他们也承认,这种评测方式本身偏向 OpenAI 和 Anthropic 的模型,Jev 的实际相对表现可能被低估,但极端加速倍数(如 193 倍、444 倍)属于最优情况,不代表所有场景。 速度为什么能这么快?因为架构上根本不同。大模型逐个生成 Token,前一个 Token 出来后才能算下一个。Jev 采用并行采样,所有输出一次算完。这和当年 Transformer 取代 RNN 是同一个思路:用并行取代串行。 代价也很明确:Jev 不能生成文本。它输出的是事先定义好结构的决策结果,每个回答都附带置信度分数。官方宣称类型错误率从数学上等于零(因为输出结构在架构层面就被约束了),幻觉问题也因此不存在。 对开发者来说,Jev 的定位不替代 ChatGPT 或 Claude 这类对话模型,主要是为了补上它们不擅长的那一环:当你需要在代码流程中嵌入一个 AI 判断节点,要求毫秒级响应、结构化输出、不能出格的时候,用大模型做这件事成本高、速度慢、还可能生成不可预期的内容。Jev 就是为这个场景设计的。TypeSafe 把这类任务叫做"智能 if 语句",也就是用 AI 做原本 if-else 写不好的模糊判断。 他们还做了两个有趣的演示:一个是用 Jev 实时操控经典游戏 DOOM 的 AI 机器人,每秒调用约 10 次,成本大约每小时 7 美元;另一个是 Wikipedia 竞速(从一个词条通过链接跳转到另一个指定词条),需要在成百上千个链接中做选择,Jev 在步数和速度上都领先于大模型的非推理模式。 "System One"这个名字来自 Daniel Kahneman 的《思考,快与慢》中的"系统一"——快速、直觉、自动化的思维方式。"Jev"则取自经济学中的杰文斯悖论(Jevons Paradox):当某种资源的使用效率大幅提高时,总需求反而会增长。TypeSafe 显然在押注:把 AI 决策的成本降到足够低,用量会爆发式增长。 从博客和文档里提到的信息来看,Jev 的应用场景集中在一个核心逻辑上:凡是你在代码里需要一个"聪明的判断",但又不需要它写一段话给人看的地方,都是它的地盘。 具体来说有几类: 第一类是流程中的智能分支。比如客服系统里判断一张工单应该转给哪个团队、紧急程度多高、用户情绪如何——这些原本要么靠关键词规则(太死板),要么靠大模型(太慢太贵)。Jev 可以在几十毫秒内给出带置信度的判断,而且输出格式固定,代码直接用。 第二类是大规模数据处理。比如对海量文档做分类、打标签、提取结构化字段。大模型做这件事单条成本还行,但量一上去就很贵,而且速度是瓶颈。Jev 42 美元处理十亿 Token,输出还免费,适合需要跑几百万甚至上亿条数据的场景。 第三类是实时应用。100 毫秒级别的响应意味着可以用在用户体感得到延迟的地方——实时推荐、动态定价、游戏 AI、交互式产品里的智能判断。博客里那个 DOOM 演示就是这个意思:每秒调用 10 次,大模型根本做不到。 第四类比较有意思——给大模型当"质检员"。用 Jev 来检查大模型的输出是否安全、是否符合格式、有没有越狱,做 guardrail(安全护栏)。因为 Jev 本身不会幻觉、响应极快,很适合在大模型输出之后加一层校验。 总结一下就是:Jev 不是给终端用户用的产品,是给开发者在系统架构里嵌入的组件。它解决的问题是"我需要 AI 的判断力,但不需要它的表达力"。 Jev 目前以早期访问形式开放,开发者可以在 typesafe.ai 加入候补名单。 Diogo Almeida @CompleteSkeptic After co-inventing ChatGPT, I kept asking myself: why have superhuman chat models not led to AGI? I’ve spent the last 2 years in stealth building a new way to train models (RLCD), and a new type of frontier AI model that we are releasing today: Jev • 20-200x faster • 40-400x cheaper (w/ output tokens free) • Frontier composable intelligence optimized for decisions AFAICT the shortest path to AI-based economic revolution Your browser does not support the video tag. 🔗 View on Twitter 🔗 View Quoted Tweet 💬 1 🔄 1 ❤️ 9 👀 3518 📊 3 ⚡