ModelsMulti-sourceSelected78°

TypeSafe AI launches System One model Jev for software decision-making

ChatGPT 联合发明人创办的 TypeSafe AI 正式发布了一种全新类别的 AI 模型:"System One 模型",以及该类别下的第一个模型 Jev。和现有的大语言模型不同,Jev 完全放...

Why we picked it

For developers needing fast, reliable decision-making in code, Jev offers a significant speed and cost advantage over traditional LLMs like ChatGPT or Claude.

TypeSafe AI, founded by a co-creator of ChatGPT, has released the Jev model, the first in its new System One category. Unlike traditional LLMs, Jev is designed for internal software decisions, processing unstructured data to output structured results with calibrated probabilities. It is 20-200x faster and 40-400x cheaper than mainstream models, with response times of 70-500 milliseconds, according to TypeSafe's workflow evaluations. The model uses a new RLCD training method and a parallel architecture, which eliminates text generation but ensures zero type errors and no hallucinations.

Original · 宝玉

ChatGPT 联合发明人创办的 TypeSafe AI 正式发布了一种全新类别的 AI 模型:"System One 模型",以及该类别下的第一个模型 Jev。和现有的大语言模型不同,Jev 完全放...

ChatGPT 联合发明人创办的 TypeSafe AI 正式发布了一种全新类别的 AI 模型:"System One 模型",以及该类别下的第一个模型 Jev。和现有的大语言模型不同,Jev 完全放弃了文本生成能力,专门为软件内部的快速决策而设计:输入非结构化数据,输出带有校准概率的类型安全结构化结果。 简单说:Jev 不会写文章、不会聊天,但能以极低的成本和延迟,在代码里充当一个"智能判断函数":分类、打分、路由、提取,这些原本用规则引擎硬写但又写不好的事情,现在可以交给它。 创始人 Diogo Almeida 曾在 OpenAI 参与 InstructGPT 和 RLHF 的核心研发,是 ChatGPT 和 GPT-4 论文的共同作者。他在博客中描述:RLHF 让模型学会了取悦人类,却也让它们在自动化场景里不够可靠。于是他离开 OpenAI,潜行两年,用一套叫做 RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习)的新训练方法从头构建了 Jev。 几个关键数字值得注意: 响应速度 70 到 500 毫秒,比主流前沿大模型的 3 到 329 秒快了一到两个数量级。输入 Token 价格 0.042 美元/百万 Token(约 42 美元处理十亿 Token),输出 Token 免费。官方自称比同等智能水平的大模型快 20 到 200 倍,便宜 40 到 400 倍。 这些数字的来源是 TypeSafe 自研的"工作流评测"(Workflow Evals),用 GPT-6 Astra 和 Anthropic 的 Fable 5.1 的平均结果作为参考答案。他们也承认,这种评测方式本身偏向 OpenAI 和 Anthropic 的模型,Jev 的实际相对表现可能被低估,但极端加速倍数(如 193 倍、444 倍)属于最优情况,不代表所有场景。 速度为什么能这么快?因为架构上根本不同。大模型逐个生成 Token,前一个 Token 出来后才能算下一个。Jev 采用并行采样,所有输出一次算完。这和当年 Transformer 取代 RNN 是同一个思路:用并行取代串行。 代价也很明确:Jev 不能生成文本。它输出的是事先定义好结构的决策结果,每个回答都附带置信度分数。官方宣称类型错误率从数学上等于零(因为输出结构在架构层面就被约束了),幻觉问题也因此不存在。 对开发者来说,Jev 的定位不替代 ChatGPT 或 Claude 这类对话模型,主要是为了补上它们不擅长的那一环:当你需要在代码流程中嵌入一个 AI 判断节点,要求毫秒级响应、结构化输出、不能出格的时候,用大模型做这件事成本高、速度慢、还可能生成不可预期的内容。Jev 就是为这个场景设计的。TypeSafe 把这类任务叫做"智能 if 语句",也就是用 AI 做原本 if-else 写不好的模糊判断。 他们还做了两个有趣的演示:一个是用 Jev 实时操控经典游戏 DOOM 的 AI 机器人,每秒调用约 10 次,成本大约每小时 7 美元;另一个是 Wikipedia 竞速(从一个词条通过链接跳转到另一个指定词条),需要在成百上千个链接中做选择,Jev 在步数和速度上都领先于大模型的非推理模式。 "System One"这个名字来自 Daniel Kahneman 的《思考,快与慢》中的"系统一"——快速、直觉、自动化的思维方式。"Jev"则取自经济学中的杰文斯悖论(Jevons Paradox):当某种资源的使用效率大幅提高时,总需求反而会增长。TypeSafe 显然在押注:把 AI 决策的成本降到足够低,用量会爆发式增长。 从博客和文档里提到的信息来看,Jev 的应用场景集中在一个核心逻辑上:凡是你在代码里需要一个"聪明的判断",但又不需要它写一段话给人看的地方,都是它的地盘。 具体来说有几类: 第一类是流程中的智能分支。比如客服系统里判断一张工单应该转给哪个团队、紧急程度多高、用户情绪如何——这些原本要么靠关键词规则(太死板),要么靠大模型(太慢太贵)。Jev 可以在几十毫秒内给出带置信度的判断,而且输出格式固定,代码直接用。 第二类是大规模数据处理。比如对海量文档做分类、打标签、提取结构化字段。大模型做这件事单条成本还行,但量一上去就很贵,而且速度是瓶颈。Jev 42 美元处理十亿 Token,输出还免费,适合需要跑几百万甚至上亿条数据的场景。 第三类是实时应用。100 毫秒级别的响应意味着可以用在用户体感得到延迟的地方——实时推荐、动态定价、游戏 AI、交互式产品里的智能判断。博客里那个 DOOM 演示就是这个意思:每秒调用 10 次,大模型根本做不到。 第四类比较有意思——给大模型当"质检员"。用 Jev 来检查大模型的输出是否安全、是否符合格式、有没有越狱,做 guardrail(安全护栏)。因为 Jev 本身不会幻觉、响应极快,很适合在大模型输出之后加一层校验。 总结一下就是:Jev 不是给终端用户用的产品,是给开发者在系统架构里嵌入的组件。它解决的问题是"我需要 AI 的判断力,但不需要它的表达力"。 Jev 目前以早期访问形式开放,开发者可以在 typesafe.ai 加入候补名单。 Diogo Almeida @CompleteSkeptic After co-inventing ChatGPT, I kept asking myself: why have superhuman chat models not led to AGI? I’ve spent the last 2 years in stealth building a new way to train models (RLCD), and a new type of frontier AI model that we are releasing today: Jev • 20-200x faster • 40-400x cheaper (w/ output tokens free) • Frontier composable intelligence optimized for decisions AFAICT the shortest path to AI-based economic revolution Your browser does not support the video tag. 🔗 View on Twitter 🔗 View Quoted Tweet 💬 1 🔄 1 ❤️ 9 👀 3518 📊 3 ⚡