Almeida's Jev model launched, no text generation, output free

ChatGPT 背后功臣：Almeida 推出 AI 模型 Jev，不生成文本、输出免费

IT之家 9 月 17 日消息，TypeSafe AI 昨日（9 月 16 日）发布公告，宣布推出 Jev，该 AI 模型定位为“System One Model”（系统一模型）， 不生成文本，直接返回结构化决策，其成本和延迟远低于大型语言模型。 IT之家查询公开资料，TypeSafe AI 由 Diogo Almeida 成立，他曾在 OpenAI 工作，是 RLHF 研究的幕后功臣之一，而该研究催生了 ChatGPT。该公司成立于 2 年前，本周宣布结束隐身状态，宣布完成由 DCVC 领投的 4,000 万美元 （IT之家注：现汇率约合 2.69 亿元人民币） 种子轮融资。 该公司将 Jev 定义为“System One Model”（系统一模型），对应快速、低延迟的重复决策场景。该定义借用心理学中的“系统 1”概念，指快速、直觉式判断。该类模型面向固定选项、连续评分或是非概率等重复决策任务，不以生成自然语言文本、代码或多轮对话为主要输出形式。 Jev 不生成自然语言字符串或代码。其输出包括 3 类固定原语： Choice （选择），Jev 提供的结构化输出原语之一。模型从预先定义的选项集合中选择 1 项，最多支持 255 个选项，并返回各选项的概率分布或对应置信度。 Score （评分）：模型根据输入内容，在指定数值范围内给出评分，并附带置信度信息。文中以 0 至 1 范围内的客户流失风险评分作为示例，其适用场景包括风险分级、记录排序和批量数据标注。 Noul （布尔概率），模型针对预设问题返回校准的是或否概率及置信度，可用于对其他模型的结果执行二次验证、识别低置信度结论，以及在自动化工作流中设置条件分支。 在底层训练方式上，官方称 3 采用“校准决策强化学习”（RLCD），目标是优化模型置信度与实际正确率的对应关系，例如模型在多个预测中给出 70% 置信度时，理论上约 70% 的相关预测应当正确，可用于风险评分、审核分流与模型输出验证。 该公司声称，在同类结构化任务上，Jev 比前沿大语言模型快 20 至 200 倍，成本低至 40 至 400 分之一。 输入词元（Token）定价为每百万个 0.042 美元 （现汇率约合 0.28 元人民币） ，而由于根本不存在自回归生成过程，输出词元实际上免费。 TypeSafe 公布的基准测试数据显示，速度最高提升 193.6 倍，成本最高降低 444.6 倍，但同时承认这些数字代表实际性能的上限。 为展示实时决策能力，该公司发布了一段 Jev 玩《毁灭战士》的视频，其调用频率约为每秒 10 次，每小时游戏费用约为 7 美元 （现汇率约合 47.1 元人民币） 。在一项维基百科链接导航基准测试中，Jev 完成任务的速度超越了多个以高速非推理模式运行的前沿模型。