Modeling

general · First seen 2026-05-22 · Last seen 2026-10-28 · 235 mentions

Overview

Modeling(建模)在 AI 领域指用数学结构或神经网络对数据、语言、世界状态进行表示与预测的过程,是连接原始数据与可用人居智能的核心环节。近期该方向呈现出多维度的活跃态势:既有对传统压缩与推理效率建模的改进,也出现了以「概念」取代「词元」的新型生成建模范式,以及面向数据工程和 3D 内容的智能体化建模工具。

建模方法的近期进展

  • Stanford AI Lab 团队提出 Next-Concept Modeling,将生成建模的基本单元从 token 提升到概念层级,生成速度最高快 31 倍,被视为对自回归范式的直接挑战(Stanford 团队提出 Next-Concept Modeling,生成速度最高快 31 倍)。
  • 在效率侧,LEMS 与 KFAC-SVD 两种方法改进了基于 SVD 的模型压缩路径,用以降低大语言模型的计算与部署成本(LEMS 与 KFAC-SVD 改进 SVD 压缩方法降低 LLM 计算成本)。
  • Google DeepMind 发布 TANGO,提出 Token-Aggregated 非线性门控算子,统一自然语言与形式语言的建模方式(TANGO: Token-Aggregated Nonlinear Gating Operators for Natural and Formal Language Modeling)。
  • 另有研究将回顾性世界建模引入视觉语言智能体,用以增强其推理与规划能力(回顾性世界建模提升VLM智能体推理能力)。
  • 建模工具的工程化落地

  • Databricks 开源了 Vibe Data Modeling 智能体,内置 250 条数据建模规则,尝试把数据仓库设计经验封装为可复用的智能体能力(Databricks 开源 Vibe Data Modeling 智能体,内置 250 条建模规则)。
  • Hyper3D 推出 Agentic Mode,让 AI 自主完成从构思到成品 3D 建模的完整工作流,减少人工干预(Hyper3D 推出 Agentic Mode,AI 自主完成 3D 建模工作流)。
  • 在教学侧,斯坦福 CS336 第 10 讲从数学主线系统讲解 LLM 推理优化的建模基础,反映该方向已成为课程体系中的重点(斯坦福 CS336 第 10 讲:从数学主线讲透 LLM 推理优化)。
  • 当前焦点与观察点

    当前建模研究的争议点集中在「基本单元的选择」上:以概念而非词元作为建模单位的路线能否在质量与速度之间取得稳定平衡,仍待更大规模的验证。同时,建模正在从静态结构设计走向智能体驱动——无论是数据建模规则库还是 3D 建模自主工作流,都表明工程社区希望用 AI 封装建模专家经验。值得关注的是 LimiX-2 等针对结构化数据的新架构(LimiX-2 模型发布,采用新架构提升结构化数据智能),以及探索性建模被提出作为继自回归之外的「第三预训练轴」的可能性(探索性建模:解锁第三预训练轴与端到端生成)。

    Coverage

    10 on file