training

general · First seen 2026-05-22 · Last seen 2026-10-24 · 840 mentions

Overview

AI 训练(training)指通过大规模数据与算力让模型学习能力的全过程,涵盖预训练、后训练(RLHF、微调)及智能体强化学习等阶段,是当前大模型竞争的核心环节。近期动态显示,训练正朝两个方向分化:一端是前沿实验室在更大规模上探索模型能力边界,另一端是云厂商把训练门槛持续降低,让普通团队也能在数小时内跑通实验。

训练近期进展

  • 模型能力随规模上升的安全信号:Kimi K3.1 团队发现模型网络攻防能力随训练规模持续上升。这项观察意味着训练规模扩大不仅是性能提升,也带来攻防两端能力的同步增强,安全评测需与训练进程同步跟进。
  • 高性价比基准表现:Kimi K3.1 Pro 在 Terminal-Bench 4.0 上逼近 Opus 5.5,成本仅一半。在智能体编程基准上以半价接近顶级闭源模型,显示出训练效率优化对成本曲线的直接影响。
  • 训练基础设施分层化:AWS SageMaker AI 推出训练会话,免管理 GPU 自定义模型微调,并配套 training session API,用 Python 脚本自定义 LLM 训练循环。开发者可以写自己的训练循环而不必操心 GPU 调度,训练抽象层正在向"函数化"演进。
  • 后训练成为独立产品:Together 推出 post-training 服务,覆盖自定义训练全流程。Deel 数据科学团队用该平台在数小时内跑通 RL 实验,说明后训练即服务的迭代速度已进入小时级。
  • 面向智能体的端到端栈:NVIDIA 发布面向智能体工作负载的端到端硬件栈,CoreWeave 则通过 Sandboxes 方案安全扩展 AI 智能体。此外,vLLM-Omni 支撑的 Motubrain 2.0 公开直播了两周训练过程,训练透明化开始成为一种发布方式。
  • 当前焦点与观察点

    综合来看,training 领域的焦点集中在三处:其一,强化学习(RL)后训练成为厂商竞争高地,Together、AI21 Labs(曾在 NVIDIA GTC Berlin 分享后训练客户案例)都把后训练流水线产品化;其二,"免管 GPU"的托管训练接口正在把自定义训练从基础设施问题变成 API 调用问题,中小团队获益最明显;其三,训练规模与模型攻防能力的关联引发安全讨论,能力提升与风险控制的同步性值得持续关注。对从业者而言,接下来值得跟踪的是托管训练 API 的定价与性能上限,以及开源训练框架(如 vLLM 生态)与云托管方案之间的边界如何演变。

    Coverage

    10 on file