Scratch

general · First seen 2026-05-22 · Last seen 2026-10-27 · 86 mentions

Overview

Scratch(从零开始)是当前 AI 学习圈的一个热门路线,指不依赖现成框架和黑盒封装,通过亲手实现核心算法来理解大模型与智能体技术。从 LLM 推理模型到编码智能体,一系列「From Scratch」教程和课程在近几个月密集出现,形成了一条清晰的自学脉络。

From Scratch 教程近期进展

  • Sebastian Raschka 的 Reasoning From Scratch 系列视频全部上线,这是目前该方向最受关注的项目。此前已发布的第 6 期教程讲解从零实现 RLVR 与 GRPO 训练推理模型,第 2 讲则演示用 GRPO 手把手从零训练推理模型。
  • 该系列后期课程开始触及更实际的取舍:第 8 讲用蒸馏替代强化学习训练推理模型,说明并非所有场景都需要完整的 RL 流程;第 5 讲则介绍对数概率打分与自我改进。
  • 智能体方向同样有代表性的 Scratch 实践。Claude Code From Scratch 用 4300 行代码复现了 Claude Code 的核心架构,而 LangChain 也宣布将举办 Deep Agents from Scratch 工作坊,把从零构建智能体作为官方教学内容。
  • 系统化课程方面,开源课程 AI Engineering from Scratch 划分为 20 个阶段、以手写算法的方式学习 AI 工程, Stanford 的 CS336 课程第 10 讲也从数学主线讲透 LLM 推理优化。
  • 当前焦点与观察点

    Scratch 热潮的兴起,本质上是对「只会调 API」这一焦虑的回应。当大模型应用层竞争加剧,开发者普遍担心自己被框架和提示词工程隔在底层原理之外,于是从零实现推理模型、智能体成为建立技术确定性的方式。

    目前的争议点主要在于学习性价比:支持者认为亲手实现 GRPO、RLVR 这类训练算法是不可替代的理解途径;质疑者则认为大模型迭代太快,从零实现的代码很快过时,不如聚焦在真实产品问题上。可以持续观察的是两个信号:一是 Raschka 系列完结后的社区反馈能否沉淀为标准教材,二是各大平台(如 LangChain)把 Scratch 内容纳入官方培训后,它是否会从极客爱好转变为行业公认的进阶路径。

    Coverage

    10 on file