论文

陶哲轩:LLM 最难的不是数学,而是预测其能力边界

Terence Tao 说,LLM 最难的不是数学。 训练主要用线性代数和一点微积分。但为什么它有些任务做得惊人,有些却频频失败?我们还预测不了。 模型怎么造,我们知道。它会什么,我们仍在摸索。

精选理由

陶哲轩(数学家)说LLM训练主要用线性代数和微积分,但模型在部分任务上表现惊人,在另一些任务上却失败,目前无法预测其能力。

陶哲轩指出,LLM训练主要依赖线性代数和微积分,但模型在部分任务上的表现惊人,在另一些任务上却频繁失败。目前我们无法预测模型的具体能力,只知道如何构建模型,但不知道它能做什么。

图片来源 · AI Will
原文 · AI Will

Terence Tao 说,LLM 最难的不是数学。 训练主要用线性代数和一点微积分。但为什么它有些任务做得惊人,有些却频频失败?我们还预测不了。 模型怎么造,我们知道。它会什么,我们仍在摸索。

Terence Tao 说,LLM 最难的不是数学。 训练主要用线性代数和一点微积分。但为什么它有些任务做得惊人,有些却频频失败?我们还预测不了。 模型怎么造,我们知道。它会什么,我们仍在摸索。 Your browser does not support the video tag. 🔗 View on Twitter 💬 2 🔄 0 ❤️ 0 👀 487 📊 2 ⚡

  • VnExpress International: Tech09-14 07:38原文