精选理由
听听OpenAI首席研究官Mark Chen聊预训练为啥没过时、评估危机怎么破,还有未来的研究路线图,很实在的讨论。
OpenAI首席研究官Mark Chen在播客中明确表示预训练并未过时,扩展律仍然有效。他讨论了基准测试过度优化导致的评估危机,以及OpenAI如何通过新的工程和研究洞察突破边界。他还提到模型需要处理长期现实世界任务、多模态推理,最终实现端到端AI研究。
AI 翻译 · 中文
OpenAI首席研究官Mark Chen在播客中明确表示预训练并未过时,扩展律仍然有效。他讨论了基准测试过度优化导致的评估危机,以及OpenAI如何通过新的工程和研究洞察突破边界。他还提到模型需要处理长期现实世界任务、多模态推理,最终实现端到端AI研究。
Is pre-training dead? @OpenAI Chief Research Officer @markchen90 doesn't think so: "We've always found some kind of technique whether it be better engineering or some new research insight that helps you brea…