Grammar(语法)作为语言学与计算科学交叉的核心概念,既指自然语言的结构规则体系,也指在计算机科学中用于描述形式语言的文法。在大模型时代,grammar 一词正同时活跃于两个方向:一是用形式文法辅助分子生成、模型压缩等机器学习研究,二是探索大语言模型能否替代传统的语法工程(Grammar Engineering)工作。
grammar 相关研究近期进展
当前焦点与观察点
grammar 相关讨论目前的焦点集中在“形式文法与神经网络的融合”上。一端是文法作为先验约束被引入生成模型,例如分子文法在化学基础模型中的应用;另一端是神经网络反过来学习或归纳文法结构,如从权重中提取更小的 grammar,或在浏览器端用 27.5KB 的模型完成词法/语法高亮任务。
语言学层面,LLM 是否能胜任传统上依赖专家手工编写的语法工程,仍存在争议。粤语 ParGram 等低资源语言的实验表明,大模型在特定语言上的表现与英语基线存在差距,语法资源的构建尚不能完全交给自动化方法。后续值得关注的观察点包括:高阶分子文法能否在化学基础模型中形成可复用的范式,以及文法归纳类方法在模型压缩上的实际收益。