AI 术语表

大语言模型是在海量文本上训练、以预测下一个 token 为核心目标的深度神经网络,能理解并生成自然语言,是当前生成式 AI 的基础。

Transformer 是 2017 年 Google 提出的神经网络架构,用自注意力机制并行处理序列,是几乎所有现代大语言模型的基础结构。

智能体是能自主规划步骤、调用工具并根据环境反馈迭代行动以完成目标的 AI 系统,而不只是单轮问答。

RAG(检索增强生成)是在生成回答前先从外部知识库检索相关内容、再让模型基于检索结果作答的技术,用来降低幻觉并接入私有/实时数据。

微调是在预训练模型的基础上,用特定领域或任务的数据继续训练,使模型行为向目标场景对齐的方法。

提示词工程是通过设计输入文本(指令、示例、结构)来引导大模型产出期望结果的实践,是使用 LLM 成本最低的优化手段。

多模态指模型能同时理解或生成文本以外的多种信息形态,如图像、音频、视频,而不是只处理文字。

推理模型是在回答前先生成较长内部思考链、以额外推理计算换取更高答题准确率的大模型,代表如 OpenAI o 系列、DeepSeek-R 系列。

思维链是让模型把中间推理步骤显式写出来再给结论的技术,能显著提升多步推理任务的正确率。

MoE(混合专家)是把前馈层拆成多个「专家」子网络、每个 token 只激活其中少数专家的架构,用总参数大、激活参数小的方式同时获得容量与速度。

上下文窗口是模型单次调用能处理的最大 token 数,决定了它一次能「看见」多少输入与历史。

Token 是大模型处理文本的最小单位,由分词器把文字切成的子词片段,英文约 0.75 词/token,中文约 1-2 字/token。

幻觉指大模型生成看似流畅可信、实则与事实不符或凭空编造的内容,是生成式 AI 落地的主要风险之一。

对齐是让 AI 系统的目标与行为符合人类意图和价值观的研究与工程实践,包括拒绝有害请求、诚实表达不确定性等。

RLHF(基于人类反馈的强化学习)是用人类对回答的偏好排序训练奖励模型、再用强化学习优化语言模型的方法,是 ChatGPT 得以「听话」的关键技术。

蒸馏是用大模型(教师)的输出训练小模型(学生),把能力压缩进更小参数量的技术,是低成本小模型的主要来源之一。

量化是把模型权重从高精度(如 FP16)压到低比特(如 INT8/INT4)表示,以更小显存和更快速度运行模型的技术。

开源模型(严格说是开放权重模型)指公开发布权重、允许自行部署的大模型,如 Llama、DeepSeek、Qwen、Mistral 系列。

MCP(模型上下文协议)是 Anthropic 2024 年底开源的标准协议,让 AI 应用以统一方式连接外部工具与数据源,常被比作「AI 的 USB-C」。

函数调用是让大模型按预先声明的接口输出结构化调用请求、由外部程序执行后把结果回传的机制,是模型连接真实世界能力的基础。

Embedding 是把文本、图片等内容映射成高维数值向量的表示方法,语义相近的内容向量距离也近,是语义检索的基础。

向量数据库是为高维向量的相似度检索优化的数据库,支撑 RAG、语义搜索等应用中的「按含义找内容」。

AGI(通用人工智能)指在绝大多数有经济价值的认知工作上达到或超过人类水平、且能跨领域泛化的 AI 系统,目前尚未实现。

世界模型指能在内部模拟物理世界的状态与因果、据此做预测和规划的 AI 模型,被视为超越纯语言智能的下一步。

具身智能指拥有物理身体(机器人、无人机等)、通过感知-行动闭环与真实环境交互学习的 AI 系统。

AI 安全研究如何让强大的 AI 系统可控、可靠、不造成大规模危害,涵盖对齐、滥用防护、评估与治理。

Scaling Law(缩放定律)是描述模型性能随参数量、数据量与算力按幂律可预测提升的经验规律,是过去几年大模型军备竞赛的理论依据。

推理时计算指在模型回答阶段投入更多计算(更长思考、多路采样、搜索)来换取更高质量输出的范式,是继预训练扩展后的新增长轴。

基准测试是用固定题库和统一评分衡量模型能力的标准化测试,如 MMLU(知识)、SWE-bench(软件工程)、AIME(数学竞赛)。

LoRA(低秩适配)是冻结原模型权重、只训练少量低秩增量矩阵的参数高效微调方法,几张消费级显卡即可微调大模型。

计算机操作指 AI 像人一样看屏幕截图、移动鼠标、敲键盘来直接操作图形界面的能力,让 Agent 能使用没有 API 的软件。