AI 术语表
把 AI 词汇讲明白：先给直接答案，再补上刚好够用的深度。
- 大语言模型(LLM) 在海量文本上训练、通过预测序列中下一个 token 工作的神经网络——ChatGPT、Claude、Gemini 等聊天机器人与编程助手背后的技术。
- 多模态(Multimodal) 描述能处理多种数据类型的 AI 模型——文本、图像、音频、视频——可以是理解这些输入,也可以是生成这些输出,或两者兼具。
- 幻觉(Hallucination) AI 模型把虚假或编造的信息说得流畅而自信——假引用、不存在的 API、错误事实——因为它在预测「像真的」的文本,而不是核查真相。
- 混合专家(Mixture of experts, MoE) 一种模型架构:把容量拆成许多「专家」子网络,每个 token 只经过其中几个——总参数巨大,单 token 算力却只花零头。
- 基准测试(Benchmark) 一套固定、可复现的测试任务,用来给 AI 模型打分并互相比较——如编程的 SWE-bench、人类偏好的 Arena Elo。有用,可刷分,且永远不是全部真相。
- 开源权重(Open weights) 训练好的参数被公开发布、任何人都可下载运行且通常可微调的模型——与只能通过厂商 API 访问的闭源模型相对。开源权重不一定是开源。
- 扩散模型(Diffusion model) 通过学习逆转加噪过程来生成图像(以及视频、音频)的生成式模型:从随机噪点出发,一步步去噪,直到浮现出与提示词匹配的连贯画面。
- 量化(Quantization) 用更少的比特存储权重来压缩模型(如 4-bit 取代 16-bit)——显存砍到几分之一、推理提速数倍,精度损失通常很小。
- 嵌入(Embedding) 一个向量——一长串数字——用来表示文本、图像或音频的语义,让含义相近的内容在数值上彼此靠近。语义搜索与 RAG 的基石。
- 上下文窗口(Context window) LLM 一次能考虑的文本上限,按 token 计量:你的 prompt、之前的对话、贴入的文档和模型正在写的回复,共享这一份预算。
- 推理(Inference) 运行训练好的模型来产生输出——与创造模型的训练相对。每条聊天回复和每次 API 调用都是推理,AI 的持续成本就花在这里。
- 微调(Fine-tuning) 在预训练模型上用你自己的示例继续训练,使模型权重发生改变——把仅靠提示词无法稳定产出的行为、风格或领域技能,固化进模型本身。
- 温度(Temperature) 控制模型输出随机程度的采样参数。低温(约 0)输出稳定保守;高温(约 1 以上)更多样、更有创意——也更容易出错。
- 系统提示词(System prompt) 在任何用户消息之前交给模型的常驻指令——定义助手的人格、规则、语气与工具。用户看不见它,但每一条回复都被它塑造。
- AGI(通用人工智能) 假想中在大多数认知任务上达到或超越人类的 AI——而非只精通单一领域。它没有公认的定义和测试,这正是每次「AGI 已实现」宣言都有人反驳的原因。
- AI 智能体(Agent) 带工具循环运行的 LLM——接到一个目标后自行规划步骤并执行(跑代码、浏览网页、改文件),检查结果并继续推进,直到任务完成或卡住。
- Prompt(提示词) 你给 AI 模型的输入——指令、问题、上下文与示例。模型在一次会话中的全部行为都由它引导,所以写好 prompt 是一项真实的技能。
- RAG(检索增强生成) 在查询时从你的文档里搜出相关段落、插入模型上下文的架构——让回答基于检索到的事实,而非模型训练时的记忆。
- RLHF(基于人类反馈的强化学习) 一个训练阶段:人类对模型输出排序打分,模型朝着被偏好的方向优化——把裸的下一 token 预测器,变成能听懂指令、乐于助人的助手的关键技术。
- Token LLM 实际处理的文本单位——一个词、词的一部分或标点,英文平均约 ¾ 个单词,中文约每字 1–2 个。API 计费与上下文上限都以 token 为单位。