跳到主要内容

AI Agent 与大语言模型 (LLM) 核心术语表

欢迎来到 AI Agent 与大语言模型 (LLM) 的世界。随着技术的飞速发展，大量新术语和概念不断涌现。本术语表旨在为您提供一个清晰、准确且易于理解的参考指南，帮助您快速掌握核心概念。

本指南的目标

无论您是初学者还是经验丰富的从业者，本指南都将帮助您：

  • 构建坚实的知识框架：系统地理解 AI Agent 和 LLM 的关键组成部分。
  • 消除沟通障碍：在团队协作和技术交流中精准地使用专业术语。
  • 跟上技术前沿：快速掌握最新的技术趋势和核心理念。

核心概念​

本章节涵盖了构成现代生成式 AI 领域基石的最基本概念。

生成式人工智能 (Generative AI)​

一种能够创造全新原创内容的人工智能。与传统 AI 主要关注分类和预测不同，生成式 AI 通过学习训练数据中的底层模式和结构，可以生成文本、图像、音频、代码等多种形式的内容。

大语言模型 (Large Language Model, LLM)​

LLM 是一种基于海量文本数据训练的、规模庞大的基础模型。它通过学习语言的统计规律和上下文关系，精通于理解和生成自然语言，是执行文本摘要、翻译、问答和内容创作等任务的核心引擎。

人工智能代理 (AI Agent)​

一个能够自主实现目标的应用程序。AI Agent 通过接收输入、利用可用工具进行推理，并根据决策采取行动来完成复杂任务。它超越了简单的文本生成，能够与外部世界进行交互。

点击查看 AI Agent 的核心组件

AI Agent 通常由以下三个关键部分组成：

  • 编排层 (Orchestration): 负责管理记忆、状态和决策。它制定计划、控制工具的使用，并管理数据流。
  • 模型 (Model): 通常是一个强大的 LLM，负责处理目标、创建计划并生成响应。支持函数调用的模型能获得最佳性能。
  • 工具 (Tools): 一系列 API、服务或函数的集合，用于获取外部数据或执行具体操作（如数据库查询、API 调用等）。

基础模型 (Foundation Model)​

基础模型是在海量、多模态数据（如文本、图像、视频、音频）上训练的大规模模型。它们是许多专用 AI 应用的“基础”，可以通过微调（Fine-tuning）等技术适应特定的下游任务。LLM 是基础模型中最著名的一种。

自然语言处理 (Natural Language Processing, NLP)​

人工智能的一个子领域，专注于使计算机能够理解、解释和生成人类语言。NLP 是 LLM 和许多 AI 应用的理论和技术基础。

多模态模型 (Multimodal Model)​

能够处理和理解多种类型数据（模态）的 AI 模型。例如，一个多模态模型可以同时接收文本和图像作为输入，并根据两者生成一个综合性的回答。

模型架构与原理​

本章节深入探讨了驱动现代 LLM 的核心技术架构和工作机制。

Transformer 架构 (Transformer Architecture)​

一种专为处理序列数据（如文本）而设计的神经网络架构，是当今几乎所有主流 LLM 的基础。其核心创新是自注意力机制，允许模型在处理序列时并行计算，并高效捕捉长距离依赖关系。

注意力/自注意力机制 (Attention / Self-Attention)​

Transformer 模型的核心组件。自注意力机制允许模型在处理一个词元（Token）时，动态地评估输入序列中所有其他词元的重要性（“注意力得分”），并据此加权聚合信息。这使得模型能够深刻理解词语在不同上下文中的确切含义。

编码器 - 解码器模型 (Encoder-Decoder Models)​

一种常用于序列到序列任务（如机器翻译）的架构。

  • 编码器 (Encoder): 负责读取并理解整个输入序列，将其压缩成一个包含上下文信息的向量表示。
  • 解码器 (Decoder): 接收编码器的输出，并逐个生成目标序列的词元。

如 BERT，擅长理解上下文和语义信息。非常适合文本分类、情感分析、命名实体识别等理解型任务。

词嵌入 (Embedding)​

将离散的数据（如文本、图像）转换为连续的、低维的数值向量表示。在这个向量空间中，语义上相似的输入在空间中的距离也更近。这是让机器学习模型能够理解和处理非数值数据的关键步骤。

训练与优化​

本章节介绍了如何构建、调整和改进 LLM，使其更强大、更安全、更符合特定需求。

预训练 (Pre-training)​

在海量无标签数据上对模型进行初始训练的过程。在这个阶段，模型学习通用的语言模式、语法结构和世界知识，为后续的特定任务奠定基础。

微调 (Tuning / Fine-tuning)​

在一个已经预训练好的模型基础上，使用一个规模较小、有标签的特定任务数据集进行二次训练的过程。微调能够使通用模型适应特定领域或任务，从而显著提升其在该任务上的表现。

参数高效微调 (Parameter-Efficient Fine-Tuning, PEFT)​

一系列旨在降低全量微调成本的技术。PEFT 方法通过只训练模型参数的一小部分（或额外添加少量参数），在保持与全量微调相当性能的同时，极大地减少了计算和存储开销。LoRA (Low-Rank Adaptation) 是其中一种流行的技术。

人类反馈强化学习 (Reinforcement Learning from Human Feedback, RLHF)​

一种用于对齐（Alignment）LLM 的关键技术。它通过一个由人类偏好数据训练出的“奖励模型”，来指导 LLM 的优化方向，使其生成的内容更符合人类的期望（例如，更有用、更无害、更诚实）。

对齐 (Alignment)​

确保 AI 系统的行为符合人类意图、目标和价值观的过程。一个对齐良好的 AI 系统会努力实现其设计者期望的目标，而不是产生有害或意料之外的副作用。

接地 (Grounding)​

将模型的输出与可验证的、权威的信息源（如内部文档、数据库、实时数据）进行连接的过程。接地可以显著提高模型响应的准确性和可靠性，有效减少幻觉（Hallucination）现象的发生。检索增强生成（RAG）是实现接地的一种核心技术。

交互与应用​

本章节关注如何与 LLM 进行有效交互，并将其能力应用于实际场景中。

提示 (Prompt)​

用户向生成式 AI 模型发出的自然语言指令或查询，用以引导模型生成特定的响应。一个精心设计的提示是获取高质量输出的关键。

提示工程 (Prompt Engineering)​

设计和优化提示的艺术与科学，旨在引导 LLM 生成更准确、更相关、更高质量的输出。这是一项迭代过程，需要不断尝试和调整。

上下文学习 (In-Context Learning)​

LLM 的一种强大能力，即通过在提示中提供少量示例来学习并完成新任务，而无需更新模型参数。

不提供任何示例，直接要求模型完成任务。这依赖于模型在预训练阶段学到的通用知识。

将以下句子翻译成法语：
Hello, world!

思维链提示 (Chain-of-Thought, CoT)​

一种高级提示技巧，通过引导模型在给出最终答案前，先“一步一步地思考”并输出推理过程。这能显著提高模型在复杂逻辑、数学和推理问题上的准确性。

检索增强生成 (Retrieval-Augmented Generation, RAG)​

一种将 LLM 与外部知识库相结合的技术。当收到用户查询时，系统首先从知识库（如文档库、数据库）中检索相关信息，然后将这些信息与原始查询一起提供给 LLM，让其生成一个既有知识依据又流畅的回答。

函数调用 (Function Calling)​

一项允许 LLM 将自然语言指令转换为对外部工具或 API 的结构化调用的功能。模型会生成一个包含函数名和参数的 JSON 对象，应用程序可以执行此调用，并将结果返回给模型，以完成更复杂的任务。

模型生成的函数调用请求
{
  "function_name": "get_current_weather",
  "parameters": {
    "location": "Beijing",
    "unit": "celsius"
  }
}

推理 (Inference)​

使用一个已经训练好的模型来处理新输入并生成预测或响应的过程。这是模型在部署后实际提供服务的阶段。

关键参数与指标​

本章节解释了在配置和评估 LLM 时常用的一些重要参数和性能指标。

词元 (Token)​

模型处理文本的基本单位。一个词元可以是一个完整的单词、一个子词（如 pre-）或单个字符。文本被分词器（Tokenizer）转换为词元序列后才能被模型处理。通常，在英文中 100 个词元约等于 75 个单词。

上下文窗口 (Context Window)​

模型在一次处理中能够接收和“记忆”的最大词元数量。上下文窗口的大小决定了模型能处理的输入长度以及在长对话中保持上下文一致性的能力。例如，一个 100 万词元的上下文窗口可以处理约 75 万个单词。

参数 (Parameters)​

模型在训练过程中学习到的内部变量（主要是权重和偏置）。参数的数量是衡量模型规模的一个指标，例如 GPT-4 据信拥有数千亿甚至上万亿个参数。

温度 (Temperature)​

一个用于控制模型输出随机性的超参数，取值范围通常在 0 到 1 之间。

  • 较低的温度 (如 0.2)：使模型输出更具确定性和一致性，倾向于选择概率最高的词元。适用于需要事实准确性的任务。
  • 较高的温度 (如 0.8)：增加输出的随机性和创造性，模型可能会选择一些概率较低但有趣的词元。适用于创意写作等任务。
如何选择温度值？

对于需要精确、可预测答案的场景（如代码生成、事实问答），建议使用较低的温度。对于需要多样化和创意的场景（如写诗、市场营销文案），可以尝试较高的温度。

延迟 (Latency)​

指模型从接收输入到生成响应所需的时间。通常关注两个指标：

  • 首词元时间 (Time to First Token, TTFT): 生成第一个词元所需的时间，对流式应用体验至关重要。
  • 总生成时间 (Time to Last Token, TTLT): 生成完整响应所需的总时间。

幻觉 (Hallucination)​

指 AI 模型生成看似合理但实际上是错误的、捏造的或与事实不符的信息。这是当前 LLM 技术面临的主要挑战之一。

警惕模型幻觉

模型可能会自信地“编造”事实。在使用 LLM 生成的内容时，尤其是在关键决策场景下，务必进行事实核查。使用接地（Grounding）技术可以有效缓解此问题。

参考资料​