Agent 常见词汇表：常见术语速查

预计阅读时间：8 分钟

在学习 Agent 时，经常会遇到一些反复出现的术语，比如 LLM、RAG、Tool Calling、Workflow、MCP 。

术语多了就容易混乱，有个表多看几遍，就不容易忘记了。这份表按主题整理常见概念，重点解释“它是什么、解决什么问题”。

对术语有了清晰地认识，方便学习后续的文章，也方便后续阅读，可以随时回来查阅。

一、大模型基础

术语	英文全称	简要解释
LLM	Large Language Model	大语言模型，负责理解输入、生成内容，也可根据任务判断下一步操作。
Prompt	—	提示词，提供任务指令、背景信息、输出要求和行为约束。
Token	—	词元，模型处理文本的基本单位，影响上下文容量和调用成本。
Context Window	—	上下文窗口，模型一次能够处理的上下文容量，通常以 Token 数量衡量。
Inference	—	推理，模型根据输入生成输出的过程。
Hallucination	—	幻觉，模型生成缺乏事实依据或与实际情况不符的内容。

注：Prompt 和 Token 在不同语境中可能有更具体的含义；这里按大模型应用开发中的常见用法解释。

术语	英文全称	简要解释
Agent	—	智能体，围绕目标，根据当前信息决定下一步，并借助工具推进任务的系统。
Tool	—	工具，供 Agent 调用的外部能力，如查数据库、调 API、搜索网页。
Tool Calling	—	工具调用，模型提出工具调用请求，程序执行后将结果返回模型的机制。
Function Calling	—	函数调用，模型按照约定的函数名称和参数格式输出调用请求，通常与 Tool Calling 密切相关。
Tool Schema	—	工具定义规范，描述工具名称、用途、参数及参数类型。
Agent Loop	—	Agent 执行循环，即模型判断、程序执行、结果回填，再次判断，直到满足停止条件。
Planning	—	规划，将任务拆分为步骤或确定大致行动方案，可以由模型动态生成，也可以预先定义。
Memory	—	记忆，保存、检索和复用历史对话、用户偏好或任务信息的机制。
Multi-Agent System	—	多智能体系统，多个 Agent 分工协作完成任务的系统。

术语	英文全称	简要解释
RAG	Retrieval-Augmented Generation	检索增强生成，先检索外部信息，再将相关内容提供给模型生成回答。
Embedding	—	嵌入向量，将文本等内容转换为数值向量，便于进行语义相似度计算。
Vector Database	—	向量数据库，存储向量并支持相似度检索。
Chunking	—	文本切分，将长文档拆分为较小片段，供后续检索使用。
Reranking	—	重排序，对初步检索结果重新计算相关性并排序。
Hybrid Search	—	混合检索，结合关键词检索、向量检索等方式寻找相关内容。
Knowledge Base	—	知识库，经过整理并可供系统查询的知识集合，如产品手册、内部制度和技术文档。

术语	英文全称	简要解释
Workflow	—	工作流，按预先定义的步骤和条件执行任务。
Orchestration	—	编排，协调模型、工具、流程节点和其他组件协同工作。
MCP	Model Context Protocol	模型上下文协议，用于 AI 应用以统一协议连接外部工具和数据源。
API	Application Programming Interface	应用程序编程接口，不同软件系统之间交互的接口约定。
State	—	状态，记录任务当前进度和相关数据，如用户输入、工具结果和执行阶段。
LangChain	—	用于构建大语言模型应用的开发框架，提供模型、工具、检索等组件。
LangGraph	—	用于构建有状态、多步骤、支持循环执行的 LLM 应用和 Agent 的框架。

术语	英文全称	简要解释
Evaluation	—	评估，通过测试数据和评价标准检验回答质量、工具选择、任务完成率等指标。
Guardrails	—	安全护栏，通过输入校验、权限控制、输出检查等措施限制风险。
Human-in-the-Loop	—	人类参与闭环，在自动化流程中保留人工审核、确认或干预。
Observability	—	可观测性，通过日志、指标和追踪等信息了解运行状态并定位问题。
Latency	—	延迟，请求从发起到获得响应所花费的时间。
Retry	—	重试，操作失败后按预设策略再次尝试。
Idempotency	—	幂等性，同一操作执行一次或多次，在约定范围内产生相同的最终效果。
Timeout	—	超时，操作超过预设时间后停止等待或进入异常处理流程。
Rate Limit	—	速率限制，对一定时间内允许的请求次数或资源消耗设置上限。
Production	—	生产环境，系统正式为真实用户或业务提供服务的运行环境。

Agent 与 Workflow

Workflow 按预设步骤执行；Agent 可以根据当前信息动态决定下一步。两者可以组合，例如在固定工作流中嵌入 Agent 处理需要判断的环节。

Tool Calling 与 API

API 是系统交互的接口；Tool Calling 是模型提出工具调用请求的机制。程序执行工具时，可以在内部调用 API。

RAG 与 Agent

RAG 解决外部知识检索与生成的问题；Agent 解决围绕目标进行判断、调用工具和推进任务的问题。Agent 可以把 RAG 作为一个执行环节。

Memory 与 Context Window

Context Window 是模型一次能处理多少上下文；Memory 关注历史信息如何保存和再次利用。记忆中的内容通常仍需被取回，才能用于模型当前的判断。

MCP 与 Tool Calling

Tool Calling 关注模型如何提出调用请求；MCP 关注 AI 应用如何通过统一协议连接外部工具和数据源。两者可以配合使用，不能互相替代。

Demo 与 Production

Demo 验证思路能否跑通；Production 还要求系统具备可靠性、安全性、可观测性和成本控制能力。

本文由楸木原创，转载请注明出处。