AI 知识库与智能体术语表
企业 AI 落地时最常遇到的概念,用白话解释清楚:检索、模型、智能体、部署与安全四类术语,附对应产品能力与链接。
一句话版:RAG 是先用检索找资料再让模型作答;Agent 是能规划并调用工具做事的 AI 程序;MCP 是连接模型与工具的标准协议;私有化部署是把模型、知识与智能体放进企业内网。下面给出 28 个常见术语的定义。
为什么需要这份术语表
企业在评估 AI 知识库与智能体方案时,经常被 RAG、Embedding、ReRank、MCP 这些词卡住。理解这些概念,才能判断一个方案是否真的解决“知识可检索、答案可核对、数据可控制”的问题。本页按检索与知识库、模型、智能体、部署与安全四类整理。
一、检索与知识库
RAG(检索增强生成)
先用检索从企业资料中找到相关段落,再把这些段落交给大模型生成回答。相比只靠模型参数,RAG 的答案有依据、可核对、知识更新快。
Embedding(向量化)
把文本转换成一组数字向量,语义相近的文本在向量空间中距离更近,用于语义检索。
混合检索
同时使用语义向量检索与关键词检索,再融合两路结果;专有名词、型号、编号靠关键词,意图理解靠语义。
ReRank(重排)
对初步召回的候选段落用重排模型二次排序,把最相关的段落排到前面,提升回答准确性。
分块(Chunking)
把长文档切成适合检索的片段。切分策略(按标题、段落、语义)直接影响召回质量。
OCR(光学字符识别)
把图片或扫描件中的文字识别成可检索文本,常见于合同、图纸、报告等扫描资料。
引用溯源
回答中标注每条结论来自哪个文档的第几页/哪一段,点击即可核对原文,是企业问答可信的基础。
Wiki 知识图谱
由智能体从原始文档自动生成相互链接的知识页面与图谱,把零散资料结构化,便于维护与复用。
二、模型
LLM(大语言模型)
经过大规模语料训练的生成式模型,能理解与生成自然语言,是问答与智能体的推理核心。
幻觉(Hallucination)
模型生成看似合理但实际没有依据的内容。企业场景通过 RAG、引用校验与“没有依据就明确说明”来抑制幻觉。
上下文窗口
模型一次能处理的文本长度上限。窗口越大可放入的资料越多,但成本与延迟也越高。
微调(Fine-tuning)
用企业数据继续训练模型,改变模型风格与专业能力;适合格式/风格要求高、知识相对稳定的场景。
量化(Quantization)
用更低精度存储模型权重以降低显存与成本,可能带来少量精度损失,是私有化部署常用的优化手段。
推理框架
运行模型的软件,如 Ollama(简单易用)与 vLLM(高并发、高吞吐),影响部署成本与时延。
三、智能体
Agent(智能体)
能理解目标、规划步骤、调用工具并执行任务的 AI 程序,不只是聊天,而是能“做事”。
ReAct
推理(Reasoning)+ 行动(Acting)循环:模型先思考下一步,再调用工具观察结果,如此循环直到完成任务。
工具调用(Function Calling)
模型按结构化格式调用外部函数或 API,例如查询数据库、创建工单、发送消息。
多智能体
多个智能体分工协作完成复杂任务,例如主管规划、子智能体分别检索、计算与校验。
MCP(模型上下文协议)
连接模型与外部工具/数据源的标准协议,让智能体能以统一方式接入企业系统与第三方服务。
沙盒(Sandbox)
在受限环境中执行智能体生成的代码或操作,限制权限与资源,降低误操作风险。
四、部署与安全
私有化部署
把模型、知识库与智能体部署在企业自己的服务器与内网,数据不出企业,适合合规与敏感数据场景。
SaaS(云服务)
由厂商托管、按订阅或用量付费的服务,上线快、免运维,但数据在厂商侧,敏感场景需评估。
混合部署
核心与敏感能力放内网,通用能力用云端服务,在安全与成本之间取平衡。
RBAC(基于角色的访问控制)
按角色分配权限,例如管理员、知识库维护者、普通用户、外部访客,可细化到单个知识库。
OIDC 单点登录
企业统一身份认证协议,员工用一套账号登录多个系统,便于权限回收与审计。
审计日志
记录谁在什么时间访问/修改了什么内容,用于安全审计、问题追溯与合规检查。
等保(网络安全等级保护)
中国网络安全合规体系,企业部署 AI 系统时常需要满足相应等级的访问控制、审计与数据保护要求。
知识库搭建
把企业资料接入、解析、分块、检索与治理的全过程,目标是让知识“可被检索、可被问答、可被复用”。
常见问题
RAG 和微调有什么区别?
RAG 不改模型参数,靠外部知识检索提供依据,知识更新快、可引用;微调用企业数据训练模型,改变风格与能力,适合格式要求高但知识相对稳定的场景。多数企业以 RAG 为主、微调为辅。
MCP 是什么,为什么重要?
MCP(Model Context Protocol)是连接模型与外部工具/数据源的标准协议。有了它,智能体可以用统一方式接入企业 API、数据库与第三方服务,减少重复开发。
什么是引用溯源?
回答中标注结论来自哪个文档的哪一页/哪一段,点击可核对原文。它是企业问答可信、可追责的基础。
私有化部署和 SaaS 怎么选?
数据敏感、合规要求高选私有化;追求上线速度、非敏感场景可用 SaaS;多数企业适合混合部署。
为什么企业问答要抑制“幻觉”?
模型编造内容会带来业务风险。通过 RAG、引用校验与“没有依据就明确说明”的机制,可以显著降低幻觉。