系统架构师AI题怎么复习?这张8层知识地图把大模型、RAG、Agent全串起来

这是一篇面向系统架构设计师与系统分析师的 AI 专题复习总纲。全文按照完整系统架构归纳为八层：算力基础层、模型能力层、数据分析层、知识组织层、检索增强层、智能编排层、智能应用层、运行治理层。

阅读时不要只问“这个术语是什么意思”，还要继续追问四件事：它解决什么问题？和相邻技术怎样协作？在哪些条件下不适用？用什么指标证明方案有效？

文中的阈值、成本和效果数据不使用所谓“万能数值”。真正写案例或论文时，应替换成项目经过评测、监控或评审确认的数据。

面对一道 AI 架构题，可以按八问定位：

这八问能把“新技术名词题”重新变成熟悉的架构分层、数据建模、方案选型与质量属性题。

判断顺序不是背“GPU 最快”，而是先看四个约束：

AI芯片常见能力怎么理解

大语言模型到底“大”在哪里

大语言模型是在海量语料上训练的参数化模型，能够根据上下文预测后续内容，并由此表现出理解、生成、归纳、翻译、代码等能力。它的工程价值来自模型结构、数据、训练方法和算力共同作用，而不是简单的“参数越多就一定越可靠”。

Transformer 的关键机制是自注意力：模型根据当前任务动态计算不同 Token 之间的关联，使每个位置能够吸收上下文信息。复习时至少记住四个词：Token、Embedding、自注意力、上下文窗口。

多模态：不是把图片和文字简单拼在一起

多模态模型处理文本、图片、音频、视频等不同信息形式，通常要完成各模态编码、对齐和融合，再进行理解或生成。

推理模式：用更多推理计算处理复杂任务

所谓“深度思考”更准确地说是推理模式：模型为复杂问题投入更多推理计算，进行任务分解、候选验证或工具协作。它适合多约束规划、数学、代码和复杂分析，但通常会增加延迟和成本。

系统设计不应依赖模型暴露内部推理文字，而应记录输入、选用的工具、工具结果、最终结论、引用与验证状态。这样既能审计，又不会把未经校验的中间猜测当成事实。

MoE：总参数很多，不等于每次都全部激活

混合专家模型由多个专家网络和门控机制组成。门控根据输入选择部分专家参与计算，实现“容量扩大”和“单次激活成本控制”的折中。

MoE 的答题重点是“门控选择、专家分工、稀疏激活与负载均衡”，不要把总参数量直接等同于每次推理的计算量。

三种常见选择解决的不是同一个问题

判断口诀可以写成：知识变化先看 RAG，行为改变考虑微调，底座能力缺失才评估预训练。 三者可以组合，并不是互斥选项。

全量微调与参数高效微调

LoRA 用低秩矩阵近似参数更新，使模型主体保持不变。它适合资源受限、任务多、需要快速切换适配器的场景，但不保证任何任务都只需极少资源，也不等于“给模型灌入了可随时更新的事实库”。

拟合问题必须会辨认

微调还要关注灾难性遗忘：模型过度适应新数据后，原有通用能力可能下降。可通过混合训练数据、控制学习率、参数高效微调和回归评测降低风险。

基于规则的系统：把判断逻辑变成可解释规则

典型组成包括规则库、事实或工作内存、推理机，以及冲突消解或规则选择机制。它适合规则频繁变化、需要解释推理过程的专家系统与决策支持场景。

黑板风格：多个知识源围绕一个问题反复协作

当问题具有不确定性、求解过程不是固定流水线、多个独立算法需要反复修正同一份中间结果时，黑板风格更有优势。它和现代 Agent 都强调多个能力围绕状态协作，但黑板风格关注共享状态与控制策略，Agent 更强调目标驱动、工具调用和动态规划，二者不能简单画等号。

数据湖与数据仓库不要混成一类

数据湖同样需要元数据、质量规则、权限、血缘、版本和生命周期治理。“先把数据都扔进去”不是数据架构。

向量数据库：把语义相似变成可检索能力

文本、图片或音频先经过嵌入模型转化为高维向量，再通过近似最近邻检索找到距离较近的对象。常见索引思路包括 HNSW、IVF 等。

向量数据库还能用于推荐、相似图片搜索、异常检测与去重，但它不会自动保证知识正确。错误、过期或越权内容向量化以后，仍然是错误、过期或越权内容。

数据挖掘和OLAP不是替代关系

常见组合是：先用 OLAP 定位异常范围，再用数据挖掘分析原因、识别群体或预测趋势。

六类方法一张表分清

关联规则三个指标

提升度大于 1 通常表示正关联，等于 1 表示二者在该口径下近似独立。不能只看置信度：若 Y 本身就非常常见，高置信度未必说明 X 有价值。

分类、聚类、数值预测、时间序列最容易混

推荐系统解决信息过载：利用用户、物品、上下文和反馈，从海量候选中筛选更可能有价值的内容。

三类推荐算法

混合推荐不是把结果随便取平均，而是有策略地组合：

建立推荐系统五步法

评估不能只看准确率。离线可用 Precision、Recall、AUC、RMSE、覆盖率与多样性等指标；线上还要看点击、转化、停留、负反馈、长期留存和业务约束。推荐效果和业务目标必须一致。

冷启动与信息茧房

“探索与利用”的比例也不存在通用固定值，应通过业务风险、内容供给和在线实验确定。

向量库擅长回答“哪些内容语义相近”，知识图谱擅长回答“哪些实体通过什么关系连接”。

五个基础概念

知识图谱常用“主语—谓语—宾语”三元组表达事实。例如：

可以定义规则：如果学生答错题目 A，且题目 A 涵盖知识点 B，则把“学生可能薄弱于知识点 B”作为候选结论。注意，“可能薄弱”是推断结果，应结合多次作答和阈值验证，不能把一次错误直接当成确定事实。

模式层是骨架，数据层是实例

什么时候适合知识图谱

适合：关联密集、多跳查询、语义融合、关系解释、推荐、风控和知识问答。

不适合：关系简单、以稳定事务增删改查为主、查询主要是单表或少量关联的系统。此时关系数据库更成熟，也更经济。

按覆盖范围和用途，还可以区分通用知识图谱、领域知识图谱、常识知识图谱和企业知识图谱。系统架构师案例更常见的是领域或企业图谱：边界相对明确，能够围绕真实业务治理实体、关系、权限和质量。

完整链路至少包括：模式设计、数据接入、信息抽取、知识融合、质量审核、知识表示、存储发布、持续更新。

模式设计的三种路线

不同数据源采用不同抽取策略

非结构化抽取常见任务包括命名实体识别、关系抽取、属性抽取和事件抽取。大模型可以提高抽取灵活性，但输出仍需结构校验、置信度、来源和抽样审核。

知识融合是构建质量的分水岭

一条可用于案例题的流水线是：

增量链路必须保留来源、版本、时间戳、删除或失效标记和审计记录，否则图谱会越来越大，事实却可能越来越旧。

自然语言查询五步走

存储方案怎么选

复杂系统可采用混合存储：图库负责关系路径，搜索引擎负责名称与全文召回，关系库保存强事务数据，湖仓承接离线分析，向量库负责语义相似检索。代价是数据同步、一致性、故障恢复、权限和运维复杂度上升。

三种推理范式

TransE 一类知识表示方法常用 h + r ≈ t 帮助理解头实体、关系和尾实体在向量空间中的联系。它得到的是候选关系或相似度，不应未经验证直接写回事实库。

知识图谱、向量库和大模型的稳妥分工是：图谱保真与表达关系，向量库负责语义召回，大模型负责理解与生成。

RAG 的核心是“先检索、后生成”：知识保存在外部知识库中，模型在当前请求中读取相关证据。它缓解知识时效和私域知识缺失问题，但不能保证彻底消除幻觉。

八个工程组件

向量数据库、图数据库、关系数据库、搜索引擎和实时 API 都可以成为知识源，不能把“知识库”狭义理解为只有一个向量库。

离线索引与在线问答

同一个 Query 在链路中有两种形态：检索时转成嵌入向量，用于计算语义相似度；增强与生成时保留自然语言文本，与证据和任务指令一起组成 Prompt。向量负责“找”，文本负责“读”，不能把相似度向量直接当成正文交给模型。

RAG与微调怎么选

真实系统应按查询分流：错误码、型号和姓名可优先关键词检索；语义问题走向量；多跳关系走图；只有复杂开放任务才考虑 Agentic RAG。

Graph RAG 是利用图结构增强检索与生成的架构方案，知识图谱是组织实体、关系与属性的数据基础，二者不是同义词。

训练与知识集成方式

三种检索方式

Rerank 不是“再多找一些”，而是对召回候选进行更精细的相关性排序。

两个Top-K不要混

temperature 控制概率分布的随机程度，Top-P 控制累计概率覆盖的动态候选集合。知识问答通常倾向稳定，但不存在所有模型通用的固定最佳值，必须用真实评测集验证。

十二类故障先归根，再处理

排障时先定位索引、检索、增强、生成还是系统层，再用指标证明，不要一遇到效果差就换大模型。

Prompt：把任务边界说清楚

高质量 Prompt 通常包括角色或目标、输入数据、任务步骤、约束、输出格式与示例。系统指令和用户输入应分层管理，外部检索到的内容只能作为数据，不能获得修改系统规则的权限。

提示词安全至少考虑：提示注入、敏感信息泄露、越权工具调用、恶意内容进入上下文，以及模型输出被下游系统直接执行。

Function Calling：结构化表达“要调用什么”

典型流程是：

Function Calling 只负责让模型表达调用意图，真正的执行、鉴权、超时、重试、幂等和审计必须由应用负责。它可以服务 Agent 或 RAG，但本身不等于 RAG。

MCP：标准化模型与外部能力的连接

MCP 可以把工具、资源和提示模板通过统一协议提供给兼容的客户端，减少每个应用重复编写专用适配器。它解决的是集成标准化问题，不是自动替你完成业务授权与安全治理。

Skill：把可复用经验封装成工作单元

一个 Skill 通常包含任务说明、操作流程、提示模板、工具使用方式、质量检查和参考资料。它比单个函数更接近“可复用的工作方法”。

Agent 是能够感知状态、规划任务、调用工具、接收反馈并持续推进目标的 AI 程序。它和普通聊天机器人的差别，不只是回答更长，而是形成感知—决策—行动—观察闭环。

ReAct范式

两种实现方式

生产级Agent八大模块

单Agent与多Agent通信

事件驱动需要补充幂等、消息顺序、重复消费、死信、补偿与最终一致性；同步调用则要处理超时、重试、熔断和级联故障。

当多个应用直接对接不同模型供应商时，会出现密钥分散、接口差异、限流重复、成本不清、切换困难和缺少统一监控等问题。模型网关位于应用和模型服务之间，提供统一调用入口。

依赖倒置如何落地

五类流量治理

网关还应提供密钥托管、租户隔离、审计、内容安全、成本归集、缓存、超时和可观测性。统一入口不能成为新的单点，需要高可用、容量规划和故障演练。

云侧AI与端侧AI

六类常见边云协同包括资源协同、数据协同、智能协同、应用管理协同、业务管理协同和服务协同。典型分工是云端训练与全局分析、边缘预处理与低延迟推理、端侧执行隐私敏感任务。

多模态大模型驱动的智能测试

识别、规划、执行和分析要形成闭环，同时限制账号权限、危险操作、最大步骤和测试环境范围。

一道综合案例怎样串联八层

以“在线学习平台的智能助教”为例：

这才是一套完整架构，而不是“接入一个大模型接口”。

蒸馏、量化、剪枝和低秩分解

是否采用这些优化，要由目标硬件、并发、延迟预算和评测结果决定，不能用“模型更小”替代效果验证。

幻觉为什么发生，怎样控制

RAG、微调和推理模式都不能把幻觉彻底归零。高风险场景必须保留证据、校验与人工确认。

三层评估

Agent 还要评估任务完成率、平均步骤数、工具调用正确率、循环率、人工接管率和危险动作拦截率；推荐系统还要评估覆盖、多样性、长期收益和负反馈。

安全与治理清单

模板一：技术对比题

模板二：知识图谱案例题

模板三：RAG故障诊断题

模板四：Agent架构题

模板五：AI架构论文段落

最后自检20问

如果这二十问都能用自己的话回答，你掌握的就不再是零散的 AI 名词，而是一套可以迁移到选择题、案例题和论文中的系统架构分析框架。

我是软考人，持续分享系统架构设计师、系统分析师等软考科目的知识拆解、案例答题和论文写作方法。希望这张八层地图能帮你从追逐AI名词，走到真正会分析一套AI系统架构。