2级
掌握多种AI的基础知识，并提出有依据的深入见解。
报考条件
取得3级证书满一年后可报考。
屏幕共享面试
考官先检查电脑环境，再提问。考生必须立即回应并迅速完成指定任务。
- 在Zoom中共享整个屏幕，而非仅共享窗口或标签页。
- 将共享电脑的交给考官。考官先的显示设置，确认未连接额外显示器。
- 检查结束后，在上亲自回答和操作。使用受测工具属于面试的一部分；暗中让或他人代答、代做属于作弊。
必修编程语言
从5级到1级，所有等级的共同必修。
Shell Scripting
操作那些构建和运行的计算机的基础语言。
本证书从 5 级到 1 级的每个级别都要求 。从零开始构建 AI——下载、运行、移动结果、把到——通常都在中完成；无论模型用哪种语言编写，运行它、把各部分连起来并的都是 。（也有不写、用界面构建模型的工具，只在或应用里使用 AI 时也不需要。本证书考查构建和自动化的能力，所以要求 Shell。）
去学 Shell 编程设计问题示例
你会如何制作指定主题的AI？请说明目的、数据、工具及结果验证方法。
这只是一个设计问题示例。面试会提出适合各等级的多道问题与任务，而非仅此一题。
学什么
- 说明不同类型AI的基本原理。
- 比较方法、局限与方式。
- 用依据和实例阐述AI观点，并回答追问。
如何评分
- 知识是否广泛而准确？
- 判断是否有依据和具体实例？
- 能否深入讨论局限和替代方案？
考试构成
没有笔试，也没有实操考试。只通过一场在Zoom中共享整个屏幕的面试确定等级。考官提出适合该等级的问题，你立即用自己的话说明，考官再通过追问确认你理解的深度。
面试预测问题
以下20道题是考官在面试中可能提出的问题示例。不要只想猜中一个正确的词，请把答案大声说明出来。展开每一题可以看到说明示例和追问。这些不是正式试题。
评估指标
-
1
考官 请以垃圾邮件过滤为例说明（Precision）是什么。
查看说明示例
说明示例 精确率是判为“”的结果中真正是正例的比例，也就是被过滤成垃圾邮件的邮件里真正是垃圾邮件的比例。精确率低时，很多正常邮件会被放进垃圾邮件箱。
追问 为了提高精确率把阈值定得非常严格，会出现什么问题？
-
2
考官 请说明（Recall）是什么，以及它和的关系。
查看说明示例
说明示例 召回率是真正的中被找出来的比例。召回率低时会有很多垃圾邮件进入收件箱，而精确率和召回率通常提高一个就会降低另一个。
追问 如果是癌症筛查模型，你更看重精确率还是召回率？为什么？
-
3
考官 请说明 （F1 Score）是什么，以及为什么它不是和的简单平均。
查看说明示例
说明示例 F1 分数是精确率和召回率的，用一个数字同时比较两者。因为是调和平均，只要一个高另一个低，F1 分数也会低。
追问 只凭 F1 分数选，可能会漏看什么？
-
4
考官 请说明（Confusion Matrix）是什么，以及它和其他的关系。
查看说明示例
说明示例 混淆矩阵是把真实答案和预测分成真、、、真负例几个格子来计数的表。、和都是数这张表的格子算出来的。
追问 假正例和假负例哪一种是代价更高的错误，由什么决定？
-
5
考官 请说明（Perplexity）衡量的是什么，以及值为10意味着什么。
查看说明示例
说明示例 困惑度表示对下一个有多“拿不准”，越低越好。困惑度为10，大致相当于在选下一个词元时在10个候选之间犹豫。
追问 为什么困惑度低的在对话中有时反而不那么好用？
速度与成本
-
6
考官 请说明（Latency）是什么，以及在对话服务中哪段时间最重要。
查看说明示例
说明示例 延迟是从发出问题到收到回应所用的时间。在对话服务中，直到第一个字出现的时间最重要。
追问 怎样才能缩短第一个字出现的时间？
-
7
考官 请说明（Throughput）是什么，以及它和如何此消彼长。
查看说明示例
说明示例 吞吐量是在一定时间内能处理的工作量，比如每秒处理的数。把请求打包一起处理会提高吞吐量，但可能增加单个请求的延迟。
追问 对很多人同时使用的服务和一个人用的工具，你分别更看重哪一个？
-
8
考官 请说明（Knowledge Distillation）是什么，以及它属于哪种设计取舍。
查看说明示例
说明示例 知识蒸馏是一个小（学生）去模仿大模型（教师）的输出，在保持相近性能的同时缩小体积。小模型运行更快、更便宜，是用速度和成本换取准确度的典型设计。
追问 你会怎样检查学生模型是否在某些方面明显不如教师模型？
-
9
考官 请说明 （KV Cache）是什么，以及它带来什么好处、要付出什么代价。
查看说明示例
说明示例 KV 缓存是在生成文本时，把已经算好的的键（Key）和值（Value）存起来重复使用。不用每次都重新计算前面的，所以生成更快，但文本越长占用的越多。
追问 变得很长时，有哪些方法可以减少 KV 缓存的内存？
-
10
考官 请说明（Pruning）是什么，以及这个名字从何而来。
查看说明示例
说明示例 剪枝是从好的中剪掉重要性低的或连接，让模型变轻。这个名字把它比作剪掉树上没用的枝条。
追问 把剪枝和一起使用时要注意什么？
设计选项
-
11
考官 请说明 结构是什么，以及为什么很多计算量却较小。
查看说明示例
说明示例 MoE（Mixture of Experts，混合专家）是一种结构，对每个输入只从多个“专家”子中挑选一部分来计算。参数总数很大，但处理每个时只有少数专家在工作，所以计算量较小。
追问 计算量虽然变小了，为什么仍然需要很多？
-
12
考官 请说明 是什么，以及为什么它能低成本地大。
查看说明示例
说明示例 LoRA（Low-Rank Adaptation）是一种微调方法，冻结原始，只很小的低秩。需要训练的非常少，所以即使是大模型也能用很少的来微调。
追问 什么时候应该选择全量微调而不是 LoRA？
-
13
考官 请说明 是什么，以及它按什么顺序。
查看说明示例
说明示例 RLHF（Reinforcement Learning from Human Feedback）先用人从两个回答中选出更好者的建立，再用这个奖励对语言模型做。它用来把对话调整成按人们希望的方式回答。
追问 如果语言模型钻了奖励模型的漏洞，会发生什么？
-
14
考官 请说明（Vector Database）是什么，以及它在 设计中扮演什么角色。
查看说明示例
说明示例 向量数据库存储，并能快速找出与给定最接近的向量。在 RAG 设计中，它用来查找与问题意思相近的文档。
追问 文档很少时，真的需要向量数据库吗？
-
15
考官 请说明（Cosine Similarity）衡量的是什么，包括它的取值范围。
查看说明示例
说明示例 余弦相似度根据两个之间的夹角衡量它们方向有多相似，常用于检索。方向相同为1，相互垂直为0，方向相反为-1。
追问 如果向量的长度也很重要，可以改用什么距离？
实现工具
-
16
考官 请说明 是什么，以及为什么它比纯 计算得快。
查看说明示例
说明示例 NumPy 是为 Python 提供多维数组和快速数值计算的，大多数库都建立在它之上。它不用循环，而是一次计算整个数组，所以完成同样的工作比纯 Python 快得多。
追问 NumPy 怎样处理两个形状不同的数组相加？
-
17
考官 请说明 是什么，最初由谁开发，现在由谁管理。
查看说明示例
说明示例 PyTorch 是支持的主流 ，最初由 Meta 开发并发布。现在由 基金会旗下的 PyTorch 基金会管理。
追问 你认为研究人员为什么经常选择 PyTorch？
-
18
考官 请说明（Automatic Differentiation）是什么，以及为什么它是的核心功能。
查看说明示例
说明示例 自动微分（Automatic Differentiation，autograd）沿着计算步骤自动求出函数的，不需要人手推公式。它让你不用亲手编写，是深度学习框架的核心功能。
追问 自动微分和（加上一个很小的值再比较）有什么不同？
-
19
考官 请说明 激活函数是什么，以及为什么它被如此广泛地使用。
查看说明示例
说明示例 ReLU（Rectified Linear Unit）是作用在层输出上的激活函数，把小于0的值变成0，大于0的值保持不变，公式是 max(0, x)。它计算简单，能让深层得更快。
追问 如果完全没有激活函数，无论叠多少层都会留下什么局限？
-
20
考官 请说明 是什么，以及它如何避免“在我电脑上能运行”的问题。
查看说明示例
说明示例 Docker 是一种工具，把和它的运行环境（和设置）打包在一起，让它在任何电脑上都一样运行。用它可以把做好的东西原样搬到另一台电脑或上运行。
追问 容器和有什么不同？