华为校招&实习机试在线OJ刷题系统 | 在线OJ注册使用教程
1、自注意力层的输入序列包含 m 个 token,每个 token 表示成 k 维向量(忽略 batch 维与多头)。计算注意力得分矩阵 QKT 的复杂度是?
A. O(m2 k)
B. O(m k2)
C. O(mk)
D. O(m2 k2)
2、卷积神经网络中池化层的主要作用是?
A. 通过激活函数为网络补充非线性表达能力
B. 依靠反向传播学习卷积核,完成局部特征提取
C. 统一各通道数值的均值和方差,起到归一化作用
D. 按窗口聚合、压缩特征图的空间尺寸,从而降低后续计算量与参数量
3、关于主成分分析(PCA)降维,下列说法正确的是?
A. 各主成分按方差贡献从大到小排列,且都是原始特征的线性组合
B. PCA 是有监督方法,降维过程要用到样本标签
C. PCA 的优化目标是让不同类别之间的间隔尽可能大
D. PCA 对量纲不敏感,因此使用前不必做特征标准化
4、评测大模型的数学解题能力时,常用约 5200 道带唯一标准答案的中学数学题组成的数据集。对这类题目,最常用的评测指标是?
A. 困惑度(Perplexity)
B. 准确率(Accuracy)
C. 语义相似度(Cosine Similarity)
D. 单次请求的平均耗时(Latency)
5、对实数域上的向量组,下列哪一条是它线性相关的等价刻画?
A. 组内所有向量的 2-范数彼此相等
B. 向量组中向量的个数一定少于向量的维度
C. 存在一组不全为零的系数,使它们的线性组合等于零向量
D. 组内任意一个向量都不能由其余向量线性表出
6、设随机变量 X 服从参数 λ = 4 的泊松分布,则 P(X = 0) 等于?
A. 1 - e-4
B. e-4
C. 4e-4
D. e-2
7、Transformer 解码器自注意力里的因果掩码(Causal Mask)主要用来做什么?
A. 屏蔽补位(padding)token,避免无效位置参与计算
B. 让每个位置只能看到它之前的 token,防止未来信息泄漏
C. 在不同注意力头之间重新分配权重,抑制多头冗余
D. 把位置编码叠加到注意力分数上,补充顺序信息
8、1 × 1 卷积在通道数 C 很大时,哪种内存布局更利于向量化、缓存更友好?其中 B 为 batch 大小,H、W 为特征图的高和宽。
A. NHWC
B. NCHW
C. NHCW
D. 每个通道单独存成一个文件
9、循环神经网络展开到时刻 t 时,隐藏状态 ht 由哪些量决定?
A. 只由当前输入 xt 决定
B. 只由上一时刻的隐藏状态 ht-1 决定
C. 由当前输入 xt 和上一时刻的隐藏状态 ht-1 共同决定
D. 由整个序列最后一个输入 xT 决定
10、某二分类模型的精确率为 0.6,召回率为 0.9,该模型的 F1 分数是?
A. 0.75
B. 0.54
C. 0.72
D. 0.68
答案速查
1.A 2.D 3.C 4.B 5.C 6.B 7.B 8.A 9.C 10.C
逐题解析
第1题(答案:A —— O(m2 k))
1、自注意力层的输入序列包含 m 个 token,每个 token 表示成 k 维向量(忽略 batch 维与多头)。计算注意力得分矩阵 QKT 的复杂度是?
自注意力层的输入序列包含 m 个 token,每个 token 表示成 k 维向量(忽略 batch 维与多头)。计算注意力得分矩阵 QKT 的复杂度是?
解析:Q、K 都是 m × k 矩阵,QKT 的结果是 m × m 矩阵,共 m2 个元素;每个元素是两个 k 维向量的内积,需要 O(k) 次乘加。总复杂度 O(m2 · k),选 A。
B 错:O(mk2) 是「每个 token 之间做 k × k 的计算」的错误理解,内积是 k 次乘加而不是 k2。
C 错:O(mk) 是线性投影(XW 生成 Q/K/V)的复杂度,不是分数矩阵的。
D 错:O(m2k2) 把内积也算成 k2,双重多算。
第2题(答案:D —— 按窗口聚合、压缩特征图的空间尺寸,从而降低后续计算量与参数量)
2、卷积神经网络中池化层的主要作用是?
卷积神经网络中池化层的主要作用是?
解析:池化对局部窗口取最大值或平均值,把特征图的空间尺寸缩小(如 2×2 池化让面积变为 1/4),后续层的参数量和计算量随之下降,这是它最主要的作用,选 D。
A 错:非线性来自激活函数(ReLU 等),池化本身(取 max 时勉强算分段线性)不是为此设计的。
B 错:卷积核靠反向传播学习,池化没有可学习参数。
C 错:统一各通道均值方差是归一化层(BatchNorm)的作用。
第3题(答案:C —— 各主成分按方差贡献从大到小排列,且都是原始特征的线性组合)
3、关于主成分分析(PCA)降维,下列说法正确的是?
关于主成分分析(PCA)降维,下列说法正确的是?
解析:PCA 对协方差矩阵做特征分解,每个主成分是一个特征向量方向的投影,是原始特征的线性组合;特征值越大对应投影方差越大,因此按方差贡献从大到小排列,C 正确。
A 错:PCA 是无监督方法,不使用样本标签。
B 错:「让不同类别间隔尽可能大」是 LDA(线性判别分析)的优化目标。
D 错:PCA 依据方差选方向,量纲大的特征方差天然大、会主导主成分,通常需要先标准化。
第4题(答案:B —— 准确率(Accuracy))
4、评测大模型的数学解题能力时,常用约 5200 道带唯一标准答案的中学数学题组成的数据集。对这类题目,最常用的评测指标是?
评测大模型的数学解题能力时,常用约 5200 道带唯一标准答案的中学数学题组成的数据集。对这类题目,最常用的评测指标是?
解析:这类固定答案的数据集(如 MATH,约 5200 道中学数学题、GSM8K 类似)每题有唯一标准答案,评测时从模型输出抽取最终答案与标准答案比对,统计答对比例,即准确率,选 B。
A 错:困惑度衡量语言建模/下一 token 预测的质量,适合开放式生成文本,不判对错。
C 错:语义相似度适合开放式问答,但「数字差一点」的两串文本相似度反而可能很高,不能判对错。
D 错:平均耗时是性能指标,与解题能力无关。
第5题(答案:C —— 存在一组不全为零的系数,使它们的线性组合等于零向量)
5、对实数域上的向量组,下列哪一条是它线性相关的等价刻画?
对实数域上的向量组,下列哪一条是它线性相关的等价刻画?
解析:线性相关的定义/等价刻画是:存在不全为零的系数 xi 使 ∑i xi vi = 0,选 C。
A 错:2-范数彼此相等与相关性无关,例如 (1,0) 与 (0,1) 范数相等却线性无关。
B 错:个数少于维度既可能相关也可能无关;反而「个数多于维度」一定相关。
D 错:「任意向量都不能由其余向量线性表出」是线性无关的等价刻画,与题意相反。
第6题(答案:B —— e-4)
6、设随机变量 X 服从参数 λ = 4 的泊松分布,则 P(X = 0) 等于?
设随机变量 X 服从参数 λ = 4 的泊松分布,则 P(X = 0) 等于?
解析:泊松分布 P(X=k) = (λk e-λ)/(k!),代入 k=0、λ=4:P(X=0) = (40 e-4)/(0!) = e-4,选 B。
A 错:1 - e-4 是 P(X ≥ 1)。
C 错:4e-4 是 P(X = 1)。
D 错:e-2 混淆了参数(如误用 λ/2)。
**速算**:P(X=0)=e-λ,与 λ 取值一一对应,看到 k=0 直接写 e-λ。
第7题(答案:B —— 让每个位置只能看到它之前的 token,防止未来信息泄漏)
7、Transformer 解码器自注意力里的因果掩码(Causal Mask)主要用来做什么?
Transformer 解码器自注意力里的因果掩码(Causal Mask)主要用来做什么?
解析:解码器生成时是逐 token 自回归的,训练时为并行计算会把整个目标序列一起喂入;因果掩码把每个位置对「未来位置」的注意力分数置为 -∞,softmax 后权重为 0,保证位置 t 只能看到 ≤ t 的 token,与推理阶段的信息可见性一致,防止未来信息泄漏,选 B。
A 错:屏蔽 padding token 用的是 padding mask,与因果掩码是两种掩码。
C 错:注意力头之间的权重分配不是掩码做的事。
D 错:顺序信息由位置编码提供,不经过掩码。
第8题(答案:A —— NHWC)
8、1 × 1 卷积在通道数 C 很大时,哪种内存布局更利于向量化、缓存更友好?其中 B 为 batch 大小,H、W 为特征图的高和宽。
1 × 1 卷积在通道数 C 很大时,哪种内存布局更利于向量化、缓存更友好?
解析:1 × 1 卷积的本质是对每个空间位置的 C 维通道向量做一次矩阵乘法(输入通道 → 输出通道的加权求和)。NHWC 布局下同一空间位置的 C 个通道值在内存中连续存放,做这个 1×1 卷积(一个 C × C′ 的矩阵乘)时按内存顺序读取、SIMD 向量化效率高、缓存命中好,选 A。这也是多数推理引擎(如 TensorFlow Lite、TensorRT 的部分 kernel)对 INT8 卷积选 NHWC 的原因。
B 错:NCHW 把同一空间位置的各通道分开存放(间隔 H × W),做 1×1 卷积要跨大步长取数,缓存不友好。NCHW 更适合卷积核滑窗类计算。
C 错:NHCW 不是常见标准布局,通道维没有按空间位置聚在一起,同样不友好。
D 错:每通道一个文件是存储/序列化方式,与推理时的内存布局无关。
第9题(答案:C —— 由当前输入 xt 和上一时刻的隐藏状态 ht-1 共同决定)
9、循环神经网络展开到时刻 t 时,隐藏状态 ht 由哪些量决定?
循环神经网络展开到时刻 t 时,隐藏状态 ht 由哪些量决定?
解析:RNN 的递推式是 ht = f(Wx xt + Wh ht-1 + b),当前隐藏状态由当前输入与上一时刻隐藏状态共同决定,这也是「循环」的含义——历史信息通过 ht-1 一步步传递下来,选 C。
A 错:只看当前输入就退化为无记忆的前馈网络。
B 错:只看 ht-1 就忽略了新输入。
D 错:xT 只是最后一个输入,隐藏状态是逐步递推的,不直接由它决定。
第10题(答案:C —— 0.72)
10、某二分类模型的精确率为 0.6,召回率为 0.9,该模型的 F1 分数是?
某二分类模型的精确率为 0.6,召回率为 0.9,该模型的 F1 分数是?
解析:F1 是精确率 P 与召回率 R 的调和平均:
F1 = (2PR)/(P+R) = (2 × 0.6 × 0.9)/(0.6 + 0.9) = (1.08)/(1.5) = 0.72
选 C。
A 错:0.75 是算术平均 (0.6+0.9)/2,F1 用的是调和平均,偏向较小值。
B 错:0.54 是乘积 P × R,没有除以 P+R。
D 错:0.68 无对应公式,纯干扰项。
**速算**:2 × 0.6 × 0.9 = 1.08,0.6 + 0.9 = 1.5,1.08 / 1.5 = 0.72。