神经网络试题

一、单项选择题（每题 2 分，共 40 分）​

1. 以下关于人工智能发展历史的描述，正确的是（ ）​

A. 达特茅斯会议首次提出 “人工智能” 概念，标志着人工智能进入繁荣期​

B. 专家系统的成功应用是人工智能第二次低谷期的主要原因​

C. 深度学习的兴起解决了传统神经网络梯度消失等关键问题，推动人工智能进入新阶段​

D. 图灵测试在人工智能发展初期就已被广泛应用于衡量机器智能水平​

答案：C​

解析：达特茅斯会议标志着人工智能的诞生，并非进入繁荣期，A 错误；专家系统的成功是人工智能发展的一个阶段，不是低谷期原因，B 错误；图灵测试虽提出较早，但在当时受技术限制，并未广泛应用，D 错误；深度学习通过改进网络结构等解决梯度问题，推动人工智能发展，C 正确。​

1. 若机器学习模型在训练集上表现良好，但在测试集上误差较大，该模型出现了（ ）​

A. 欠拟合​

B. 过拟合​

C. 正常拟合​

D. 数据偏差问题​

答案：B​

解析：过拟合表现为模型在训练集上性能好，在测试集等新数据上性能差；欠拟合则是在训练集上性能就不佳，所以选 B。​

1. 在线性回归的极大似然估计中，假设误差服从（ ）​

A. 均匀分布​

B. 泊松分布​

C. 正态分布​

D. 指数分布​

答案：C​

解析：在线性回归的极大似然估计推导中，通常假设误差服从正态分布，这样能基于概率最大化推导出最小二乘法等常用的参数估计方法，所以选 C。​

1. 当使用 Sigmoid 函数作为激活函数时，神经网络容易出现梯度消失，主要原因是（ ）​

A. 函数值域为 (0, 1)​

B. 函数在两端的导数趋近于 0​

C. 函数是非线性的​

D. 函数存在饱和区​

答案：B​

解析：Sigmoid 函数在输入值很大或很小时，其导数趋近于 0，在反向传播中，梯度经过多层连乘后会变得极小，导致梯度消失，B 正确；值域、非线性、存在饱和区不是梯度消失的直接原因。​

1. 关于卷积神经网络中的卷积核，下列说法错误的是（ ）​

A. 卷积核的大小决定了感受野的范围​

B. 不同卷积核可以提取不同的图像特征​

C. 卷积核的参数在训练过程中是固定不变的​

D. 增加卷积核数量可以增加输出特征图的通道数​

答案：C​

解析：卷积核的参数在训练过程中会通过反向传播算法不断更新优化，以学习到更有效的图像特征，C 选项说法错误，其余选项均正确。​

1. 双向循环神经网络（Bi - RNN）相比单向 RNN 的优势在于（ ）​

A. 减少计算量​

B. 更好地利用序列前后文信息​

C. 完全解决梯度消失问题​

D. 降低模型参数数量​

答案：B​

解析：Bi - RNN 包含前向和后向两个方向的循环层，能同时利用序列的前文和后文信息，在处理如自然语言处理等任务时比单向 RNN 更具优势；它会增加计算量和参数数量，也不能完全解决梯度消失问题，所以选 B。​

1. 在使用 Adam 优化算法时，其自适应调整学习率的依据是（ ）​

A. 梯度的一阶矩估计和二阶矩估计​

B. 损失函数的大小​

C. 模型参数的数量​

D. 训练数据的批次大小​

答案：A​

解析：Adam 算法结合了动量法和 RMSProp 算法的优点，通过计算梯度的一阶矩估计（即梯度的均值）和二阶矩估计（即梯度的未中心化的方差）来自适应调整每个参数的学习率，所以选 A。​

1. 多头注意力机制（Multi - Head Attention）中 “多头” 的作用是（ ）​

A. 增加计算复杂度，提升模型性能​

B. 从不同表示子空间中捕捉信息​

C. 替代卷积操作提取特征​

D. 减少模型参数数量​

答案：B​

解析：多头注意力机制通过多个 “头” 在不同的表示子空间中计算注意力，能从不同角度捕捉输入序列的信息，综合这些信息可以得到更丰富、全面的特征表示，B 正确；增加计算复杂度不是目的，也不能替代卷积操作，会增加参数计算量但不是减少参数数量。​

1. 下列关于集成学习 Bagging 和 Boosting 框架的对比，正确的是（ ）​

A. Bagging 的基学习器之间相互依赖，Boosting 的基学习器相互独立​

B. Bagging 主要用于分类问题，Boosting 主要用于回归问题​

C. Bagging 通过减少方差提升性能，Boosting 通过减少偏差提升性能​

D. Bagging 对弱学习器的提升效果比 Boosting 更显著​

答案：C​

解析：Bagging 的基学习器相互独立，并行训练，主要通过减少方差提升整体性能；Boosting 的基学习器依次训练，相互依赖，通过减少偏差提升性能；二者均可用于分类和回归问题，Boosting 对弱学习器的提升效果更明显，所以选 C。​

1. 生成对抗网络（GAN）训练过程中，生成器的目标是（ ）​

A. 尽可能生成让判别器误判为真实数据的样本​

B. 准确区分生成数据和真实数据​

C. 最小化真实数据的分类误差​

D. 最大化生成数据与真实数据的差异​

答案：A​

解析：GAN 中生成器的目标是生成逼真的数据，使判别器难以区分是真实数据还是生成数据，即让判别器误判，A 正确；B 是判别器的目标；C、D 与生成器目标不符。​

1. 关于 Transformer 结构中的位置编码（Positional Encoding），说法正确的是（ ）​

A. 因为 Transformer 使用自注意力机制，所以不需要位置编码​

B. 位置编码是为了让模型区分输入序列中不同位置的元素​

C. 位置编码仅在编码器部分使用​

D. 位置编码是通过学习得到的参数​

答案：B​

解析：Transformer 的自注意力机制本身不具备对序列顺序的感知能力，位置编码用于为每个位置赋予一个独特的编码，使模型能够区分输入序列中不同位置的元素；位置编码在编码器和解码器都使用，且一般是固定的编码方式，不是学习得到的参数，所以选 B。​

1. 下列哪种正则化方法可以产生稀疏模型（即让部分参数为 0）？（ ）​

A. L1 正则化​

B. L2 正则化​

C. Dropout​

D. Batch Normalization​

答案：A​

解析：L1 正则化在损失函数中添加参数的绝对值之和，会使部分参数变为 0，从而产生稀疏模型；L2 正则化使参数趋近于 0 但不为 0；Dropout 是随机失活神经元；Batch Normalization 是归一化操作，均不能产生稀疏模型，所以选 A。​

1. 在多任务学习中，共享底层网络参数的主要目的是（ ）​

A. 减少模型训练时间​

B. 增加模型参数数量​

C. 利用不同任务间的相关性提高泛化能力​

D. 降低模型对数据量的需求​

答案：C​

解析：多任务学习通过共享底层网络参数，能利用不同任务之间的相关性，使模型学习到更通用的特征表示，从而提高在各个任务上的泛化能力；共享参数不一定减少训练时间，会减少参数数量，也不能直接降低对数据量的需求，所以选 C。​

1. 对于残差网络（ResNet），当网络层数增加时，其性能表现通常是（ ）​

A. 持续下降，出现梯度消失问题​

B. 持续提升，不会出现性能饱和​

C. 先提升后饱和，有效缓解梯度消失​

D. 先下降后提升，因为网络更难训练​

答案：C​

解析：ResNet 通过引入残差块结构，在网络层数增加时，能有效缓解梯度消失问题，使得网络性能先随着层数增加而提升，达到一定程度后性能趋于饱和，而不是持续下降或持续提升，也不是先下降后提升，所以选 C。​

1. 迁移学习中，当源任务和目标任务的数据分布差异较大时，通常采用的策略是（ ）​

A. 直接使用源任务模型参数初始化目标任务模型​

B. 仅微调源任务模型的最后一层参数​

C. 对源任务模型进行对抗训练，减小分布差异​

D. 放弃迁移学习，重新训练模型​

答案：C​

解析：当源任务和目标任务数据分布差异大时，直接使用源任务模型参数初始化或仅微调最后一层参数效果不佳；可以通过对抗训练等方式，使模型学习到更具通用性的特征，减小分布差异，从而实现有效迁移；直接放弃迁移学习过于绝对，所以选 C。​

1. 关于自注意力机制（Self - Attention）的计算过程，下列顺序正确的是（ ）​

A. 计算注意力权重→计算 Query、Key、Value→加权求和​

B. 计算 Query、Key、Value→计算注意力权重→加权求和​

C. 加权求和→计算 Query、Key、Value→计算注意力权重​

D. 计算注意力权重→加权求和→计算 Query、Key、Value​

答案：B​

解析：自注意力机制首先根据输入计算 Query、Key、Value，然后通过 Query 和 Key 计算注意力权重，最后根据注意力权重对 Value 进行加权求和得到输出，所以选 B。​

1. 以下关于 LSTM 变体 GRU（门控循环单元）的描述，错误的是（ ）​

A. GRU 相比 LSTM 结构更简单，参数更少​

B. GRU 的更新门同时承担了 LSTM 中遗忘门和输入门的部分功能​

C. GRU 在处理长序列数据时，完全不会出现梯度消失问题​

D. GRU 通过门控机制控制信息的流动​

答案：C​

解析：GRU 通过更新门和重置门控制信息流动，相比 LSTM 结构简单、参数少，更新门融合了遗忘门和输入门部分功能；但它仍然不能完全避免梯度消失问题，只是在一定程度上缓解，C 选项说法错误，其余选项均正确。​

1. 在数据预处理中，对于图像数据进行随机翻转、裁剪等操作，属于（ ）​

A. 数据标准化​

B. 数据增强​

C. 数据归一化​

D. 数据降维​

答案：B​

解析：对图像数据进行随机翻转、裁剪等操作是为了扩充数据集，增加数据的多样性，提高模型的泛化能力，属于数据增强操作；数据标准化和归一化是对数据的数值分布进行调整，数据降维是减少数据的特征维度，所以选 B。​

1. 下列关于前馈神经网络反向传播算法的描述，错误的是（ ）​

A. 反向传播算法基于链式求导法则计算梯度​

B. 反向传播算法从输出层开始，将误差逐层反向传播​

C. 反向传播算法只能用于训练全连接神经网络​

D. 反向传播算法通过计算梯度来更新网络参数​

答案：C​

解析：反向传播算法基于链式求导法则，从输出层开始将误差反向传播计算各层参数梯度，进而更新参数；它不仅可用于全连接神经网络，也可用于卷积神经网络等其他包含可学习参数的神经网络结构，C 选项说法错误，其余选项均正确。​

1. 多视角学习中，融合不同视角数据的方式不包括（ ）​

A. 早期融合，在数据输入阶段直接拼接​

B. 中期融合，在特征提取中间层进行融合​

C. 晚期融合，在模型输出结果阶段融合​

D. 随机融合，无规则地组合不同视角数据​

答案：D​

解析：多视角学习中，常见的融合方式有早期融合（数据输入阶段拼接）、中期融合（特征提取中间层融合）、晚期融合（模型输出结果阶段融合），这些融合方式都有明确的策略和目的；随机融合不是正规的融合方式，所以选 D。​

二、填空题（每空 2 分，共 30 分）​

1. 人工神经网络的发展历史中，感知机模型由于无法解决______问题，导致了神经网络发展的第一次低谷。​

答案：异或​

解析：感知机只能处理线性可分问题，而异或问题是线性不可分的，这一局限性使得人们对神经网络的研究热情降低，导致了第一次低谷。​

1. 机器学习的模型评估指标中，用于衡量分类模型准确率的常用指标是______。​

答案：准确率（Accuracy）​

解析：准确率是分类模型中常用的评估指标，计算方式为分类正确的样本数除以总样本数。​

1. 前馈神经网络中，若隐藏层神经元数量过多，容易出现______问题，导致模型在训练集上表现很好，但在测试集上性能下降。​

答案：过拟合​

解析：隐藏层神经元过多会使模型学习能力过强，过度拟合训练数据中的噪声和特殊情况，在新数据上泛化能力变差。​

1. 卷积神经网络中，池化层的主要作用是______和降低计算量。​

答案：减少特征图尺寸（或下采样）​

解析：池化层通过对特征图进行下采样操作，减少其尺寸，降低后续计算量，同时在一定程度上能提高模型的鲁棒性。​

1. LSTM 结构中，控制细胞状态中信息输出的门是______门。​

答案：输出​

解析：LSTM 中输出门根据当前输入和细胞状态决定哪些信息将被输出到下一个隐藏状态。​

1. 网络优化算法中，Adagrad 算法通过累积______来自适应调整学习率。​

答案：梯度的平方​

解析：Adagrad 算法对每个参数的学习率进行自适应调整，通过累积之前所有时刻梯度的平方，使得频繁更新的参数学习率变小，不频繁更新的参数学习率相对较大。​

1. 自注意力模型计算注意力权重时，常用的计算方式是通过 Query 和 Key 的______操作。​

答案：点积（或内积）​

解析：自注意力机制中，通常将 Query 和 Key 进行点积运算，然后通过缩放和 Softmax 函数得到注意力权重。​

1. 集成学习中，Boosting 框架的基学习器是______生成的，后一个学习器会重点关注前一个学习器误分类的样本。​

答案：串行​

解析：Boosting 框架中基学习器依次训练，前一个学习器训练完成后，根据其结果调整样本权重，后一个学习器针对难分类样本进行训练，是串行生成方式。​

1. 生成模型中，变分自编码器（VAE）通过引入______来学习数据的潜在分布。​

答案：变分推断​

解析：VAE 利用变分推断的方法，通过近似复杂的后验分布，学习数据的潜在分布，从而实现数据生成等功能。​

1. 多任务学习中，若不同任务之间存在冲突，可能会导致模型在某些任务上的性能______。​

答案：下降​

解析：当多任务学习中不同任务的目标和特征存在冲突时，共享参数可能无法同时满足所有任务的需求，导致在某些任务上性能变差。​

1. 残差网络中的残差块结构通过______连接，使得网络在加深层数时能有效缓解梯度消失问题。​

答案：跳跃（或恒等）​

解析：残差块通过跳跃连接将输入直接加到输出上，使得梯度可以更直接地反向传播，在增加网络层数时有效缓解梯度消失。​

1. 迁移学习中，根据源任务和目标任务的相似程度，迁移的方式可以分为同构迁移和______迁移。​

答案：异构​

解析：迁移学习中，同构迁移指源任务和目标任务结构相似，异构迁移则是任务结构不同，根据任务相似程度可分为这两种迁移方式。​

1. 数据预处理中的归一化操作，常见的有 Min - Max 归一化和______归一化。​

答案：Z - Score（或标准化）​

解析：Min - Max 归一化将数据缩放到指定区间，Z - Score 归一化（标准化）使数据均值为 0，方差为 1，是两种常见的归一化方式。​

1. 在 Transformer 结构中，编码器的输出会作为解码器中______注意力机制的 Key 和 Value。​

答案：交叉​

解析：Transformer 解码器在处理输入时，会使用交叉注意力机制，将编码器的输出作为 Key 和 Value，自身的输入作为 Query，以获取编码器提取的特征信息。​

1. 深度学习模型训练过程中，若出现梯度爆炸问题，可能导致模型参数变为______值。​

答案：无穷（或 NaN，或无效）​

解析：梯度爆炸时，梯度值过大，在更新参数过程中可能使参数变为无穷大或无效值（如 NaN），导致模型无法正常训练。