人工智能能力边界发生什么变化?如何判断AGI、推理和智能体是否可信?
展开参考答案与解析 (1)人工智能的能力由人工编写规则,发展为从数据中学习规律,进一步扩展到内容生成、复杂推理、工具调用和环境交互。
(2)讨论AGI时,应区分跨任务泛化能力、长期自治能力和经济价值,不能用单一榜单分数替代上述不同定义。
(3)可信性应通过新任务、陌生环境和重复试验验证,并检查任务成功率、概率校准、过程可追溯性以及失败后的拒答、恢复和人工接管能力。因此,能力增强只有在适用范围明确、结果可验证且失败可控时,才能转化为可靠的工程能力。
来源:
第一讲 第7, 9, 15, 20, 21, 22页。页码为文件物理页序或幻灯片序号。
为什么高准确率模型仍不一定可部署?
展开参考答案与解析 高准确率只是模型在特定测试条件下的统计表现,不能充分说明系统满足工程使用要求。
(1)在任务性能方面,应检查少数故障的漏检率、误报率及新设备、新工况上的泛化能力。
(2)在部署性能方面,应检查告警提前量、推理延迟、内存、能耗、可用度和维修成本。
(3)在失效处置方面,应具备未知输入检测、人工复核、故障恢复和版本回滚机制。
因此,模型是否可部署,应由统计性能、工程约束和失效处置能力共同决定。
来源:
第一讲 第10, 12, 13, 22页。页码为文件物理页序或幻灯片序号。
为旋转机械设计故障诊断研究方案,怎样回答引用、泄漏、拒答和接管追问?
展开参考答案与解析 可按以下步骤设计旋转机械故障诊断研究。
(1)明确诊断对象、故障类别和使用工况,记录设备编号、采样率、转速、载荷及传感器位置。
(2)先按设备或独立采集记录划分训练集、验证集和测试集,再在各组内部切窗;标准化参数仅由训练集估计,防止数据泄漏。
(3)设置经典特征+SVM、普通CNN和待研究模型,在相同数据划分及训练条件下进行对照与消融试验。
(4)报告各类召回率、F1和混淆矩阵,并利用未见设备或工况检验泛化,利用预测区间或置信校准评价不确定性。
(5)核验引用与标签来源,对低置信度或未知故障设置拒识和人工复核流程,明确模型的使用边界及接管责任。
来源:
第一讲 第19, 24, 25页;
第三讲 第15, 16页。页码为文件物理页序或幻灯片序号。
欠拟合、过拟合、正则化与训练/验证/测试集如何区分?
展开参考答案与解析 欠拟合是模型未充分学习数据规律,通常训练和测试误差均较大;过拟合是模型过度拟合训练样本及噪声,表现为训练误差较小而测试误差较大。正则化通过限制模型复杂度、权重或训练过程减小过拟合风险。
训练集用于估计参数,验证集用于选择结构、超参数及阈值,独立测试集用于最终评价泛化能力。在设备时序任务中,应先按设备或独立记录分组,再各自切窗,标准化参数只由训练集拟合。
来源:
第一讲 第11, 24, 25页;
KP2-1 第15, 17页;
第五讲 第43页。页码为文件物理页序或幻灯片序号。
分类指标和回归指标:不能只看准确率 题目条件
故障为正类,TP=8、FN=2、FP=4、TN=86,求准确率、精确率、召回率和F1。另求观测[1,2,3]、预测[1,3,2]的MSE和RMSE。
展开参考答案与解析 (1)分类指标:
Accuracy=\frac{TP+TN}{TP+TN+FP+FN}=\frac{94}{100}=94\%
Precision=\frac{TP}{TP+FP}=\frac{8}{12}=\frac{2}{3}\approx 66.67\%
Recall=\frac{TP}{TP+FN}=\frac{8}{10}=80\%
{F}_{1}=\frac{2TP}{2TP+FP+FN}=\frac{16}{22}\approx 0.7273
准确率虽高,但仍漏检了2个故障样本,因此必须同时检查故障召回率与漏检代价。
(2)回归指标:
MSE=\frac{{0}^{2}+{1}^{2}+(-1{)}^{2}}{3}=\frac{2}{3}
RMSE=\sqrt{\frac{2}{3}}\approx 0.8165
MSE具有目标量的平方单位,RMSE与目标量单位相同。一张固定阈值混淆矩阵不足以唯一确定ROC-AUC。
如何把模型用于可靠性估计、监测、诊断、RUL和维修决策?
展开参考答案与解析 机器学习在可靠性工程中的主要任务包括:①可靠性估计,预测可靠度、失效率或系统失效概率;②状态监测,构造健康指标和异常分数;③故障诊断,识别、隔离故障及未知状态;④寿命预测,估计退化轨迹、失效时间和RUL分布;⑤维修决策,在风险、成本和资源约束下选择行动。
不同任务需要不同标签和指标。故障分类准确率不能直接代替可靠度,RUL也不能直接代替动作价值。应用时应明确失效定义、样本单位、运行条件和验证边界。
来源:
第一讲 第23, 24页;
KP6-1 第4, 7, 13页。页码为文件物理页序或幻灯片序号。
AI for Science和博士研究需要什么证据?
展开参考答案与解析 AI参与科学研究仍需建立“提出假设—生成方案—仿真或实验—独立复核—形成可复现知识”的证据链。
应记录数据来源、版本和独立样本单位,报告基线、划分、超参数选择、随机种子、消融及外部验证,并对结果给出误差与不确定性。
AI可以辅助检索、代码草稿和记录整理,但研究者应负责问题定义、证据核验、方法选择及因果判断。训练集拟合、仿真示例或可视化解释均不能单独替代独立验证。
来源:
第一讲 第17, 25, 34页;
第三讲 第16, 41页。页码为文件物理页序或幻灯片序号。
按第1讲“六性”框架,系统能发现输入漂移、未知输入及自身失效,主要体现哪一性? B13 单选选项 A. 测试性 B. 维修性 C. 保障性 D. 环境适应性
展开参考答案与解析 A
本课把发现失效、漂移和未知输入归入测试性;修复/回滚归入维修性,资源持续可得属于保障性,换工况仍有效属于环境适应性。
一台设备在第100天试验结束时仍正常。记录寿命时,可否把它当成第100天发生失效?“右删失”和“截尾”有什么区别?
展开参考答案与解析 不能。该记录是右删失,只知道真实失效时间T>100 ,通常记录观测时间100并标记未发生事件。删失指已进入样本的个体,其事件时间只被部分观察;截尾指是否能进入样本取决于事件时间等条件,有些个体根本不会被观测。
把未失效设备当100天失效,会把部分信息误作精确失效标签;当作无限寿命也不正确。具体建模还需说明删失机制等假设。
为什么全连接网络不适合直接处理长振动序列?
展开参考答案与解析 全连接网络直接处理长振动序列主要有两个问题。
(1)参数量大。例如2048维输入连接1024个隐藏单元,仅权重就有2048×1024=2,097,152个,增加了计算成本和小样本过拟合风险。
(2)缺少对局部重复模式的有效利用。相同冲击出现在不同位置时,全连接层使用不同权重,无法自然共享该冲击的识别模式。
CNN通过局部连接和参数共享提取重复出现的局部特征,同时显著减少参数量,因而更适合此类信号。
来源:
KP2-1 第2, 3, 11页。页码为文件物理页序或幻灯片序号。
网络越深,训练误差为什么反而可能升高?
展开参考答案与解析 网络加深后,若训练误差也升高,说明出现了优化退化,而不能仅归因于过拟合。其原因是深层普通网络难以优化,新增层未能有效学习恒等映射,梯度传递也更加困难。
残差网络将目标映射写成:
当所需映射接近恒等映射时,只需使残差分支F(x)接近0;同时其导数包含恒等项:
\frac{\partial y}{\partial x}=\frac{\partial F}{\partial x}+I
因此,残差连接提供直接的信息与梯度通路,缓解深层网络的优化退化。
来源:
KP2-2 第2, 3, 4, 6页。页码为文件物理页序或幻灯片序号。
卷积、池化、感受野、等变性和不变性如何理解?
展开参考答案与解析 (1)卷积通过局部连接和参数共享提取局部模式,同一卷积核在不同位置检测相同类型的特征。
(2)池化在局部窗口内取最大值或平均值,降低分辨率和计算量,并增强一定范围的平移鲁棒性,但可能损失微弱细节。
(3)感受野是某个输出能够依赖的输入范围,网络设计应使其覆盖任务所需的时间或空间尺度。
(4)平移等变指输入平移后特征响应相应平移;平移不变指平移后最终结果保持不变。卷积具有一定条件下的平移等变性,不能据此断言CNN对任意平移严格不变。
来源:
KP2-1 第3, 4, 8, 9, 10, 11页。页码为文件物理页序或幻灯片序号。
BN如何计算?训练和推理有什么区别?
展开参考答案与解析 批归一化先对中间特征标准化,再进行可学习的仿射变换:
\widehat{x}=\frac{x-{\mu }_{B}}{\sqrt{{\sigma }_{B}^{2}+\varepsilon }},\,y=\gamma \widehat{x}+\beta
其中μB、σB²是批次统计量,γ、β是可学习参数。BN可以稳定特征尺度,改善训练条件,并允许适当提高学习率。
训练阶段通常使用当前批次统计量并更新滑动统计量,推理阶段通常使用保存的滑动统计量。批量过小时统计估计可能不稳定,可考虑冻结统计量或使用其他归一化方法。
来源:
KP2-2 第8, 17页。页码为文件物理页序或幻灯片序号。
深度可分离卷积如何降低成本?1×1卷积做什么?
展开参考答案与解析 深度可分离卷积将标准卷积分解为逐通道卷积和逐点卷积。逐通道卷积分别提取各通道空间特征,1×1逐点卷积完成通道间线性组合。
设核大小为k×k、输入通道M、输出通道N,不计偏置,则:
{P}_{std}={k}^{2}MN,\,{P}_{sep}={k}^{2}M+MN
\frac{{P}_{sep}}{{P}_{std}}=\frac{1}{N}+\frac{1}{{k}^{2}}
因此可显著减少参数量及乘加量。1×1卷积还可用于通道升降维、特征融合和投影捷径。实际精度、时延和能耗应在目标设备上验证。
来源:
KP2-2 第9, 10, 12, 16页。页码为文件物理页序或幻灯片序号。
RNN为何能建模历史?BPTT为何有梯度问题?
展开参考答案与解析 RNN通过隐状态递推保留历史信息:
{h}_{t}=\tanh ({W}_{h}{h}_{t-1}+{W}_{x}{x}_{t}+b)
各时刻共享参数,但隐状态随输入变化,因此当前输出可以依赖此前观测。
BPTT将网络沿时间展开并反向传播。长序列的梯度包含多个雅可比矩阵连乘,连乘结果过小会导致梯度消失,过大则导致梯度爆炸。门控结构可改善长期信息传递,梯度裁剪主要缓解爆炸,截断BPTT可控制计算和显存成本,但会限制直接反传的历史范围。
来源:
KP2-3 第3, 4, 5, 6, 17, 18页。页码为文件物理页序或幻灯片序号。
LSTM三个门的作用与完整更新公式是什么?
展开参考答案与解析 LSTM由细胞状态和门控单元组成。遗忘门决定旧记忆的保留比例,输入门决定候选信息的写入比例,输出门决定当前记忆对隐状态的输出比例。
{f}_{t}=\sigma ({W}_{f}[{h}_{t-1},{x}_{t}]+{b}_{f}),\,{i}_{t}=\sigma ({W}_{i}[{h}_{t-1},{x}_{t}]+{b}_{i})
{\widetilde{C}}_{t}=\tanh ({W}_{C}[{h}_{t-1},{x}_{t}]+{b}_{C}),\,{o}_{t}=\sigma ({W}_{o}[{h}_{t-1},{x}_{t}]+{b}_{o})
{C}_{t}={f}_{t}\odot {C}_{t-1}+{i}_{t}\odot {\widetilde{C}}_{t},\,{h}_{t}={o}_{t}\odot \tanh ({C}_{t})
细胞状态的加法更新通路能够缓解普通RNN长期信息和梯度衰减问题,但不能保证任意长序列均无信息损失。
来源:
KP2-3 第8, 9, 10, 11, 18页。页码为文件物理页序或幻灯片序号。
LSTM、GRU、双向网络和TCN怎样选择?
展开参考答案与解析 GRU结构较简洁、参数较少,可作为时序任务的基线;LSTM具有独立细胞状态和更细致的门控,适合比较长历史依赖。两者沿时间递推,串行依赖较强。
TCN利用因果卷积避免未来信息泄漏,利用膨胀卷积扩大感受野,并可在训练时并行计算,但应使感受野覆盖任务所需历史。
双向网络利用位置两侧上下文,适合信息完整的离线任务。在线使用时,所有输入必须在决策时已经获得;已知历史窗口内的双向编码不应与读取预测起点之后的数据混淆。
因此,应根据可用信息、历史长度、并行效率和资源约束选择,并以同一验证协议比较性能。
理解补充与易错点(无需照写) 关键是“决策时可获得的信息”,不能仅凭模型名称判断是否泄漏。
来源:
KP2-3 第12, 13, 18页;
KP2-4 第3, 4, 6, 8, 10, 13, 17页。页码为文件物理页序或幻灯片序号。
AE怎样用于异常检测?阈值和健康指标怎样构建?
展开参考答案与解析 AE由编码器和解码器构成,通过最小化输入与重构输出的差异学习数据表示。用于异常检测时,首先用经审核的正常数据训练,再计算新样本的重构误差作为异常分数:
s(x)=\frac{1}{d}\Vert x-\widehat{x}{\Vert }_{2}^{2}
在独立验证数据上确定阈值τ,当s(x)>τ时触发报警。阈值可由正常误差分位数或误报、漏报代价确定。
重构误差的平滑趋势或隐表示到健康基准的距离可作为健康指标候选。工况变化也会提高误差,因此高异常分数不能单独证明设备故障,健康指标的趋势性和鲁棒性仍需验证。
来源:
KP2-5 第3, 4, 11, 12, 13, 15, 17页。页码为文件物理页序或幻灯片序号。
AE与PCA、去噪AE、VAE有何区别?
展开参考答案与解析 PCA通过线性投影寻找主要子空间,AE通过编码器与解码器学习压缩表示,可利用非线性映射表示更复杂的数据结构。适当条件下,线性AE可学习与PCA相同的主子空间。
普通AE以输入重构自身;去噪AE以受扰输入重构原始样本,促使模型学习稳定结构。
VAE把确定性编码扩展为潜变量概率分布,通过重构项和KL正则共同训练,生成时从先验采样后解码。普通AE未必具有规则、可采样的隐空间,而VAE显式引入先验匹配以支持生成。
来源:
KP2-5 第5, 6, 9页;
KP2-6 第2, 3, 11页。页码为文件物理页序或幻灯片序号。
VAE的ELBO、重参数化和KL项分别是什么?
展开参考答案与解析 VAE使用编码器qφ(z|x)近似潜变量后验,解码器pθ(x|z)生成或重构观测。其证据下界为:
ELBO={E}_{{q}_{\phi }(z|x)}[\log {p}_{\theta }(x|z)]-{D}_{KL}({q}_{\phi }(z|x)\Vert p(z))
第一项提高重构解释能力,第二项使近似后验与先验接近。训练最大化ELBO,或等价地最小化负ELBO。
为使采样路径可求导,采用重参数化:
z={\mu }_{\phi }(x)+{\sigma }_{\phi }(x)\odot \varepsilon ,\,\varepsilon \sim N(0,I)
随机性被移到独立噪声ε,梯度可传至μ和σ。KL过弱可能削弱先验匹配,过强可能使潜变量被忽略,应权衡重构与正则。
来源:
KP2-6 第5, 6, 8, 10, 14, 17页。页码为文件物理页序或幻灯片序号。
一维卷积手算:x=[1,3,2,5,4,1,0,2],w=[1,0,−1] 题目条件
输入x=[1,3,2,5,4,1,0,2],卷积核w=[1,0,−1]。步幅为1,不填充,偏置为0,采用不翻转核的互相关运算。
展开参考答案与解析 (1)输出长度:
(2)逐窗口计算:
{y}_{1}=1\times 1+3\times 0+2\times (-1)=-1
{y}_{2}=3\times 1+2\times 0+5\times (-1)=-2
{y}_{3}=2\times 1+5\times 0+4\times (-1)=-2
{y}_{4}=5\times 1+4\times 0+1\times (-1)=4
{y}_{5}=4\times 1+1\times 0+0\times (-1)=4
{y}_{6}=1\times 1+0\times 0+2\times (-1)=-1
(3)故输出为:
来源:
KP2-1 第4页。页码为文件物理页序或幻灯片序号。
卷积尺寸、展平维度和参数量:课件1×2048网络 题目条件
输入尺寸为1×2048。两层卷积核长均16、步幅均2、填充均0,输出通道分别为16和32;每个卷积层后接核长2、步幅2的最大池化。展平后连接128个单元。求各层尺寸和参数量,参数量计入偏置。
展开参考答案与解析 (1)卷积与池化的长度计算式为:
{L}_{out}=\left\lfloor \frac{{L}_{in}+2p-k}{s}\right\rfloor +1
第一卷积层:
{L}_{1}=\left\lfloor \frac{2048-16}{2}\right\rfloor +1=1017
第一池化层:
{L}_{2}=\left\lfloor \frac{1017-2}{2}\right\rfloor +1=508
第二卷积层:
{L}_{3}=\left\lfloor \frac{508-16}{2}\right\rfloor +1=247
第二池化层:
{L}_{4}=\left\lfloor \frac{247-2}{2}\right\rfloor +1=123
因此各层输出尺寸依次为16×1017、16×508、32×247、32×123,展平维度为32×123=3936。
(2)一维卷积参数量为:
{P}_{1}=16(16\times 1+1)=272
{P}_{2}=32(16\times 16+1)=8224
(3)全连接层参数量为:
{P}_{FC}=3936\times 128+128=503936
故两卷积层与该全连接层共计512432个参数,尚未计入后续分类输出层。
来源:
KP2-1 第7, 8, 11, 13页。页码为文件物理页序或幻灯片序号。
最大池化和平均池化:4×4矩阵,窗口2×2、步幅2 题目条件
输入矩阵如下,池化窗口为2×2,步幅为2,无填充。
X=\left[\begin{matrix}1&3&2&1\\5&2&0&4\\3&1&7&2\\2&6&1&3\end{matrix}\right]
展开参考答案与解析 (1)最大池化分别取四个不重叠窗口的最大值:左上为5,右上为4,左下为6,右下为7。因此:
{Y}_{\max }=\left[\begin{matrix}5&4\\6&7\end{matrix}\right]
(2)若改为平均池化,四个窗口的均值分别为:
\frac{1+3+5+2}{4}=2.75,\,\frac{2+1+0+4}{4}=1.75
\frac{3+1+2+6}{4}=3,\,\frac{7+2+1+3}{4}=3.25
故:
{Y}_{avg}=\left[\begin{matrix}2.75&1.75\\3&3.25\end{matrix}\right]
来源:
KP2-1 第9页。页码为文件物理页序或幻灯片序号。
感受野:卷积3/1、卷积3/1、池化2/2、卷积3/1 题目条件
网络依次为卷积(k=3,s=1)、卷积(3,1)、池化(2,2)、卷积(3,1),各层膨胀率均为1。求末层感受野。
展开参考答案与解析 设R为感受野,j为相邻输出在原输入上的间距。初始R₀=1、j₀=1,递推式为:
{R}_{l}={R}_{l-1}+({k}_{l}-1){j}_{l-1},\,{j}_{l}={j}_{l-1}{s}_{l}
第一卷积层:R₁=1+(3−1)×1=3,j₁=1。
第二卷积层:R₂=3+(3−1)×1=5,j₂=1。
池化层:R₃=5+(2−1)×1=6,j₃=2。
最后卷积层:R₄=6+(3−1)×2=10,j₄=2。
故最后一个输出对应原输入的10点感受野。
来源:
KP2-1 第10页。页码为文件物理页序或幻灯片序号。
可分离卷积:k=3,输入/输出通道M=N=64 题目条件
二维卷积核为3×3,输入、输出通道均为64。比较标准卷积和深度可分离卷积的权重数,不计偏置,深度倍率为1。
展开参考答案与解析 (1)标准卷积权重数:
{P}_{std}={k}^{2}MN={3}^{2}\times 64\times 64=36864
(2)深度可分离卷积包括逐通道和逐点两部分:
{P}_{DW}={3}^{2}\times 64=576,\,{P}_{PW}=64\times 64=4096
(3)两者比值及减少比例为:
\frac{{P}_{sep}}{{P}_{std}}=\frac{4672}{36864}\approx 12.67\%
1-\frac{4672}{36864}\approx 87.33\%
故可分离卷积权重数降为原来的约12.67%,减少约87.33%,约缩小7.89倍。
来源:
KP2-2 第9, 10页。页码为文件物理页序或幻灯片序号。
TCN感受野:单层堆叠和每块两卷积怎样算? 题目条件
卷积核大小k,步幅1,膨胀率依次为1、2、4、……。分别求单层堆叠和每残差块含两层卷积时的感受野;求k=3时覆盖1024点至少需要多少个双卷积块。
展开参考答案与解析 (1)每个膨胀率只使用一层,共L层时:
R=1+(k-1)\overset{L-1}{\underset{l=0}{\sum }}{2}^{l}=1+(k-1)({2}^{L}-1)
当k=2、L=4时,R=16;当k=3、L=10时,R=2047。
(2)每块含两层且块内膨胀率相同,共B块时:
当k=3时:
(3)要求R≥1024,即:
B=8时R=1021,不满足;B=9时R=2045,满足。因此至少需要9个残差块,共18层膨胀卷积。
理解补充与易错点(无需照写) 单层堆叠、膨胀率1,2,…,2^(L−1)、步幅1:R=1+(k−1)(2^L−1)。k=2,L=4时R=16;k=3,L=10时R=2047。
每个残差块有两层、两层采用同一膨胀率,B块:R=1+2(k−1)(2^B−1)。k=3时R=2^(B+2)−3,B=4/6/8/10分别为61/253/1021/4093。
补充练习:要覆盖1024点,k=3、每块两层,B=8仅1021,不够;B=9给2045,因此至少9块。不能混用层数L与块数B。
来源:
KP2-4 第7, 8, 9, 10页。页码为文件物理页序或幻灯片序号。
LSTM一步更新:给定门值怎样计算? 题目条件
给定标量细胞状态Cₜ₋₁=2,遗忘门fₜ=0.8,输入门iₜ=0.3,候选状态C̃ₜ=0.5,输出门oₜ=0.6,求Cₜ和hₜ。
展开参考答案与解析 (1)细胞状态更新:
{C}_{t}={f}_{t}{C}_{t-1}+{i}_{t}{\widetilde{C}}_{t}=0.8\times 2+0.3\times 0.5=1.75
(2)隐状态输出:
{h}_{t}={o}_{t}\tanh ({C}_{t})=0.6\tanh (1.75)\approx 0.564825
故更新后的细胞状态为1.75,隐状态约为0.5648。
来源:
KP2-3 第9, 10, 11页。页码为文件物理页序或幻灯片序号。
AE重构误差:MSE与平方范数能否混用? 题目条件
AE输入x=[1,2,3],重构x̂=[1,1,4],以均方重构误差为异常分数,阈值τ=0.5,判断是否报警。
展开参考答案与解析 (1)平方误差和为:
\Vert x-\widehat{x}{\Vert }_{2}^{2}={0}^{2}+{1}^{2}+(-1{)}^{2}=2
(2)均方重构误差为:
s(x)=\frac{1}{3}\Vert x-\widehat{x}{\Vert }_{2}^{2}=\frac{2}{3}\approx 0.6667
(3)因为0.6667>0.5,故该样本触发异常报警。
平方误差和2与均方误差2/3是不同的分数定义,判断时必须与阈值的定义一致。
来源:
KP2-5 第4, 11, 12页。页码为文件物理页序或幻灯片序号。
VAE重参数化和高斯KL项 题目条件
μ=[1,0],σ=[1,2],ε=[0.5,−1],先验N(0,I)。另给重构损失Lrec=2、β=0.1,求潜变量、KL和加权总损失。
展开参考答案与解析 (1)重参数化采样:
z=\mu +\sigma \odot \varepsilon =[1+1\times 0.5,\text{ }0+2\times (-1)]=[1.5,-2]
(2)对角高斯相对标准正态的KL为:
{D}_{KL}=\frac{1}{2}\underset{j}{\sum }({\mu }_{j}^{2}+{\sigma }_{j}^{2}-1-\ln {\sigma }_{j}^{2})
{D}_{KL}=\frac{1}{2}[(1+1-1-\ln 1)+(0+4-1-\ln 4)]
=\frac{1}{2}(4-\ln 4)\approx 1.306853
(3)总损失:
L={L}_{rec}+\beta {D}_{KL}=2+0.1\times 1.306853\approx 2.130685
故z=[1.5,−2],KL约1.3069,总损失约2.1307。
理解补充与易错点(无需照写) 补充设定二维μ=[1,0],σ=[1,2],ε=[0.5,−1]。z=μ+σ⊙ε=[1.5,−2]。
对角高斯q=N(μ,diag σ²)、先验N(0,I):KL=0.5Σ(μ_j²+σ_j²−1−ln σ_j²)。本例=0.5[(1+1−1−0)+(0+4−1−ln4)]≈1.306853。
若题目定义Lrec=2、β=0.1,则L=2+0.1×KL≈2.130685。重构和KL按同一批次、维度归约口径计算;这里是补充数值,不是课件原数值。
来源:
KP2-6 第6, 8, 14页。页码为文件物理页序或幻灯片序号。
关于ResNet的残差块,下列哪一项正确? B01 单选选项 A. BasicBlock通常依次采用1\times1 、3\times3 、1\times1 卷积。 B. Bottleneck通常先用1\times1 卷积降维,在低维通道上做3\times3 卷积,再用1\times1 卷积升维。 C. 两分支通道数不同,也可以直接逐元素相加。 D. 恒等捷径必须为每个输入位置学习独立权重。
展开参考答案与解析 B
BasicBlock通常包含两层3\times3 卷积;Bottleneck是1\times1 降维→3\times3 →1\times1 升维。残差相加要求形状一致,必要时用投影捷径匹配维度;恒等捷径直接传递输入。
按本课GRU约定h_t=(1-z_t)h_{t-1}+z_t\widetilde h_t ,给定h_{t-1}=2 、\widetilde h_t=-1 、z_t=0.2 ,h_t 等于多少? B02 单选(含一步计算)选项 A. -0.4 B. 0.6 C. 1.4 D. 2.2
展开参考答案与解析 C
h_t=0.8\times2+0.2\times(-1)=1.4.
本课把
z_t 乘在候选状态上,
z_t 接近0时保留旧状态,接近1时写入候选状态。不同资料的符号约定可能相反,应先看给定公式。
关于欠完备、稀疏和去噪自编码器,下列哪一项正确? B03 单选选项 A. 稀疏AE的隐层维度必须小于输入维度。 B. 去噪AE以人为加噪后的输入本身作为唯一重构目标。 C. L=L_{\mathrm{rec}}+\lambda\lVert h\rVert_1 中的L_1 项直接惩罚网络权重,而非隐层激活。 D. 稀疏AE可以有较宽隐层,但通过激活惩罚或平均激活率约束限制其表示。
展开参考答案与解析 D
欠完备AE限制潜变量维度;稀疏AE限制激活,可保留较宽隐层。式中的h 是隐层激活。去噪AE从人为受扰输入重构未加该扰动的原始样本。
某台训练设备在第200个时刻失效,记录包含t=1 至200共200个时刻、21个传感器。规定\mathrm{RUL}(t)=\min(125,200-t) ,无填充滑窗长度30、步长5,窗口标签取窗口末端RUL。计算t=50 、t=180 的标签、窗口总数和单窗张量形状;并说明怎样划分数据以避免泄漏。
展开参考答案与解析 标签分别为125和20;窗口总数为
N_{\mathrm{win}}=\left\lfloor\frac{200-30}{5}\right\rfloor+1=35.
按时间×传感器排列时,单窗为
30\times21 。先按设备个体划分训练/验证/测试,再在各集合内切窗;只用训练集拟合各传感器的标准化统计量。
125是本题指定的截断上限,不能当成所有RUL任务的固定常数。若把同一设备相邻、重叠窗口分到训练与测试集合,会高估泛化能力。题中窗口数公式由无填充切窗定义直接得到。
在卷积神经网络中,“参数共享”机制不仅显著减少了模型参数量,还赋予了网络特定的归纳偏置(Inductive Bias)。下列关于参数共享本质及其作用的描述中,最准确的是: HAN-PRE-2-1-01 单选题选项 A. 参数共享意味着所有卷积层使用完全相同的权重矩阵,从而强制网络在不同深度提取相同特征 B. 参数共享是指同一个卷积核在输入特征图的不同空间位置滑动时复用同一组权重,这使得网络对输入特征的平移具有等变性 C. 参数共享通过将全连接层的权重矩阵分块对角化来实现,其主要目的是消除特征之间的空间相关性 D. 参数共享仅作用于卷积核的通道维度,旨在减少多通道输入时的计算冗余,与空间位置无关
展开参考答案与解析 平台答案: B
平台解析: A错误,不同卷积层或同一层的不同卷积核拥有独立权重;C错误,参数共享并非全连接的分块对角化,且保留了局部空间相关性;D错误,参数共享核心在于空间维度的权重复用,而非仅限于通道维度。B正确,参数共享的定义即同一滤波器在空间上滑动复用权重,这种机制使得若输入图像发生平移,输出特征图也会相应平移(平移等变性),这是CNN处理视觉任务的核心先验之一。
知识点: 参数共享(parameter sharing)
最大池化(Max Pooling)是CNN中常用的下采样手段。关于最大池化的机制与特性,下列描述正确的有: HAN-PRE-2-1-02 多选题选项 A. 最大池化层不含可学习参数,其前向传播过程是确定性的非线性选择操作 B. 最大池化通过选取局部区域最大值,提供了对小范围平移和形变的鲁棒性,但这种不变性是局部的、近似的 C. 在反向传播过程中,梯度仅传递给前向传播时被选为最大值的那个神经元,其余位置梯度为零 D. 最大池化总是比平均池化更优,因为它能更好地保留纹理细节并加速收敛
展开参考答案与解析 平台答案: ABC
平台解析: A正确,池化无权重,max操作是非线性的;B正确,池化提供的是局部平移不变性(Small Translation Invariance),并非全局绝对不变;C正确,这是Max Pooling反向传播的标准规则(Gradient Routing);D错误,"总是更优"表述绝对化,平均池化在某些需保留整体强度或背景信息的任务中可能更好,且Max Pooling易丢失非最大值处的微弱信号。
知识点: 池化:最大池化
参数共享机制使得卷积神经网络对输入图像的平移具有等变性(equivariance),即输入平移会导致输出特征图相应平移。 HAN-PRE-2-1-03 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 由于同一卷积核在所有位置使用相同权重,输入图像的平移会导致特征图产生相同的平移,这正是平移等变性的定义。注意:等变性(equivariance)不同于不变性(invariance),后者通常由池化等操作提供。
知识点: 参数共享(parameter sharing)
在深层卷积神经网络中,最后一层卷积神经元的理论感受野大小仅由该层的卷积核尺寸决定,与前层结构无关。 HAN-PRE-2-1-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 理论感受野是逐层累积的。第 n 层的感受野 R_n = R_{n-1} + (k_n - 1) \times \prod_{i=1}^{n-1} s_i ,明显依赖于前面所有层的核大小和步长乘积。仅由当前层核大小决定的说法完全错误,忽略了感受野的递归累积本质。
知识点: 感受野(receptive field)
朱睦晨 · 课前小测 · KP2-1 · 原第 4 题 · 答案与解析 来源资料答案: 错
来源资料解析: 理论感受野是逐层累积的。第 n 层的感受野 R_n = R_{n-1} + (k_n - 1) \times \prod_{i=1}^{n-1} s_i ,明显依赖于前面所有层的核大小和步长乘积。仅由当前层核大小决定的说法完全错误,忽略了感受野的递归累积本质。
知识点: 感受野(receptive field)
关于卷积神经网络中的“感受野(Receptive Field)”,在多级串联的振动信号特征提取网络中,以下描述正确的是: HAN-PRE-2-1-05 单选题选项 A. 感受野大小仅由第一层卷积核尺寸决定 B. 随着网络层数加深,深层神经元的感受野逐渐增大 C. 池化操作会减小后续层的感受野 D. 感受野越大,提取的特征越偏向高频细节
展开参考答案与解析 平台答案: B
平台解析: 感受野是指输出特征图上一个点对应输入信号的区域大小。随着卷积和池化层的堆叠,深层神经元聚合了更大范围的输入信息,因此感受野逐层增大,有利于捕捉长周期的退化趋势。A项错误,感受野受所有前序层影响;C项错误,池化通过下采样扩大感受野;D项错误,大感受野对应低频或全局趋势,小感受野才对应高频细节。
知识点: 感受野(receptive field)
在振动信号的CNN特征提取过程中,“参数共享”机制带来了以下哪些具体优势? HAN-PRE-2-1-06 多选题选项 A. 使得同一故障特征在信号任意时刻出现均能被检测 B. 显著减少了需要训练的权重参数总量 C. 自动实现了信号的降噪和平滑 D. 降低了模型对训练样本数量的需求
展开参考答案与解析 平台答案: ABD
平台解析: 参数共享赋予了平移等变性(A),大幅削减参数量(B),由于模型容量更紧凑且具备归纳偏置,因此在相同性能下通常需要更少的样本(D)。C项错误,参数共享本身不包含降噪逻辑,降噪依赖于核的学习结果或池化等操作。
知识点: 参数共享(parameter sharing)
在边缘设备上部署基于深度可分离卷积的模型时,除了理论计算量外,还需考虑实际推理延迟。下列因素中,会影响深度可分离卷积实际加速效果的有? HAN-PRE-2-2-01 多选题选项 A. 逐通道卷积的内存访问成本(MAC)较高,因其计算密度低于标准卷积 B. 逐点卷积虽计算量小,但在某些硬件上算子启动开销占比大 C. 深度可分离卷积天然支持更大的Batch Size,从而提升了吞吐量 D. 框架是否对深度可分离卷积进行了底层融合优化(如Conv-BN-ReLU融合)
展开参考答案与解析 平台答案: ABD
平台解析: A正确,DWConv计算/访存比低,易受内存带宽限制。B正确,大量小算子会增加调度开销。D正确,算子融合是提升实际速度的关键。C错误,深度可分离卷积本身不改变Batch Size的选择逻辑,且小Batch下其优势可能被访存瓶颈抵消。本题考查理论与工程的差距。
知识点: 深度可分离卷积(depthwise separable convolution)、逐点卷积(pointwise convolution)、批归一化(batch normalization)
在设计用于边缘计算的轻量化网络时,关于“逐点卷积(Pointwise Convolution)”在深度可分离卷积结构中的作用,下列理解正确的是: HAN-PRE-2-2-02 单选题选项 A. 主要用于提取空间纹理特征,弥补深度卷积感受野不足的缺陷 B. 仅用于降维操作,必须配合全局平均池化层使用才能生效 C. 负责跨通道的信息交互与线性组合,实现通道维度的特征融合 D. 替代批归一化层的功能,通过对每个像素点进行归一化来加速收敛
展开参考答案与解析 平台答案: C
平台解析: A项错误,空间特征提取由深度卷积完成;B项错误,逐点卷积可用于升维或降维,且不依赖GAP;D项错误,逐点卷积是卷积操作,不具备BN的统计归一化功能。C项正确, 1\times1 卷积(逐点卷积)的核心作用是在保持空间尺寸不变的前提下,对深度卷积输出的各通道特征进行加权求和,实现跨通道信息融合。
知识点: 深度可分离卷积(depthwise separable convolution)、逐点卷积(pointwise convolution)
在ResNet-50及以上深度的网络设计中,普遍采用Bottleneck结构替代BasicBlock。从工程落地与参数效率角度分析,这种设计选择的主要动机是: HAN-PRE-2-2-03 单选题选项 A. Bottleneck包含更多的卷积层,因此具有更强的非线性表达能力,直接提升了模型精度 B. 利用 1\times1 卷积进行降维和升维,大幅减少了中间 3\times3 卷积的计算量和参数量,使构建更深网络成为可能 C. Bottleneck结构天然集成了注意力机制,能够自动抑制背景噪声区域的响应 D. BasicBlock无法与Batch Normalization兼容,只有Bottleneck才能在每个卷积后插入BN层
展开参考答案与解析 平台答案: B
平台解析: A项虽有一定道理但非主要动机,核心是效率;C项错误,Bottleneck本身不含注意力机制;D项错误,BasicBlock同样兼容BN。B项正确,对于256通道的输出,BasicBlock需两个 3\times3\times256 卷积,而Bottleneck通过 1\times1 降至64通道再做 3\times3 卷积再升回256,参数量和FLOPs显著降低,这是ResNet能扩展到50/101/152层的关键。
知识点: 残差连接(residual connection / ResNet)
下列关于深层网络退化问题与残差连接关系的表述中,正确的有: HAN-PRE-2-2-04 多选题选项 A. 退化问题的出现说明简单地堆叠更多层并不一定能提升模型性能,甚至可能导致训练误差上升 B. 残差连接通过允许梯度无损地跨越多层反向传播,有效缓解了深层网络的优化困难 C. 残差网络中的恒等映射路径意味着网络至少能达到与浅层网络相当的性能,不会因深度增加而退化 D. 退化问题仅存在于全连接网络中,卷积神经网络由于权值共享天然免疫该问题
展开参考答案与解析 平台答案: ABC
平台解析: D项错误,退化问题在CNN中同样存在,正是ResNet论文在CIFAR-10上用纯卷积网络验证的。A、B、C均正确描述了退化现象的本质、残差的优化优势及其性能下界保证。
知识点: 深层网络退化问题、残差连接(residual connection / ResNet)
朱睦晨 · 课后小测 · KP2-2 · 原第 2 题 · 答案与解析 来源资料答案: ABC
来源资料解析: D项错误,退化问题在CNN中同样存在,正是ResNet论文在CIFAR-10上用纯卷积网络验证的。A、B、C均正确描述了退化现象的本质、残差的优化优势及其性能下界保证。
知识点: 深层网络退化问题;残差连接(residual connection / ResNet)
Batch Normalization在推理阶段仍然需要接收一个batch的数据来计算均值和方差,以保证与训练阶段行为一致。 HAN-PRE-2-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: BN在推理阶段使用训练期间通过指数移动平均累积得到的全局均值和方差,这些参数在模型导出时已固定。推理时无论输入是单张还是多张,都使用相同的固定统计量,无需也不应重新计算batch统计量。
知识点: 批归一化(batch normalization)
朱睦晨 · 课后小测 · KP2-2 · 原第 3 题 · 答案与解析 来源资料答案: 错
来源资料解析: BN在推理阶段使用训练期间通过指数移动平均累积得到的全局均值和方差,这些参数在模型导出时已固定。推理时无论输入是单张还是多张,都使用相同的固定统计量,无需也不应重新计算batch统计量。
知识点: 批归一化(batch normalization)
深层网络的“退化问题”是指随着网络层数增加,模型在测试集上的准确率持续下降的现象,这本质上是由严重的过拟合导致的,因此可以通过增加数据增强或正则化手段完全解决。 HAN-PRE-2-2-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 退化问题的关键特征是训练误差也随层数增加而上升,这排除了过拟合作为主因的可能性。它是优化困难的表现,而非泛化问题。数据增强和正则化针对过拟合,对退化问题无效甚至可能加剧优化难度。He等人提出残差连接才是针对性解决方案。
知识点: 深层网络退化问题
下列关于LSTM门控与状态机制的描述,正确的有? HAN-PRE-2-3-01 多选题选项 A. 三类门控单元的输入均包含上一时刻隐藏状态 h_{t-1} 和当前时刻输入 x_t B. 门控系数通过sigmoid函数映射到0~1区间,通过逐元素乘法控制信息流 C. 细胞状态通道的加性更新结构在遗忘门接近1时有助于长期梯度传播 D. 隐藏状态 h_t 既用于当前时刻预测,也会传递到下一时间步
展开参考答案与解析 平台答案: ABCD
平台解析: LSTM三类门均以 h_{t-1} 和 x_t 为输入,通过sigmoid生成0~1区间的系数逐元素控制信息流;细胞状态的加性更新结构利于长期梯度传播,更新得到的 h_t 同时服务于当前预测和下一时刻计算。
知识点: LSTM:输入门、LSTM:遗忘门、LSTM:输出门、LSTM:细胞状态(cell state)
下列关于LSTM门控单元与细胞状态的说法,正确的有? HAN-PRE-2-3-02 多选题选项 A. 三类门控单元均以sigmoid作为激活函数,输出0~1之间的逐元素系数 B. 细胞状态通道仅包含逐元素乘和加操作,减少了连续非线性变换对梯度传播的影响 C. 遗忘门系数接近1时,对应位置的历史信息会被大量抑制 D. 当前隐藏状态 h_t 既用于当前时刻的预测,也会传递到下一时间步
展开参考答案与解析 平台答案: ABD
平台解析: 遗忘门系数接近1表示保留对应位置的历史信息,接近0才表示抑制,因此C错误,其余选项均正确。
知识点: LSTM:输入门、LSTM:遗忘门、LSTM:输出门、LSTM:细胞状态(cell state)
GRU包含遗忘门、输入门、输出门共3个门控单元,参数量比LSTM更多。 HAN-PRE-2-3-03 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: GRU仅包含更新门和重置门2个门控单元,不单独维护细胞状态,参数量少于包含3个门的LSTM。
知识点: GRU门控简化
在沿时间展开的普通循环神经网络(RNN)计算图中,关于不同时间步的模型参数,下列说法正确的是() HAN-PRE-2-3-04 单选题选项 A. 每个时间步使用独立的参数组,不存在参数共享机制 B. 全部时间步共享同一组参数,体现时间维度的参数共享特性 C. 仅输入层参数跨时间步共享,隐状态层参数各时间步独立 D. 仅输出层参数跨时间步共享,其余参数各时间步独立
展开参考答案与解析 平台答案: B
平台解析: 普通RNN在所有时间步重复使用同一组参数,体现时间维参数共享特性,沿时间展开后可视为深度等于序列长度的计算图,能够以固定参数规模处理不同长度的序列。
知识点: RNN结构与时间展开
下列关于LSTM门控机制缓解梯度消失的核心原理,描述正确的是? HAN-PRE-2-3-05 单选题选项 A. LSTM将所有激活函数替换为sigmoid,避免梯度为0 B. 细胞状态的更新以逐元素乘法和加法为主,当遗忘门取值接近1时,梯度可以沿细胞状态通道较稳定地传递 C. LSTM取消了沿时间的反向传播,不需要计算跨时间步的梯度 D. LSTM通过增加参数量完全消除了梯度连乘操作
展开参考答案与解析 平台答案: B
平台解析: LSTM的细胞状态通道为长期信息和梯度传递提供了稳定路径,遗忘门接近1时梯度衰减大幅降低;选项A错误,LSTM仍使用 \tanh 激活;选项C错误,LSTM仍使用沿时间反向传播(BPTT)训练;选项D错误,LSTM仍存在梯度连乘,只是缓解而非消除梯度消失。
知识点: 梯度消失问题
GRU不单独维护独立的细胞状态,而是通过更新门和重置门直接对隐藏状态进行更新,整体参数量通常少于LSTM。 HAN-PRE-2-3-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: GRU是LSTM的简化结构,仅设置2类门控、仅维护隐藏状态,参数量低于拥有3类门控和细胞状态+隐藏状态双状态的LSTM。
知识点: GRU门控简化
下列关于BiLSTM与BiGRU在梯度传播特性上的比较,符合现代深度学习理论认知的是: HAN-PRE-2-4-01 单选题选项 A. BiLSTM因有独立的细胞状态 c_t ,其梯度消失问题比BiGRU更严重 B. BiGRU由于缺少输出门,无法有效控制长期记忆的写入,导致梯度爆炸风险更高 C. 两者均通过门控机制缓解梯度消失,但BiLSTM的遗忘门提供了更精细的记忆擦除控制 D. BiGRU的反向传播路径更短,因此在所有序列长度下梯度稳定性都优于BiLSTM
展开参考答案与解析 平台答案: C
平台解析: LSTM和GRU都通过门控解决梯度消失。LSTM的遗忘门 f_t 可学习选择性地遗忘旧记忆,提供更细粒度的记忆管理;GRU的更新门 z_t 同时控制新旧信息混合,虽简洁但在某些需要精确记忆控制的复杂任务中可能不如LSTM灵活。A错误,LSTM通常梯度更稳定;B错误,GRU并无更高爆炸风险;D过于绝对,“所有序列长度”不成立。
知识点: BiLSTM
导论示范篇#80中展示的BiGRU模型,其后向分支的输入必须是原始序列的时间反转版本,否则无法正确捕获未来上下文信息。 HAN-PRE-2-4-02 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: BiRNN的定义要求后向分支从 T 到 1 处理序列。若直接输入原始顺序,后向分支仍按 1\to T 运行,其状态不包含未来信息,导致双向机制失效。因此,时间反转是实现“双向”的必要预处理步骤。该结论与示范篇#80的实现细节一致。
知识点: BiGRU
在评估双向RNN变体(BiRNN/BiLSTM/BiGRU)对梯度传播的鲁棒性时,应考虑的因素包括: HAN-PRE-2-4-03 多选题选项 A. 门控结构中Sigmoid函数的饱和程度 B. 双向路径是否共享权重 C. 隐藏状态维度大小 D. 是否存在独立的细胞状态通道
展开参考答案与解析 平台答案: AD
平台解析: Sigmoid饱和导致梯度趋零(A相关);独立细胞状态提供梯度高速公路(D相关)。权重共享(B)影响参数效率但不直接决定梯度流稳定性;隐藏维度(C)影响容量,但与梯度消失/爆炸无直接因果关系。
知识点: 双向RNN(BiRNN)、BiLSTM、BiGRU
因果卷积(causal convolution)在序列建模中的核心约束是: HAN-PRE-2-4-04 单选题选项 A. 卷积核权重在所有时间步上共享 B. 输出序列长度必须等于输入序列长度 C. t时刻的输出仅依赖于t时刻及之前的输入,不泄露未来信息 D. 卷积操作必须在频域中完成以提高效率
展开参考答案与解析 平台答案: C
平台解析: 因果卷积的定义性特征是严格的时间因果性,即任意时刻t的输出只能由t及更早时刻的输入决定,确保模型可用于自回归生成或实时预测。A项是所有CNN的共性;B项可通过填充实现但不是因果性的本质;D项与因果性无关。
知识点: 因果卷积(causal convolution)
时间卷积网络(TCN)相较于传统RNN类模型的优势包括: HAN-PRE-2-4-05 多选题选项 A. 支持并行计算,训练效率更高 B. 梯度传播路径稳定,缓解梯度消失/爆炸问题 C. 感受野大小可通过超参数灵活控制 D. 天然支持变长序列的动态处理无需填充
展开参考答案与解析 平台答案: ABC
平台解析: A正确,卷积操作可并行;B正确,TCN通常结合残差连接和固定深度,梯度流更稳定;C正确,通过调整层数和膨胀因子可精确控制感受野。D错误,TCN作为卷积网络通常需固定长度输入或通过填充处理变长序列,不如RNN天然支持动态长度。【知识点】时间卷积网络(TCN)
知识点: 时间卷积网络(TCN)
BiGRU相比BiLSTM减少了门控数量,因此在所有序列建模任务上都表现更差。【答案】错 HAN-PRE-2-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 虽然BiGRU结构更简单,但在许多任务上性能与BiLSTM相当甚至更好,尤其在数据量小或过拟合风险高时。"所有任务都更差"是错误绝对化表述。
知识点: BiGRU
朱睦晨 · 课前小测 · KP2-4 · 原第 5 题 · 答案与解析 来源资料答案: 错
来源资料解析: 虽然BiGRU结构更简单,但在许多任务上性能与BiLSTM相当甚至更好,尤其在数据量小或过拟合风险高时。"所有任务都更差"是错误绝对化表述。
知识点: BiGRU
在过完备自编码器中,只要隐层维度足够大,即使不使用任何正则化或稀疏约束,模型也能自动学习到数据的低维流形结构,因为高维空间天然包含低维结构。 HAN-PRE-2-5-01 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 过完备AE在无约束时,由于参数自由度远超数据维度,优化器极易找到使重构误差为零的平凡解(如恒等映射或近似恒等映射),此时隐层并未提取数据的内在低维结构,而是记住了输入本身。高维空间虽包含低维结构,但无约束优化不会自动偏好该结构,必须通过显式约束(如稀疏、降噪、收缩等)引导模型发现它。
知识点: 过完备AE(overcomplete)
欠完备自编码器的瓶颈层维度越小,其学到的表示就越具鲁棒性,因为更强的压缩过滤了更多噪声。 HAN-PRE-2-5-02 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 瓶颈层维度过小会导致信息丢失过多,不仅滤除噪声,也丢失了信号的关键结构,使表示失真甚至无法区分不同类别样本。鲁棒性需在信息保留与噪声抑制间取得平衡,并非维度越小越好。过度压缩可能导致表示坍塌或对微小扰动极度敏感(因流形扭曲)。
知识点: 欠完备AE(undercomplete)
某研究团队使用自编码器进行数据降维与去噪。他们发现,当逐渐减小瓶颈层的维度时,训练集上的重构损失呈现先缓慢上升、后急剧上升的趋势。结合编码器与解码器的协同工作机制,以下对该现象的综合分析最合理的是? HAN-PRE-2-5-03 单选题选项 A. 重构损失急剧上升说明解码器出现了梯度消失,与瓶颈层维度无关。 B. 缓慢上升阶段是因为编码器正在丢弃数据中的噪声和次要方差;急剧上升阶段是因为瓶颈层容量已低于数据内在流形的最低维度要求,导致核心结构信息被破坏。 C. 重构损失的任何上升都意味着模型训练失败,应当始终选择使重构损失最小的最大瓶颈层维度。 D. 瓶颈层维度越小,编码器和解码器之间的参数量越大,导致优化过程陷入局部最优解。
展开参考答案与解析 平台答案: B
平台解析: 自编码器的编码器负责压缩,解码器负责还原。当瓶颈层维度逐渐减小时,网络首先会丢弃对重构贡献最小的成分(通常是噪声或极小的方差方向),此时重构损失缓慢上升,这正是降维和去噪所期望的过程。然而,当瓶颈层维度继续减小,甚至低于数据真实内在流形(intrinsic manifold)的维度时,网络被迫丢弃包含主要结构信息的特征,解码器将无法拼凑出合理的重构结果,导致重构损失急剧上升。A 归因于梯度消失不合理;C忽略了降维本身就会带来一定的重构代价;D 中“参数量越大”表述错误,瓶颈层变小通常会减少参数总量。
知识点: 编码器(encoder)、解码器(decoder)、瓶颈层(bottleneck)、重构损失(reconstruction loss)
下列关于欠完备自编码器(undercomplete AE)的说法,正确的是() HAN-PRE-2-5-04 单选题选项 A. 隐层维度大于输入维度,无需额外约束即可学习到数据的有效特征 B. 隐层维度小于输入维度,通过限制隐层表征的容量迫使模型捕捉数据的核心规律 C. 隐层维度与输入维度完全相等,训练目标是实现输入的逐像素完美复制 D. 训练过程中不需要计算重构损失,仅依靠瓶颈层的维度约束即可收敛
展开参考答案与解析 平台答案: B
平台解析: 欠完备自编码器的核心特点是隐层(瓶颈层)维度小于输入维度,通过限制模型容量避免恒等映射,从而学习数据的关键特征,训练仍需最小化重构损失。
知识点: 瓶颈层(bottleneck)、欠完备AE(undercomplete)
关于欠完备自编码器与主成分分析(PCA)的关系及差异,下列分析正确的有: HAN-PRE-2-5-05 多选题选项 A. 当欠完备AE使用线性激活且MSE损失时,其学到的隐空间等价于PCA的主成分子空间 B. 欠完备AE通过使用非线性激活函数,能够捕获数据中的非线性流形结构,这是线性PCA无法做到的 C. PCA总是比欠完备AE重构误差更小,因为PCA是MSE下的全局最优线性变换 D. 欠完备AE的瓶颈层维度选择类似于PCA中选择主成分个数,但可通过端到端训练自动适应数据结构
展开参考答案与解析 平台答案: ABD
平台解析: A正确,线性AE+MSE等价于PCA。B正确,非线性AE扩展了PCA能力。D正确,维度 k 的选择逻辑相似,但AE可联合优化。C错误,非线性AE在非线性数据上重构误差通常小于线性PCA;即使在线性情况下,两者误差相当,PCA并不“总是更小”。
知识点: 欠完备AE(undercomplete)
在设计面向高维基因表达数据的稀疏自编码器时,为同时实现生物标志物识别与降噪重构,以下哪些设计要素是必要且合理的? HAN-PRE-2-5-06 多选题选项 A. 采用过完备结构以容纳潜在的多种调控模块 B. 施加稀疏惩罚以确保每个隐藏单元对应少数关键基因 C. 使用对称的编码器-解码器权重绑定以减少参数量 D. 选择 L_1 型稀疏惩罚而非KL散度以促进精确的特征选择
展开参考答案与解析 平台答案: ABD
平台解析: 基因数据高维且存在模块化调控,过完备AE(A)可提供足够容量表达多个模块;稀疏惩罚(B)确保每个模块由少量基因驱动,增强可解释性; L_1 惩罚产生精确零值,利于筛选标志性基因,而KL散度仅使激活趋近目标值但不一定为零(D正确)。权重绑定(C)虽可减少参数,但在基因数据中表达与调控机制可能不对称,强制对称可能损害生物学合理性,故非必要。
知识点: 稀疏AE:稀疏惩罚
关于证据下界(ELBO)中重构项与KL正则项的相互作用,下列分析正确的有: HAN-PRE-2-6-01 多选题选项 A. 重构项鼓励后验 q_\phi(z|x) 集中分布于能解释 x 的区域,而KL项鼓励后验贴近先验 p(z) ,两者存在内在张力。 B. 若完全移除KL正则项,ELBO退化为标准AE的重构损失,模型将丧失生成新样本的能力。 C. KL正则项的值在训练初期通常很大,随着训练进行逐渐减小至0,这表明模型已完美拟合数据。 D. 在某些变体(如 \beta -VAE)中,通过调节KL项系数可以控制隐变量的解耦程度与重构质量的 trade-off。
展开参考答案与解析 平台答案: ABD
平台解析: C项错误,KL项趋近于0意味着后验等于先验,即隐变量不含信息(后验坍缩),这通常是训练失败或正则过强的表现,而非“完美拟合”。A、B、D正确描述了ELBO两项的博弈关系、必要性及可调性。
知识点: 证据下界(ELBO)
朱睦晨 · 课后小测 · KP2-6 · 原第 2 题 · 答案与解析 来源资料答案: ABD
来源资料解析: C项错误,KL项趋近于0意味着后验等于先验,即隐变量不含信息(后验坍缩),这通常是训练失败或正则过强的表现,而非“完美拟合”。A、B、D正确描述了ELBO两项的博弈关系、必要性及可调性。
知识点: 证据下界(ELBO)
ELBO中的KL散度项 D_{\mathrm{KL}}(q_\phi(z|x) \| p(z)) 越小,说明编码器输出的近似后验分布越接近预设的先验分布。 HAN-PRE-2-6-02 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: KL散度衡量两个分布的差异,其值为0当且仅当两分布相同。因此KL项越小,表明 q_\phi(z|x) 与 p(z) 越相似,这正是该正则项的优化目标。
知识点: KL散度正则项
在 VAE 训练中,若发现重构损失已降至很低,但生成样本模糊且缺乏多样性,同时监测到 D_{\mathrm{KL}}(q_\phi(z|x) \| p(z)) 的值非常小(接近 0)。为了诊断并解决这一问题,下列基于 ELBO 理论的分析与调整策略中最合理的是: HAN-PRE-2-6-03 单选题选项 A. KL 过小表明模型欠拟合,应增加编码器容量以提高互信息。 B. 这是典型的后验坍缩,应减小 KL 项权重 \beta 以释放隐变量表达能力。 C. 问题在于解码器过强或 KL 约束过紧,应尝试增大 \beta 或削弱解码器自回归能力,迫使模型利用隐变量传递信息。 D. 应改用均匀分布作为先验 p(z) ,因为高斯先验的尾部衰减过快抑制了隐变量的活跃性。
展开参考答案与解析 平台答案: C
平台解析: 现象描述为“重构好但生成差+KL≈0”,这是后验坍缩的典型特征,即编码器放弃了 z ,解码器仅凭自身能力重构。A 错误,增加编码器容量不能解决解码器绕过 z 的问题。B 错误,减小 \beta 会进一步弱化 KL 约束,加剧坍缩(模型更不需要用 z 来满足 KL)。D 错误,更换先验不是解决坍缩的首选方案,且均匀分布在无界空间不可定义。C 正确,增大 \beta ( \beta -VAE)会强制 KL 不能太小,迫使 q(z|x) 偏离 p(z) 以携带信息;或削弱解码器使其必须依赖 z 才能完成重构,这两种策略均基于 ELBO 两项权衡的原理。
知识点: 证据下界(ELBO)
考虑重参数化技巧在高维隐空间中的行为。设 z \in \mathbb{R}^d , d 很大。下列关于 \epsilon \sim \mathcal{N}(0, I_d) 采样对梯度估计影响的分析,正确的是: HAN-PRE-2-6-04 单选题选项 A. 随着 d 增大, \|\epsilon\|^2 集中在 d 附近,导致 z 的模长波动剧烈,使得梯度估计的方差随 d 线性增长,这是 VAE 难以扩展到高维的主要原因。 B. 重参数化梯度 \nabla_\phi \mathcal{L} 的方差与维度 d 无关,因为每个维度的采样是独立的,方差可加性被归一化抵消。 C. 尽管 \epsilon 的各分量独立,但目标函数 \log p(x|z) 通常是 z 各分量的非线性耦合函数,导致高维下梯度估计的信噪比下降,需采用控制变量或分层采样等方差缩减技术。 D. 高维下应采用球面坐标重参数化,因为笛卡尔坐标下的 \epsilon 采样在高维空间中几乎全部落在超球壳上,导致径向梯度信息丢失。
展开参考答案与解析 平台答案: C
平台解析: A 错误,虽然 \|\epsilon\|^2 \approx d ,但重参数化梯度的方差并不简单随 d 线性增长,且 VAE 已成功应用于较高维场景。B 错误,方差与 d 相关,尤其当 f(z) 耦合时。D 错误,球面坐标并非标准做法,且径向信息并未丢失,只是集中。C 正确,指出了高维重参数化的真实挑战:尽管采样独立,但函数耦合导致梯度方差受维度影响,实践中确需方差缩减技术。这体现了对重参数化技巧局限性的深度理解。
知识点: 重参数化技巧(reparameterization trick)
朱睦晨 · 课前小测 · KP2-6 · 原第 5 题 · 答案与解析 来源资料答案: C
来源资料解析: A 错误,虽然 \|\epsilon\|^2 \approx d ,但重参数化梯度的方差并不简单随 d 线性增长,且 VAE 已成功应用于较高维场景。B 错误,方差与 d 相关,尤其当 f(z) 耦合时。D 错误,球面坐标并非标准做法,且径向信息并未丢失,只是集中。C 正确,指出了高维重参数化的真实挑战:尽管采样独立,但函数耦合导致梯度方差受维度影响,实践中确需方差缩减技术。这体现了对重参数化技巧局限性的深度理解。
知识点: 重参数化技巧(reparameterization trick)
从生成模型的视角评估 VAE,下列关于其生成质量与隐空间特性的说法,正确的有: HAN-PRE-2-6-05 多选题选项 A. VAE 生成的样本往往比 GAN 模糊,主要原因之一是 ELBO 中的重构项通常采用像素级独立高斯假设,忽略了像素间的强相关性。 B. 隐空间的连续性保证了任意两点间的插值都能生成语义合理的过渡样本,这是 VAE 优于 GAN 的核心优势。 C. 若先验 p(z) 与聚合后验 q_\phi(z) 差距较大,则在先验区域采样时可能落入“空洞”(Holes),导致生成无效样本,这反映了 ELBO 优化的不充分。 D. VAE 的生成过程是 z \sim p(z) \to x \sim p_\theta(x|z) ,该过程不依赖任何训练数据,因此是完全无监督的,与编码器无关。
展开参考答案与解析 平台答案: ABC
平台解析: A 正确,像素独立性假设是导致模糊的经典解释。B 正确,连续隐空间插值是 VAE 的标志性优势。C 正确,先验-聚合后验不匹配导致的空洞问题是 VAE 生成的已知缺陷。D 错误,虽然生成过程形式上不依赖数据,但 p_\theta 是通过编码器-解码器联合训练得到的,编码器塑造了隐空间结构,进而决定了 p_\theta 的有效性;说“与编码器无关”割裂了 VAE 的整体性。
知识点: 生成视角
在 VAE 训练中,若采用 \beta -VAE 目标 \mathcal{L}_\beta = \text{Recon} - \beta \cdot \text{KL} ,当 \beta 远大于 1 时,模型会优先满足 KL 约束,导致隐变量各维度趋于独立(解耦),但这是以牺牲重构质量为代价的,且这种解耦性是 ELBO 数学形式的必然结果,与数据本身的特性无关。 HAN-PRE-2-6-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 前半部分关于 \beta > 1 导致解耦与重构权衡的描述正确。但后半句“与数据本身的特性无关”是错误的。解耦性的获得不仅依赖于 \beta ,还强烈依赖于数据是否具有潜在的因子化结构。若数据本身高度纠缠,即使 \beta 很大,模型也可能无法学到有意义的解耦表示,或仅学到平凡解。解耦是模型归纳偏置与数据统计特性共同作用的结果。
知识点: 证据下界(ELBO)
计算一个二维卷积层的参数量时,输入通道数为 C_{in}=64 ,输出通道数为 C_{out}=128 ,卷积核大小为 3\times3 ,采用分组卷积(Group Convolution),组数 g=4 。该层的参数量(不含偏置)为: 此题存在等价选项,保留平台原文;核对时不计分,详见解析补注。
HAN-POST-2-1-01 单选题选项 A. 3 \times 3 \times 64 \times 128 = 73728 B. 3 \times 3 \times (64/4) \times (128/4) \times 4 = 18432 C. 3 \times 3 \times 64 \times (128/4) = 18432 D. 3 \times 3 \times (64/4) \times 128 = 18432
展开参考答案与解析 平台答案: B
合并审查补注 · 选项歧义 平台答案保留为 B,但 B、C、D 的算式均等于 3\times3\times64\times128/4=18432 ,都是分组卷积总参数量的等价写法。按题干“参数量为”无法唯一选出 B;原解析将 C、D 判为错误的理由不成立。本题不计入自动评分。知识点: 参数共享(parameter sharing)
在针对高速列车轴箱轴承的早期微弱故障诊断中,研究人员设计了一种特殊的一维卷积神经网络以处理非平稳振动信号。该网络第一层采用宽度 k=4 的卷积核(偶数核宽),步长 s=3 ,输入信号序列长度 L_{in}=128 。为了在保持特征对齐的同时尽可能减少边界信息损失,工程师采用了非对称填充策略:左侧填充 p_L=1 ,右侧填充 p_R=2 。若不考虑膨胀率(即 d=1 ),根据通用输出尺寸计算公式,该卷积层输出的特征图长度 L_{out} 应为多少?此题旨在考查在非标准参数组合下对离散卷积边界取整规则的工程应用能力。 HAN-POST-2-1-02 单选题选项 A. 42 B. 43 C. 44 D. 45
展开参考答案与解析 平台答案: B
知识点: 卷积运算、步长(stride)、填充(padding)
某旋转机械振动监测系统中,输入的一维加速度信号长度为 L_{in}=1024 ,使用长度为 K=7 的卷积核,步长 S=2 ,无填充(Padding=0)。根据卷积输出尺寸公式,该卷积层的输出序列长度 L_{out} 为: HAN-POST-2-1-03 单选题选项 A. 509 B. 512 C. 508 D. 510
展开参考答案与解析 平台答案: A
平台解析: 一维卷积输出长度计算公式为 L_{\mathrm{out}}=\lfloor(L_{\mathrm{in}}-K+2P)/S\rfloor+1 。代入数值: L_{\mathrm{out}}=\lfloor(1024-7+0)/2\rfloor+1=\lfloor1017/2\rfloor+1=508+1=509 。B、C、D均为计算错误或公式误用导致的干扰项。
知识点: 卷积运算
卷积神经网络中的平移不变性(translation invariance)完全是由卷积层的参数共享(parameter sharing)单独实现的,与池化(pooling)操作无关。 HAN-POST-2-1-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 参数共享赋予了网络“平移等变性”(translation equivariance),即输入平移会导致特征图产生相同的平移,但并不能保证最终的分类结果不变。真正的“平移不变性”是由卷积的参数共享与池化操作共同实现的。池化(尤其是最大池化)通过在局部区域内取极值或均值,吸收了特征位置的微小变化,使得即使特征在局部发生轻微平移,池化后的输出依然保持不变。因此,平移不变性并非由参数共享单独实现。
知识点: 参数共享(parameter sharing)、平移不变性(translation invariance)
在针对低速重载轴承的振动故障诊断任务中,由于故障冲击信号极其微弱且重复周期较长,有观点认为:“只要网络最终通过全局平均池化获得了平移不变性特征,那么在前端下采样过程中使用较大的池化窗口(如 8\times1 )加速计算就是安全的,因为平移不变性保证了无论下采样如何压缩,故障类别的可分性都不会受到影响。”请判断该观点是否正确。 HAN-POST-2-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 该观点是错误的,它混淆了“平移不变性”的实现条件与“下采样过程中信息保留”的物理约束。首先,平移不变性是网络末端全局池化的结果,并不能反向保证前端下采样过程的无损性。其次,对于低速重载轴承,其故障冲击往往幅值低、持续时间短、信噪比差。若在前端使用过大的池化窗口(如 8\times1 ),即使后续有平移不变性,微弱的冲击峰值也可能在下采样阶段被平滑掉或被相邻强噪声主导,导致特征空间中不同故障类别的流形重叠甚至坍塌。换言之,平移不变性解决的是“特征位置变化不影响分类”的问题,但前提是“特征本身在下采样后依然存在于特征图中”。如果下采样过度破坏了原始信号的物理结构,平移不变性便失去了作用对象。因此,下采样比例必须依据信号中故障特征的时域尺度和信噪比进行自适应设计,而非仅依赖平移不变性作为安全保障。
知识点: 池化:最大池化、池化:平均池化、下采样(downsampling)、平移不变性(translation invariance)
在轻量化网络设计中,深度可分离卷积相比标准卷积在计算量(FLOPs)上的优势主要源于( )。 HAN-POST-2-2-01 单选题选项 A. 减少了激活函数的调用次数 B. 将密集的空间-通道联合相关计算解耦为稀疏的空间相关和轻量级通道组合 C. 使用了更低精度的浮点数运算 D. 自动剪枝了不重要的卷积核权重
展开参考答案与解析 平台答案: B
平台解析: 标准卷积同时在空间和通道维度上进行密集计算,复杂度与 K^2 C_{\mathrm{in}}C_{\mathrm{out}} 成正比。深度可分离卷积将其解耦:深度卷积仅在空间维度操作( K^2 C_{\mathrm{in}} ),逐点卷积仅在通道维度操作( C_{\mathrm{in}}C_{\mathrm{out}} )。这种解耦避免了每个输出元素都需要遍历所有输入通道和空间位置的乘加运算,从而大幅降低计算量。
知识点: 深度可分离卷积(depthwise separable convolution)、逐点卷积(pointwise convolution)
若某网络层使用了批归一化,则在训练过程中,该层之前的偏置项(bias)通常可以被省略,原因是( )。 HAN-POST-2-2-02 单选题选项 A. BN层本身不包含任何可学习参数 B. BN的归一化操作会抵消前一层偏置产生的常数偏移效应 C. 偏置项会导致梯度消失 D. 现代深度学习框架不支持BN与bias共存
展开参考答案与解析 平台答案: B
平台解析: BN首先对输入进行中心化(减去均值),这意味着无论前一层的偏置 b 取何值,都会在减均值操作中被消除。随后BN通过可学习的 \beta 重新引入偏移。因此,前一层保留bias是冗余的,不仅浪费参数,还可能影响训练效率。实践中通常在BN前的卷积或全连接层中禁用bias。
知识点: 批归一化(batch normalization)
在设计轻量化卷积网络时,若将标准 3\times3 卷积替换为深度可分离卷积,下列影响分析正确的有( )。 HAN-POST-2-2-03 多选题选项 A. 模型参数量显著减少 B. 理论计算量(FLOPs)显著减少 C. 模型的表达能力一定下降 D. 实际硬件推理速度一定成比例提升
展开参考答案与解析 平台答案: AB
平台解析: 深度可分离卷积通过解耦计算,确实大幅降低了参数量和FLOPs(A、B正确)。虽然单看理论容量有所下降,但在足够深的网络中配合其他技术,性能损失可控,“一定下降”过于绝对(C错误)。实际推理速度受内存访问、并行度等因素影响,深度卷积在某些硬件上并行效率低,未必能达到理论加速比(D错误)。
知识点: 深度可分离卷积(depthwise separable convolution)
在残差网络中,跳跃连接(Shortcut)必须是严格的恒等映射,不能包含任何参数或变换。( ) HAN-POST-2-2-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 当输入输出维度不一致时,必须使用带参数的投影快捷方式(如 1\times1 卷积)来匹配维度。此外,某些变体(如ResNeXt、SE-ResNet)也在shortcut中引入了变换。恒等映射只是特例,而非强制约束。
知识点: 残差连接(residual connection / ResNet)、跳跃连接(skip connection)
朱睦晨 · 课前小测 · KP2-2 · 原第 2 题 · 答案与解析 来源资料答案: 错
来源资料解析: 当输入输出维度不一致时,必须使用带参数的投影快捷方式(如 1\times1 卷积)来匹配维度。此外,某些变体(如ResNeXt、SE-ResNet)也在shortcut中引入了变换。恒等映射只是特例,而非强制约束。
知识点: 残差连接(residual connection / ResNet);跳跃连接(skip connection)
在设计面向移动端实时语义分割的轻量化骨干网络时,需在保持特征表达能力的同时严格限制FLOPs。关于BasicBlock与Bottleneck两种残差块变体的选择策略,下列工程决策及其理论依据最合理的是: HAN-POST-2-2-05 单选题选项 A. 优先选用BasicBlock,因其参数量更少且无1×1卷积带来的额外内存访问开销,适合算力受限设备 B. 优先选用Bottleneck,虽然总参数量略多,但通过1×1卷积降维显著减少了3×3卷积的计算量,在相同FLOPs预算下可堆叠更多层数以提升精度 C. 两者FLOPs完全相同,但Bottleneck因包含更多激活函数而具有更强的非线性表达能力,故应无条件优先选用 D. BasicBlock适用于通道数<256的场景,Bottleneck仅适用于通道数>512的场景,选择依据纯粹取决于输入特征图尺寸而非计算效率
展开参考答案与解析 平台答案: B
平台解析: Bottleneck设计的核心动机是在高维特征空间中降低计算复杂度。对于输出通道数为256的残差块,BasicBlock需两个 3\times3\times256\times256 卷积,而Bottleneck采用 1\times1\times256\times64 、 3\times3\times64\times64 、 1\times1\times64\times256 组合,3×3卷积计算量降至原来的1/16。尽管增加了1×1卷积,但总体FLOPs大幅下降,允许在固定算力预算下增加网络深度或宽度。A错误,BasicBlock在高通道数下FLOPs爆炸;C错误,两者FLOPs差异显著;D错误,选择依据是计算效率与特征维度平衡,非绝对阈值。
知识点: 残差连接(residual connection / ResNet)
下列关于普通RNN沿时间展开结构的描述,正确的是? HAN-POST-2-3-01 单选题选项 A. 不同时间步使用完全独立的参数组 B. 所有时间步共享同一组参数,展开后深度等于序列长度 C. 展开后深度固定为3,与序列长度无关 D. 隐状态仅由当前输入决定,与历史状态无关
展开参考答案与解析 平台答案: B
平台解析: 普通RNN跨时间步共享同一组参数,沿时间展开后可视为深度等于序列长度的计算图,隐状态由上一时刻隐状态和当前输入共同决定。
知识点: RNN结构与时间展开
普通RNN处理长序列时,沿时间反向传播的梯度经过多次连乘操作容易引发的问题是? HAN-POST-2-3-02 单选题选项 A. 仅会出现梯度消失问题 B. 仅会出现梯度爆炸问题 C. 可能出现梯度消失或梯度爆炸问题 D. 不会出现任何梯度传播异常
展开参考答案与解析 平台答案: C
平台解析: 普通RNN沿时间展开的反向传播包含多次梯度连乘,序列越长连乘次数越多;当梯度反复变小时出现梯度消失,反复变大时出现梯度爆炸,导致长期依赖建模失效。
知识点: 梯度消失问题、梯度爆炸问题
下列关于RNN、LSTM、GRU的模型选型与训练要点,符合工程实践经验的有() HAN-POST-2-3-03 多选题选项 A. 普通RNN长期依赖建模能力差,适合作为短序列任务的基线模型 B. 工程实践中可先以GRU建立建模基线,再与LSTM的效果进行对比验证 C. 训练循环网络时若出现损失急剧增大或非数值问题,可考虑使用梯度裁剪限制梯度范数 D. 长序列建模任务中,LSTM和GRU可以完全保留任意长度的历史信息,不需要截断反向传播等辅助策略
展开参考答案与解析 平台答案: ABC
平台解析: 普通RNN适合短序列基线场景,GRU可作为默认建模起点再与LSTM对比效果;出现梯度爆炸引发的训练异常时,梯度裁剪是有效解决手段;即使是门控循环网络,超长序列下远距离信息仍可能衰减,需配合截断反向传播、降采样等策略。
知识点: 梯度消失问题、LSTM:细胞状态(cell state)、GRU门控简化
下列关于普通RNN训练中梯度消失与梯度爆炸问题的成因与影响,说法正确的有? HAN-POST-2-3-04 多选题选项 A. 沿时间反向传播时梯度需要经过多次连乘,是两类问题产生的共同结构基础 B. 梯度消失会导致序列早期输入对应的参数梯度极小,模型难以学习长期依赖关系 C. 梯度爆炸会导致参数更新步长过大,严重时引发数值溢出、损失为NaN D. 只要使用 \tanh 激活函数就可以同时避免梯度消失和梯度爆炸问题
展开参考答案与解析 平台答案: ABC
平台解析: RNN的BPTT存在多次梯度连乘,连乘因子过小引发梯度消失、过大引发梯度爆炸;梯度消失使早期信息难以被模型学习,梯度爆炸导致参数更新不稳定; \tanh 激活无法避免梯度连乘带来的两类问题,选项D错误。
知识点: RNN结构与时间展开、梯度消失问题、梯度爆炸问题
GRU包含遗忘门、输入门、输出门共3个门控单元,参数量比LSTM更多。 HAN-POST-2-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: GRU仅包含更新门和重置门2个门控单元,不单独维护细胞状态,参数量少于包含3个门的LSTM。
知识点: GRU门控简化
膨胀卷积可以在不增加卷积核参数量的前提下,有效扩大卷积操作的感受野。 HAN-POST-2-4-01 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 膨胀卷积通过引入膨胀间隔,在相同卷积核尺寸下可覆盖更长的输入序列,实现不增参数量即可扩大感受野的效果。
知识点: 膨胀卷积(dilated convolution)、长感受野构建
在设计TCN架构时,为了在不显著增加参数量的前提下指数级扩大感受野以捕获超长程依赖,应采用以下哪种膨胀率调度策略? HAN-POST-2-4-02 单选题选项 A. 每层固定 d=1 ,仅通过堆叠更多层数扩大感受野 B. 每层线性递增 d = l ( l 为层号) C. 每层按2的幂次递增 d = 2^{l-1} D. 随机采样 d \in [1, K] 以增强模型鲁棒性
展开参考答案与解析 平台答案: C
平台解析: 当卷积核大小 k 固定时,若每层膨胀率按 d_l=2^{l-1} 增长,则 L 层后的总感受野近似为 O(2^L) ,实现指数级扩展。这是TCN原始论文推荐的标准配置。A导致感受野线性增长,效率低;B为多项式增长;D破坏感受野的可预测性和系统性。
知识点: 膨胀卷积(dilated convolution)
TCN相比BiRNN类模型在训练效率上的主要优势源于其并行计算能力。下列哪项结构设计是TCN能够实现全序列并行处理的关键前提? HAN-POST-2-4-03 单选题选项 A. 使用了批归一化(Batch Normalization) B. 采用了残差连接(Residual Connection) C. 卷积操作在时间维度上无递归依赖 D. 膨胀卷积的稀疏连接模式
展开参考答案与解析 平台答案: C
平台解析: RNN类模型因 h_t 依赖 h_{t-1} ,必须顺序计算;而TCN基于卷积,每个输出 y_t 仅依赖局部输入窗口,整个序列的所有 y_t 可同时计算,天然支持GPU并行。A、B虽常用于TCN但非并行性的根本原因;D影响感受野但不决定并行性。
知识点: 时间卷积网络(TCN)
时间卷积网络(TCN)能够实现比同深度CNN更长的感受野,主要依赖于以下哪些机制的协同作用? HAN-POST-2-4-04 多选题选项 A. 因果卷积确保时序方向性 B. 膨胀卷积以指数方式扩展单层覆盖范围 C. 残差连接允许堆叠更多层而不退化 D. 池化操作压缩时间维度以间接扩大感受野
展开参考答案与解析 平台答案: ABC
平台解析: TCN长感受野源于:因果卷积保证自回归(A);膨胀卷积指数扩大感受野(B);残差连接支持深层堆叠(C)。TCN通常不使用池化(D错误),以免丢失时序精度。
知识点: 时间卷积网络(TCN)、膨胀卷积(dilated convolution)、长感受野构建
因果卷积的输出在任意时刻t都可能受到t+1及之后时刻输入的影响。【答案】错 HAN-POST-2-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 因果卷积的定义就是严格禁止未来信息泄露,t时刻输出仅依赖≤t时刻的输入。若受未来影响则违反因果性,不再是因果卷积。
知识点: 因果卷积(causal convolution)
关于自编码器重构损失的选择与创新应用,以下说法正确的有: HAN-POST-2-5-01 多选题选项 A. 在处理含盐椒噪声的图像时,使用 L_1 损失比 L_2 损失更能抵抗异常像素干扰 B. 若目标是学习数据的概率密度而非点对点重构,可将重构损失替换为最大似然估计形式 C. 重构损失的大小可直接作为不同数据集间模型性能的横向比较指标 D. 在异常检测中,可对重构损失加权,使模型对特定区域的偏差更敏感
展开参考答案与解析 平台答案: ABD
平台解析: L_1 对离群值鲁棒,适合盐椒噪声(A正确);将AE视为密度模型时,重构项可导出为负对数似然,连接生成模型理论(B正确);在工业质检等场景,可根据先验知识对ROI区域赋予更高损失权重,提升实用价值(D正确)。C错误,重构损失受数据尺度、维度、归一化方式影响,不可跨数据集直接比较。
知识点: 重构损失(reconstruction loss)
相比于欠完备自编码器,过完备自编码器(Overcomplete AE)最显著的结构特征是? HAN-POST-2-5-02 单选题选项 A. 瓶颈层维度大于输入数据维度 B. 必须使用L1正则化进行训练 C. 只能处理图像数据 D. 不包含解码器组件
展开参考答案与解析 平台答案: A
平台解析: 过完备自编码器的定义即为潜在表示(瓶颈层)的维度大于输入数据的维度。这种结构虽然增加了表示容量,但也容易导致模型学习到恒等映射而非有用特征,通常需要配合稀疏性等约束使用。
知识点: 过完备AE(overcomplete)
朱睦晨 · 课后小测 · KP2-5 · 原第 3 题 · 答案与解析 来源资料答案: A
来源资料解析: 过完备自编码器的定义即为潜在表示(瓶颈层)的维度大于输入数据的维度。这种结构虽然增加了表示容量,但也容易导致模型学习到恒等映射而非有用特征,通常需要配合稀疏性等约束使用。
知识点: 过完备AE(overcomplete)
在未加任何正则化约束的情况下,过完备自编码器最容易出现的问题是? HAN-POST-2-5-03 单选题选项 A. 无法收敛 B. 学习到平凡的恒等映射(Identity Mapping),失去特征提取能力 C. 潜在表示维度自动坍缩为0 D. 重构损失始终为负数
展开参考答案与解析 平台答案: B
平台解析: 由于过完备AE的隐藏层维度大于输入维度,且未加约束,模型拥有足够的自由度直接将输入复制到输出(恒等映射),而无法学到数据的内在结构或有意义的特征表示。因此通常需要稀疏性等约束来避免此问题。
知识点: 过完备AE(overcomplete)
过完备自编码器在没有额外约束的情况下,其潜在表示通常比欠完备自编码器更具解释性。 HAN-POST-2-5-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 无约束的过完备自编码器极易学习到恒等映射或冗余表示,其潜在变量往往缺乏明确的语义或结构性,解释性较差。相比之下,欠完备自编码器因强制压缩而倾向于提取紧凑、有意义的特征,通常具有更好的可解释性基础。
知识点: 欠完备AE(undercomplete)、过完备AE(overcomplete)
欠完备自编码器(Undercomplete AE)之所以能避免学习恒等映射,是因为其隐层维度小于输入维度,形成了天然的信息瓶颈。 HAN-POST-2-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 这是欠完备自编码器的核心性质。由于隐层维度 k 小于输入维度 d ,根据信息论原理,网络无法无损地传递所有输入信息,因此不可能实现完美的恒等映射。这迫使编码器必须丢弃次要信息,提取数据中最核心的特征模式以供解码器重构。
知识点: 欠完备AE(undercomplete)
下列关于 VAE 中“生成视角”与“推断视角”的整合,理解正确的是: HAN-POST-2-6-01 单选题选项 A. 生成视角定义了 p(x|z) 和 p(z) ,推断视角通过 q(z|x) 近似不可计算的真实后验,二者通过 ELBO 统一优化 B. 生成视角仅用于测试阶段采样,推断视角仅用于训练阶段编码,两者参数完全独立 C. 推断视角的目标是最小化重构误差,生成视角的目标是最小化 KL 散度,两者交替优化 D. 生成视角假设 z 是确定性的,推断视角才引入概率分布以处理不确定性
展开参考答案与解析 平台答案: A
平台解析: VAE 的精妙之处在于将生成模型(定义联合分布 p(x,z)=p(x\mid z)p(z) )与变分推断(引入 q(z|x) 近似后验)结合。由于真实后验 p(z\mid x) 难算,我们最大化 ELBO 来同时优化生成参数 \theta 和推断参数 \phi 。选项 B 割裂了训练与生成的联系;选项 C 错误,两个视角共同构成 ELBO 的两项;选项 D 混淆了概念,生成视角本身也是概率性的。
知识点: 生成视角
在重参数化技巧 z = \mu + \sigma \odot \epsilon 中,若我们对 \sigma 采用对数参数化,即令网络输出 s = \log \sigma ,实际采样时使用 z = \mu + \exp(s) \odot \epsilon 。相比于直接输出 \sigma ,这种参数化策略的主要数学动机是: HAN-POST-2-6-02 单选题选项 A. 保证 \sigma > 0 的约束自动满足,同时使梯度 \frac{\partial z}{\partial s} = \exp(s) \odot \epsilon = \sigma \odot \epsilon 与当前尺度自适应,避免 \sigma 过小时梯度消失或过大时梯度爆炸。 B. 使得 KL 散度项中的 \log \sigma^2 变为线性项 2s ,简化了 KL 的解析表达式,加速收敛。 C. 将乘法运算转化为加法运算,符合计算机浮点数精度要求,减少数值误差累积。 D. 使得 z 关于 s 的二阶导数为零,从而保证优化曲面在 s 方向上是线性的,便于牛顿法求解。
展开参考答案与解析 平台答案: A
平台解析: B 部分正确但不是主要动机,且 KL 简化并非决定性因素。C 不是主要原因,现代深度学习框架对乘法精度处理良好。D 错误, \frac{\partial^2 z}{\partial s^2}=\exp(s)\odot\epsilon\ne0 。A 正确,对数参数化不仅天然保证正定性,更重要的是实现了梯度的尺度不变性:当 \sigma 很小时, \exp(s) 也很小,梯度幅值自然缩小,防止了在 \sigma\to0 附近因相对变化率过大导致的数值不稳定;反之亦然。这是工程实现与数学性质结合的深层考量。
知识点: 重参数化技巧(reparameterization trick)
在VAE的生成视角下,以下哪些组件或分布是预先设定或在训练前定义的? HAN-POST-2-6-03 多选题选项 A. 隐变量的先验分布 p(z) B. 近似后验分布 q_\phi(z|x) 的具体参数值 C. 解码器的网络结构形式 D. 训练数据的真实边缘分布 p_{\text{data}}(x)
展开参考答案与解析 平台答案: AC
平台解析: 在VAE建模中,先验 p(z) (如标准正态)和解码器/编码器的网络结构是人为设定的模型假设(A、C正确)。后验参数 \phi 是通过训练学习得到的(B错误);真实数据分布 p_{\text{data}}(x) 是未知的,正是模型试图逼近的对象(D错误)。
知识点: 生成视角
下列关于KL散度正则项在VAE中作用的深层分析,正确的有: HAN-POST-2-6-04 多选题选项 A. KL项防止编码器将不同数据点映射到隐空间中完全隔离的点,促进隐空间的连续覆盖。 B. KL项实质上是对编码器信息容量的限制,防止其对训练数据的过度记忆。 C. 当KL项趋近于0时,生成样本的多样性达到最大,因为此时采样完全来自先验。 D. KL项的梯度信号有助于编码器学习到数据的主要变化因子,而非高频噪声。
展开参考答案与解析 平台答案: ABD
平台解析: C项具有迷惑性。虽然KL=0时采样纯来自先验,但若后验坍缩为先验,意味着隐变量与数据无关,解码器只能输出“平均脸”或模糊结果,生成多样性实际丧失 。真正的多样性来自于后验既贴近先验又保留数据信息的平衡状态。A、B、D正确描述了KL项在结构化隐空间、防过拟合、提取主成分方面的作用。
知识点: KL散度正则项
关于重参数化技巧的实现细节,下列说法正确的有: HAN-POST-2-6-05 多选题选项 A. 它使得采样操作对分布参数可微 B. 噪声 \epsilon 需要在每次前向传播时重新采样 C. 它改变了隐变量 z 的理论分布形式 D. 它允许使用随机梯度下降法优化ELBO
展开参考答案与解析 平台答案: ABD
平台解析: 重参数化通过将采样重写为确定性变换加外部噪声,实现了梯度反传(A、D正确),且 \epsilon 需在每次迭代时独立采样以提供无偏梯度估计(B正确)。但它并不改变 z 本身的分布性质,只是改变了采样的计算路径(C错误)。
知识点: 重参数化技巧(reparameterization trick)
在实际网络设计中,填充(Padding)的选择不仅影响尺寸,还隐含了对边界信息的处理假设。下列关于填充策略及其后果的分析正确的有: ZHU-PRE-2-1-01 多选题选项 A. Zero Padding 假设边界外信号为零,这在图像边缘检测中可能导致边界处出现虚假的低响应或伪影 B. Reflection Padding 或 Replication Padding 通过镜像或复制边界值,在一定程度上缓解了Zero Padding引入的高频不连续性 C. 不使用填充(Valid Padding)会导致特征图逐层收缩,这在极深网络中可能造成空间信息过早丢失,但避免了人为引入边界假设 D. 填充操作仅改变特征图的空间尺寸,不会对卷积核的学习动态和梯度流产生任何间接影响
展开参考答案与解析 来源资料答案: ABC
来源资料解析: A正确,零填充在边界制造了突变;B正确,反射/复制填充保持了边界连续性,实践中常优于零填充;C正确,Valid模式无额外假设但牺牲尺寸;D错误,填充改变了边界处的输入分布,直接影响该位置梯度的计算和权重的更新方向,进而影响学习动态。
知识点: 填充(padding)
下列哪些因素会影响CNN中某一层输出的理论感受野大小? ZHU-PRE-2-1-02 多选题选项 A. 该层及之前所有层的卷积核尺寸 B. 该层及之前所有层的步长 C. 该层及之前所有层的填充量 D. 该层的激活函数类型
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 理论感受野的计算仅依赖于几何结构参数:核大小、步长、填充。激活函数(D)影响有效感受野,但不改变理论感受野的定义。
知识点: 感受野(receptive field)
参数共享机制意味着卷积神经网络对输入信号的任何几何变换(如旋转、缩放、仿射变换)都具有严格的不变性或等变性。 ZHU-PRE-2-1-03 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 参数共享仅保证平移等变性(Translation Equivariance)。对于旋转、缩放等其他变换,标准CNN并不具备内在的不变性或等变性,需要通过数据增强或专门设计的等变网络(如Steerable CNN)来实现。该说法过度泛化了参数共享的作用范围。
知识点: 参数共享(parameter sharing)
在对齿轮箱振动信号进行CNN建模时,若使用同一个卷积核沿时间轴滑动扫描整个信号序列,这种“参数共享”机制的主要作用是: ZHU-PRE-2-1-05 单选题选项 A. 增加模型的自由度以提高拟合能力 B. 确保提取的特征具有平移等变性并大幅降低参数量 C. 将一维振动信号转换为二维时频图 D. 自动调整卷积核大小以适应不同频率成分
展开参考答案与解析 来源资料答案: B
来源资料解析: 参数共享意味着同一卷积核的所有权重在滑动过程中保持不变。这使得无论故障特征出现在信号的哪个时刻,都能被同一组参数检测到(平移等变性),同时避免了为每个位置学习独立参数,从而极大降低了模型复杂度。A项错误,参数共享是减少而非增加自由度;C项属于特定变换算法而非参数共享的定义;D项错误,卷积核大小是超参数,不会因参数共享而自动调整。
知识点: 参数共享(parameter sharing)
在齿轮箱振动信号的时频图分析网络中,设计者将卷积层的步长(stride)从1增加到2,同时保持卷积核尺寸和填充方式不变。下列关于该操作对网络性能影响的分析,正确的是: ZHU-PRE-2-1-06 单选题选项 A. 感受野减小,计算量降低,空间分辨率提高 B. 感受野增大,计算量降低,空间分辨率降低 C. 感受野不变,参数量减少,平移等变性增强 D. 感受野增大,参数量增加,高频细节保留更完整
展开参考答案与解析 来源资料答案: B
来源资料解析: 本题考查步长对感受野、计算量和分辨率的综合影响。步长 S 增大,输出特征图尺寸 H_{out} \approx H_{in}/S ,因此空间分辨率降低,计算量(FLOPs)显著减少。同时,步长增大会导致相邻输出神经元对应的输入区域重叠减少甚至分离,使得单个输出单元覆盖的输入范围(即感受野)相对于前一层而言跨度变大,整体网络的理论感受野随层数累积的速度加快。参数量仅由卷积核尺寸和通道数决定,与步长无关,故排除C、D。A选项中“感受野减小”错误。因此B正确。
知识点: 步长(stride)
关于深度可分离卷积的两个阶段,下列对应关系正确的有( )。 ZHU-PRE-2-2-01 多选题选项 A. 深度卷积:每个输入通道使用独立的卷积核,输出通道数等于输入通道数 B. 逐点卷积:使用 1\times1 卷积核,实现跨通道的信息融合 C. 深度卷积:负责改变特征图的通道数量 D. 逐点卷积:负责提取空间局部特征
展开参考答案与解析 来源资料答案: AB
来源资料解析: 深度卷积(Depthwise)对每个通道单独卷积,不改变通道数,只提取空间特征,故A正确、C错误。逐点卷积(Pointwise)是 1\times1 卷积,不涉及空间邻域,专门用于组合通道信息和调整通道数,故B正确、D错误。
知识点: 深度可分离卷积(depthwise separable convolution);逐点卷积(pointwise convolution)
关于批归一化(BN)在不同网络结构中的应用特性,下列说法正确的有? ZHU-PRE-2-2-03 多选题选项 A. 在ResNet中,BN通常置于卷积之后、激活函数之前(Post-activation),但也有Pre-activation变体将BN置于卷积之前 B. BN的可学习参数 \gamma 和 \beta 使得网络有能力恢复原始数据分布,保证了BN不会削弱网络表达力 C. 在生成对抗网络(GAN)的生成器中,BN有助于缓解模式崩塌,但在判别器中通常避免使用以防止泄露批次统计信息 D. BN对RNN/LSTM等循环网络同样适用,且效果优于CNN
展开参考答案与解析 来源资料答案: ABC
来源资料解析: A正确,Pre-act ResNet改进了BN位置。B正确,\gamma, \beta 保证了BN是恒等变换的特例。C正确,GAN训练中BN的使用有特定经验法则。D错误,BN在RNN中因序列长度可变和时间步依赖而难以直接应用,通常用Layer Norm替代。
知识点: 批归一化(batch normalization)
深度可分离卷积的计算量远低于标准卷积,因此在所有硬件平台和任务场景下,用深度可分离卷积完全替代标准卷积都能获得更好的速度-精度权衡。 ZHU-PRE-2-2-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 深度可分离卷积虽计算量低,但存在两个关键局限:(1)逐通道卷积缺乏跨通道信息交互,表达能力弱于标准卷积,在某些任务(如细粒度识别、高分辨率重建)中精度损失显著;(2)其内存访问模式碎片化,在GPU等并行硬件上实际推理延迟未必低于计算量更大的标准卷积(受限于内存带宽)。因此,现代轻量化网络(如EfficientNet、RegNet)均采用混合架构,仅在部分层使用深度可分离卷积,而非全盘替代。
知识点: 深度可分离卷积(depthwise separable convolution)
残差连接解决深层网络退化问题的核心设计思路是? ZHU-PRE-2-2-05 单选题选项 A. 删除冗余网络层,直接减少网络深度 B. 引入恒等捷径,使新增层至少能够表示恒等映射 C. 大幅增大学习率,加快网络收敛速度 D. 对原始输入数据做归一化预处理
展开参考答案与解析 来源资料答案: B
来源资料解析: 残差连接通过跳跃连接构建恒等捷径,让新增层至少可实现恒等映射,从结构上缓解深层网络的退化问题。
知识点: 深层网络退化问题;残差连接(residual connection / ResNet);跳跃连接(skip connection)
朱睦晨 · 课后小测 · KP2-2 · 原第 5 题 · 答案与解析 来源资料答案: B
来源资料解析: 残差连接通过跳跃连接构建恒等捷径,让新增层至少可实现恒等映射,从结构上缓解深层网络的退化问题。
知识点: 深层网络退化问题;残差连接(residual connection / ResNet);跳跃连接(skip connection)
对于输入通道数为C_{in} 、输出通道数为C_{out} 、卷积核尺寸为K\times K 的卷积层,采用深度可分离卷积时,逐点卷积对应的卷积核尺寸是? ZHU-PRE-2-2-06 单选题选项 A. K\times K B. 1\times1 C. 3\times3 D. K\times1
展开参考答案与解析 来源资料答案: B
来源资料解析: 深度可分离卷积中的逐点卷积采用1\times1 尺寸的卷积核,负责实现跨通道的特征融合与通道数变换。
知识点: 深度可分离卷积(depthwise separable convolution);逐点卷积(pointwise convolution)
RNN类模型能够建模时序数据时间依赖关系的核心基础是? ZHU-PRE-2-3-01 单选题选项 A. 采用卷积操作提取局部特征 B. 通过递归更新的隐状态携带序列历史信息 C. 使用全连接层映射高维特征 D. 对输入时序数据做归一化处理
展开参考答案与解析 来源资料答案: B
来源资料解析: RNN通过随时间步递归更新的隐状态保存历史信息,从而建模时序数据的时间依赖关系。
知识点: 隐状态(hidden state)传递
下列不同循环结构的适用场景与特性描述,符合工程经验法则的有? ZHU-PRE-2-3-02 多选题选项 A. 普通RNN适合作为短序列任务的基线模型,训练速度快但长期依赖建模能力差 B. GRU参数量适中,训练速度较快,可作为多数时序任务的默认建模起点 C. LSTM参数量较多,训练速度较慢,更适合长序列、数据量充足的场景 D. 任何场景下LSTM的性能都一定优于GRU,不需要对比实验
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 普通RNN参数量少训练快但长期依赖建模能力差,适合短序列基线;GRU参数量中等训练较快,可作为默认建模起点;LSTM参数量多训练慢,适合长序列、数据充足场景;二者性能不存在绝对优劣,需通过实验对比确定。
知识点: GRU门控简化
下列关于普通RNN梯度传播问题的说法,正确的有? ZHU-PRE-2-3-03 多选题选项 A. 沿时间反向传播过程中存在多次梯度连乘操作 B. 序列长度越长,梯度累积的乘法次数越多 C. 处理任何长度的序列都一定会出现梯度消失 D. 出现梯度爆炸时,可通过梯度裁剪缓解训练异常
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 普通RNN沿时间反向传播存在多次梯度连乘,序列越长连乘次数越多,可能引发梯度消失或梯度爆炸,并非一定会出现梯度消失;梯度爆炸可通过梯度裁剪限制梯度范数,缓解训练不稳定问题。
知识点: 梯度消失问题;梯度爆炸问题
GRU的更新门取值接近1时,新的隐藏状态更偏向保留旧的历史状态;取值接近0时更偏向写入新的候选状态。 ZHU-PRE-2-3-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: GRU更新门满足h_t=(1-z_t)\odot h_{t-1} + z_t\odot \tilde{h}_t ,当z_t 接近1时更偏向写入新候选状态,接近0时更偏向保留旧的历史状态。
知识点: GRU:更新门
下列关于RNN沿时间展开结构与隐状态传递的说法,符合其计算逻辑的是? ZHU-PRE-2-3-05 单选题选项 A. 展开后每个时间步使用独立的权重参数,因此可以处理任意长度序列 B. 隐状态仅由当前时刻的输入决定,与历史输入无关联 C. 展开后的计算图深度等于输入序列长度,反向传播时梯度需要沿时间步逐次传递 D. 隐状态在每个时间步更新后不会传递到下一个时间步,仅用于当前时刻输出
展开参考答案与解析 来源资料答案: C
来源资料解析: RNN沿时间展开后深度等于序列长度,各时间步共享参数,隐状态由上一时刻隐状态和当前输入共同决定并向后传递,反向传播需沿时间链计算梯度;选项A错误,RNN是参数共享而非各时间步独立参数;选项B、D违背隐状态递归传递的基本逻辑。
知识点: RNN结构与时间展开;隐状态(hidden state)传递
朱睦晨 · 课后小测 · KP2-3 · 原第 3 题 · 答案与解析 来源资料答案: C
来源资料解析: RNN沿时间展开后深度等于序列长度,各时间步共享参数,隐状态由上一时刻隐状态和当前输入共同决定并向后传递,反向传播需沿时间链计算梯度;选项A错误,RNN是参数共享而非各时间步独立参数;选项B、D违背隐状态递归传递的基本逻辑。
知识点: RNN结构与时间展开;隐状态(hidden state)传递
RNN沿时间展开后,所有时间步共享同一组权重参数,当前时刻隐状态由上一时刻隐状态和当前输入共同决定。 ZHU-PRE-2-3-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: RNN采用时间维参数共享机制,隐状态递归更新,同时接收历史隐状态和当前输入的信息,实现序列建模。
知识点: RNN结构与时间展开;隐状态(hidden state)传递
下列关于双向循环类结构(BiRNN、BiLSTM、BiGRU)的说法,正确的有哪些? ZHU-PRE-2-4-01 多选题选项 A. 仅能在推理时可获得完整序列记录的离线任务中使用 B. 可同时利用当前位置的历史信息与未来信息提升建模效果 C. 可直接用于实时设备状态预警等在线流式任务 D. 本质上属于循环神经网络类结构,存在串行计算的特性
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 双向循环结构由两个方向相反的循环单元组成,可同时利用双向上下文,但仅适用于推理可获取完整序列的离线场景,属于RNN类结构,计算为串行模式,无法直接用于无未来信息的实时在线任务。
知识点: 双向RNN(BiRNN);BiLSTM;BiGRU
关于BiLSTM与BiGRU的门控机制差异,下列分析正确的有: ZHU-PRE-2-4-02 多选题选项 A. LSTM的遗忘门和输入门独立运作,允许同时执行“忘记旧信息”和“写入新信息” B. GRU的更新门z_t 同时承担遗忘和输入功能,z_t 接近1时表示保留旧状态 C. LSTM的输出门决定了细胞状态向隐藏状态的暴露程度,提供额外抽象层 D. GRU因无输出门,其隐藏状态直接等于细胞状态,信息泄露风险更高
展开参考答案与解析 在设计TCN时,若将膨胀卷积的膨胀率序列从 [1,2,4,8] 改为 [1,1,2,4] ,其他结构不变,则该修改对模型时序建模能力的影响是: ZHU-PRE-2-4-03 单选题选项 A. 感受野扩大,但局部细节捕捉能力下降 B. 感受野缩小,但对近期历史的分辨率提高 C. 感受野不变,但训练稳定性显著提升 D. 感受野扩大,且并行计算效率提高
展开参考答案与解析 来源资料答案: B
来源资料解析: 原序列最大感受野对应膨胀率累积效果更强;新序列前两层膨胀率为1,相当于堆叠普通因果卷积,增强了最近 k 步内的细粒度特征提取,但因高层膨胀率减小,整体感受野缩短。这种设计适合强调近期上下文的场景。选项A、D错误,感受野实际缩小;选项C错误,感受野发生变化。
知识点: 膨胀卷积(dilated convolution);长感受野构建
双向RNN类模型(BiRNN/BiLSTM/BiGRU)在在线推理时无法真正实现“双向”,因为未来信息不可得。下列哪种做法是在实际部署中最合理的近似双向建模方案? ZHU-PRE-2-4-04 单选题选项 A. 仅使用前向RNN,忽略后向分支 B. 使用滑动窗口截取固定长度子序列,在窗口内运行完整BiRNN C. 将后向RNN替换为TCN以模拟未来上下文 D. 延迟输出,等待足够未来帧后再进行双向推理
展开参考答案与解析 来源资料答案: B
来源资料解析: 在线场景中,可通过缓冲一段历史数据形成局部窗口,在窗口内执行双向推理,既保留部分后向上下文,又满足实时性约束。这是工业界常用折中方案。选项A完全放弃双向优势;选项C混合架构未必优于纯BiRNN窗口化;选项D虽可行但引入固定延迟,不如窗口灵活。
知识点: 双向RNN(BiRNN);BiLSTM;BiGRU
在实时系统中,若TCN的感受野大于任务所需的最大依赖长度,继续增加层数或膨胀率不会带来任何收益,反而增加计算负担。 ZHU-PRE-2-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 超出必要感受野的额外容量可能提供更强的特征抽象能力或冗余鲁棒性。例如,在噪声环境中,更大的感受野有助于通过更广的上下文平均抑制干扰。此外,某些任务的最优依赖长度未知,预留余量是合理设计策略。该陈述错误地将“足够”等同于“最优”。
知识点: 时间卷积网络(TCN)
朱睦晨 · 课后小测 · KP2-4 · 原第 5 题 · 答案与解析 来源资料答案: 错
来源资料解析: 超出必要感受野的额外容量可能提供更强的特征抽象能力或冗余鲁棒性。例如,在噪声环境中,更大的感受野有助于通过更广的上下文平均抑制干扰。此外,某些任务的最优依赖长度未知,预留余量是合理设计策略。该陈述错误地将“足够”等同于“最优”。
知识点: 时间卷积网络(TCN)
重构损失函数仅能使用均方误差(MSE),不能使用其他形式的损失。 ZHU-PRE-2-5-01 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 重构损失的选择取决于数据分布假设。除MSE外,二值或[0,1]区间数据常用二元交叉熵(Binary Cross-Entropy);计数数据可用泊松损失;甚至可结合感知损失(Perceptual Loss)等。MSE只是最常见的一种,并非唯一选择。
知识点: 重构损失(reconstruction loss)
在自编码器中,只要将瓶颈层(bottleneck)的维度设置得足够小,模型就一定能学到具有良好泛化能力的高质量数据表征。 ZHU-PRE-2-5-02 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 虽然较小的瓶颈层能强制模型进行压缩,但如果维度设置得过小,超出了数据内在维度的下限,模型将丢失过多必要信息,导致严重的欠拟合,重构出的数据模糊不清,学到的表征也无法反映数据的真实结构。此外,表征质量还受网络深度、激活函数和优化算法等因素影响,并非仅由瓶颈层维度单一决定。
知识点: 瓶颈层(bottleneck)
在稀疏自编码器的训练中,若设定目标稀疏度 \rho = 0.05 ,但实际平均激活度 \hat{\rho} 持续远高于目标值,以下哪种调整方式最直接有效? ZHU-PRE-2-5-03 单选题选项 A. 减小稀疏惩罚系数 \beta B. 增大目标稀疏度 \rho 以匹配当前状态 C. 增大稀疏惩罚系数 \beta 或改用更陡峭的惩罚函数 D. 增加隐藏层神经元数量以分散激活压力
展开参考答案与解析 来源资料答案: C
来源资料解析: 稀疏惩罚项(如 \beta \sum KL(\rho || \hat{\rho}) )的作用是拉低实际激活度 \hat{\rho} 使其逼近 \rho 。当 \hat{\rho} \gg \rho 时,说明惩罚力度不足,应增大 \beta 或采用对偏差更敏感的惩罚形式。A会进一步削弱约束;B是妥协而非解决问题,失去了稀疏设计的初衷;D增加神经元反而可能加剧冗余激活,使稀疏控制更难。此题考查对稀疏惩罚动态调节机制的理解。
知识点: 稀疏AE:稀疏惩罚
对于连续型实数输入数据,自编码器最常用的重构损失函数是? ZHU-PRE-2-5-04 单选题选项 A. 交叉熵损失(Cross-Entropy Loss) B. Hinge损失 C. 均方误差(Mean Squared Error, MSE) D. 0-1损失
展开参考答案与解析 来源资料答案: C
来源资料解析: 均方误差(MSE)假设数据噪声服从高斯分布,适用于连续实数值数据的重构任务。交叉熵通常用于二值或概率型数据(如归一化后的像素值)。Hinge损失用于SVM分类,0-1损失不可导且不用于AE训练。
知识点: 重构损失(reconstruction loss)
针对自编码器重构损失的分析,下列情境与损失行为的匹配正确的有: ZHU-PRE-2-5-05 多选题选项 A. 输入含高斯噪声,使用MSE损失,模型倾向于输出局部平均,导致图像模糊 B. 输入为二值化图像,使用BCE损失,模型输出可解释为像素存在概率,适合生成任务采样 C. 输入含脉冲噪声(椒盐噪声),使用MSE损失比L1损失更能保留边缘细节 D. 在稀疏AE中,总损失=重构损失+稀疏惩罚,二者量纲需匹配,否则需缩放因子\beta 平衡
展开参考答案与解析 来源资料答案: ABD
来源资料解析: A正确,MSE对异常值敏感,优化方向是均值,致模糊。B正确,BCE建模概率,输出在(0,1),适合采样。D正确,多目标优化需平衡各项量级。C错误,L1对脉冲噪声更鲁棒,MSE会被大误差主导而平滑边缘,故L1优于MSE处理椒盐噪声。
知识点: 重构损失(reconstruction loss)
以下关于瓶颈层在不同自编码器变体中作用的描述,正确的有: ZHU-PRE-2-5-06 多选题选项 A. 在欠完备AE中,瓶颈层是实现信息压缩的唯一结构保障 B. 在稀疏AE中,即使隐藏层维度大于输入层,瓶颈层的概念仍可理解为“有效激活维度”受限 C. 瓶颈层维度越小,模型泛化能力一定越强 D. 在堆叠自编码器中,每一层的输出都可视为下一层的瓶颈层输入,实现分层抽象
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 欠完备AE依赖物理维度限制实现压缩(A正确);稀疏AE虽物理维度大,但稀疏约束使“活跃维度”受限,形成虚拟瓶颈(B正确);堆叠AE逐层压缩,每层都是局部的信息瓶颈(D正确)。C错误,瓶颈过小会导致信息丢失过多,重构失败,泛化能力下降;需权衡压缩率与信息保留。
知识点: 瓶颈层(bottleneck)
朱睦晨 · 课后小测 · KP2-5 · 原第 2 题 · 答案与解析 来源资料答案: ABD
来源资料解析: 欠完备AE依赖物理维度限制实现压缩(A正确);稀疏AE虽物理维度大,但稀疏约束使“活跃维度”受限,形成虚拟瓶颈(B正确);堆叠AE逐层压缩,每层都是局部的信息瓶颈(D正确)。C错误,瓶颈过小会导致信息丢失过多,重构失败,泛化能力下降;需权衡压缩率与信息保留。
知识点: 瓶颈层(bottleneck)
在 VAE 的训练中,KL 散度正则项与重构项之间存在权衡关系,下列描述正确的有: ZHU-PRE-2-6-01 多选题选项 A. 若 KL 项权重过大,模型倾向于让 q(z|x) 贴近 p(z) ,可能导致隐变量丢失输入信息 B. 若重构项主导优化,隐空间可能变得不规则,采样生成的样本质量下降 C. 理想状态下,两项应协同工作:KL 项规整隐空间,重构项注入数据信息 D. KL 项仅在训练初期起作用,后期应完全移除以保证重构精度
展开参考答案与解析 来源资料答案: ABC
来源资料解析: KL 过强导致后验坍塌,隐变量无用(A 对)。重构过强导致隐空间过拟合、不连续,生成失败(B 对)。两者平衡是 VAE 成功的关键(C 对)。KL 项在整个训练中持续起正则化作用,移除会导致生成能力丧失(D 错)。
知识点: KL散度正则项
在变分自编码器(VAE)的生成视角下,关于隐变量 z 的概率建模意义,下列描述最准确的是: ZHU-PRE-2-6-02 单选题选项 A. 隐变量 z 是输入数据 x 经过确定性神经网络映射得到的固定特征向量,用于压缩数据信息。 B. 隐变量 z 服从先验分布 p(z) ,生成过程是从 p(z) 采样后通过解码器 p_\theta(x|z) 映射到数据空间,从而定义数据的边缘似然。 C. 隐变量 z 仅在训练阶段作为正则化项存在,在生成新样本时可以直接忽略,仅依赖解码器的偏置项输出。 D. 隐变量 z 的后验分布 q_\phi(z|x) 必须与真实后验 p(z|x) 完全一致,否则模型无法进行任何形式的生成。
展开参考答案与解析 来源资料答案: B
来源资料解析: A项描述的是传统自编码器(AE)的确定性编码,而非VAE的概率生成视角;C项错误,生成新样本时必须从先验 p(z) 采样 z 再输入解码器;D项过于绝对,VAE正是通过优化ELBO来近似真实后验,而非要求完全一致才能生成。B项正确阐述了VAE作为生成模型的核心机制:通过先验分布和条件似然定义数据的生成过程。
知识点: 隐变量(latent variable).
VAE编码器将输入映射为分布参数(均值与方差),相较于输出单一向量的传统自编码器,这种设计带来的优势包括: ZHU-PRE-2-6-03 多选题选项 A. 使隐空间具有概率语义,支持采样生成 B. 通过方差参数控制隐变量的不确定性 C. 彻底消除了重构误差 D. 为KL散度正则项的计算提供了必要的分布形式
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 编码为分布赋予了隐空间概率结构(A),方差量化了编码的不确定性(B),且高斯参数使得KL散度有解析解(D)。但这并不能消除重构误差,重构误差仍受模型容量和数据复杂度限制(C错误)。
知识点: 编码为分布(均值/方差)
重参数化技巧不仅适用于高斯分布,也可以直接应用于任意离散分布的采样以实现梯度反向传播。 ZHU-PRE-2-6-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 标准的重参数化技巧依赖于分布的可微变换性质,主要适用于连续分布(如高斯)。对于离散分布,由于采样操作本质不可微,不能直接应用该技巧,需借助Gumbel-Softmax等专门的松弛方法。【知识点】重参数化技巧(reparameterization trick)
知识点: 重参数化技巧(reparameterization trick)
在 VAE 的理论框架下,近似后验 q_\phi(z|x) 必须选择与先验 p(z) 相同的分布族(例如都为高斯分布),否则 KL 散度项将无法计算,ELBO 也就无法作为优化目标。 ZHU-PRE-2-6-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: q_\phi 与 p 不必 属于同一分布族。虽然同族常有闭式解便于计算,但若不同族,仍可通过蒙特卡洛采样近似 KL 项及其梯度(只要 q 支持重参数化或可用其他梯度估计方法)。ELBO 的定义本身不依赖于分布族的匹配,只依赖于概率密度的可计算性或可估计性。
知识点: KL散度正则项
朱睦晨 · 课后小测 · KP2-6 · 原第 3 题 · 答案与解析 来源资料答案: 错
来源资料解析: q_\phi 与p 不必 属于同一分布族。虽然同族常有闭式解便于计算,但若不同族,仍可通过蒙特卡洛采样近似 KL 项及其梯度(只要q 支持重参数化或可用其他梯度估计方法)。ELBO 的定义本身不依赖于分布族的匹配,只依赖于概率密度的可计算性或可估计性。
知识点: KL散度正则项
在设计CNN时,若希望在不增加参数量的前提下增大感受野,下列策略最有效的是: ZHU-POST-2-1-01 单选题选项 A. 增大卷积核尺寸 B. 增加网络深度并使用小卷积核堆叠 C. 减小步长 D. 增加填充量
展开参考答案与解析 来源资料答案: B
来源资料解析: 增大卷积核(A)会显著增加参数量(与核面积成正比);减小步长(C)会增加计算量和特征图尺寸,但不直接高效扩大感受野;增加填充(D)主要控制输出尺寸,对感受野贡献有限。而堆叠小卷积核(如多个3\times3 )可以在参数量较少(3^2\times n<(2n+1)^2 )的情况下线性扩大感受野,是现代CNN的标准做法。
知识点: 卷积核(filter/kernel);感受野(receptive field);参数共享(parameter sharing)
在振动信号异常检测任务中,某CNN模块连续堆叠了3层 3\times3 卷积核(步长为1,无填充)的卷积层,随后接一个 2\times2 最大池化层(步长为2)。则该池化层输出特征图上一个像素点对应原始输入图像的感受野大小为: ZHU-POST-2-1-02 单选题选项 A. 6\times6 B. 7\times7 C. 8\times8 D. 14\times14
展开参考答案与解析 来源资料答案: C
来源资料解析: 感受野计算需逐层递推。设输入层感受野为1。第1层3\times3 卷积(s=1 )后感受野为1+(3-1)\times1=3 ;第2层3\times3 卷积(s=1 )后为3+(3-1)\times1=5 ;第3层3\times3 卷积(s=1 )后为5+(3-1)\times1=7 。随后2\times2 最大池化层(s=2 ),其感受野增量由池化核大小和前序累积步长决定:\Delta RF=(k_{pool}-1)\times\prod s_{prev}=(2-1)\times(1\times1\times1)=1 。因此最终感受野为7+1=8 。选项B(7)仅为卷积部分的感受野,未计入池化层的扩展效应,是常见错误认知。
知识点: 感受野(receptive field)
关于卷积神经网络中的“局部连接”与全连接层的对比,下列说法最能体现局部连接在特征提取阶段优势的是: ZHU-POST-2-1-03 单选题选项 A. 局部连接通过断开神经元间的连接来防止过拟合,其效果等同于L2正则化 B. 局部连接限制了每个神经元只接收输入的一个子区域信号,结合参数共享后能有效捕捉图像的局部空间结构并大幅降低参数规模 C. 局部连接使得网络不再需要激活函数即可实现非线性映射,因为空间截断本身引入了非线性 D. 局部连接的主要作用是增加网络的感受野,使其在浅层就能覆盖整幅输入图像
展开参考答案与解析 来源资料答案: B
来源资料解析: A错误,局部连接是结构设计而非正则化手段;C错误,局部连接是线性操作,必须依赖激活函数引入非线性;D错误,局部连接限制的是单层感受野,需通过堆叠多层才能扩大感受野。B正确,局部连接利用了图像数据的空间局部性原理,使神经元专注于局部模式(如边缘、纹理),配合参数共享机制,既符合视觉感知规律又解决了全连接在处理高分辨率图像时参数爆炸的问题。
知识点: 局部连接(local connectivity)
某二维卷积神经网络的输入图像尺寸为 32 \times 32 。第一层使用大小为 5 \times 5 的卷积核,步长(stride)为 1 ,填充(padding)方式为 `valid`(即无填充);第二层同样使用大小为 5 \times 5 的卷积核,步长为 1 ,填充方式也为 `valid`。请问经过这两层卷积后,第二层输出特征图中的单个像素点对应于原始输入图像的感受野(receptive field)尺寸是多少? ZHU-POST-2-1-04 单选题选项 A. 5 \times 5 B. 9 \times 9 C. 10 \times10 D. 25 \times 25
展开参考答案与解析 来源资料答案: B
来源资料解析: 感受野是指特征图上的一个点映射回原始输入图像上的区域大小。第一层卷积核大小为5 \times 5 ,因此第一层特征图上每个点的感受野是5 \times 5 。第二层卷积核大小也是5 \times 5 ,它在第一层特征图上覆盖5 \times 5 的区域。由于第一层步长为1 ,这5 个相邻的点在输入图像上对应的感受野会相互重叠并向外扩展。根据感受野递推公式R_l=R_{l-1}+(k_l-1)\times\prod_{i=1}^{l-1}s_i ,其中R_1=5 ,k_2=5 ,前一层步长乘积为1 ,所以R_2=5+(5-1)\times1=9 。因此第二层输出特征图的感受野尺寸为9 \times 9 。选项 A 仅考虑了单层卷积核大小;选项 C 错误地将两层卷积核大小相加;选项 D 错误地将两层卷积核大小相乘。
知识点: 卷积核(filter/kernel);步长(stride);填充(padding);感受野(receptive field)
针对轴承早期微弱故障的振动信号,在设计CNN的卷积层时,若希望增强对特定频段冲击成分的提取能力,以下关于卷积核设计的说法正确的有: ZHU-POST-2-1-05 多选题选项 A. 卷积核的长度应与目标冲击响应的持续时间相匹配 B. 增加卷积核的数量可以提供更多种类的特征检测器 C. 卷积核的初始值必须设为正弦波才能收敛 D. 一维卷积核直接在时域上进行波形匹配
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 核长度决定了时间分辨率和频率选择性(A);多核并行可学习多种模式(B);1D-CNN本质是时域模板匹配(D)。C项错误,卷积核通常随机初始化并通过反向传播学习,无需预设正弦波形式。
知识点: 卷积核(filter/kernel)
在MobileNet等轻量化架构中,逐点卷积(Pointwise Convolution, 1\times1 Conv)紧随逐通道卷积之后。下列关于逐点卷积在该组合中功能的描述,最准确的是? ZHU-POST-2-2-01 单选题选项 A. 提取空间维度的局部纹理特征,弥补逐通道卷积感受野的不足 B. 对逐通道卷积输出的各通道特征进行线性加权组合,实现跨通道信息交互 C. 执行下采样操作以降低特征图分辨率,减少后续计算量 D. 引入非线性激活,防止逐通道卷积导致的特征退化
展开参考答案与解析 来源资料答案: B
来源资料解析: 逐通道卷积仅在每个通道内独立运算,缺乏通道间的信息交流。逐点卷积(1\times1 )的作用正是将这些独立的通道特征进行线性组合,恢复跨通道的关联性。A错误,1\times1 无空间感受野;C错误,下采样通常由步长或池化完成;D错误,非线性通常由激活函数提供,而非卷积本身。
知识点: 逐点卷积(pointwise convolution)
在构建超深层卷积神经网络(如100层以上)时,研究者常观察到“网络退化”现象,即随着深度增加,训练集上的误差反而上升。针对该现象的本质成因及残差连接(Residual Connection)的解决机制,下列分析最准确的是: ZHU-POST-2-2-04 单选题选项 A. 退化问题本质是过拟合导致的泛化能力下降,残差连接通过引入L2正则化效应抑制了模型对训练数据的记忆 B. 退化问题源于梯度消失导致底层参数无法更新,残差连接仅作为梯度高速公路加速反向传播,不改变前向特征表达 C. 退化问题是优化困难而非表达能力不足,残差连接将学习目标从直接映射 H(x) 转化为残差映射 F(x)=H(x)-x ,使恒等映射成为优化的平凡解 D. 退化问题由BN层在小批量下统计量估计偏差引起,残差连接通过跨层特征融合平滑了损失曲面,从而抵消了BN的不稳定性
展开参考答案与解析 来源资料答案: C
来源资料解析: 根据He et al. (2016) 原始论文及后续理论分析,深层网络退化并非过拟合(训练误差也高),也不是单纯的梯度消失(BN已缓解此问题)。其本质是优化难题:当网络足够深时,学习一个接近恒等的映射H(x)\approx x 比学习残差F(x)\approx0 更难。残差结构强制网络学习F(x) ,若最优解接近恒等映射,则只需将F(x) 推向零即可,这比拟合非线性变换更容易优化。A混淆了退化与过拟合;B片面强调梯度而忽视前向优化目标重构;D错误归因于BN。
知识点: 深层网络退化问题
下列关于GRU与LSTM结构差异的描述,正确的是? ZHU-POST-2-3-01 单选题选项 A. GRU有3个门控单元,LSTM有2个门控单元 B. GRU同时维护细胞状态C和隐藏状态h,LSTM仅维护隐藏状态h C. GRU参数量少于LSTM,训练速度通常更快 D. GRU的长期依赖建模能力显著优于LSTM,可完全替代LSTM
展开参考答案与解析 来源资料答案: C
来源资料解析: GRU仅包含更新门和重置门2个门,不单独维护细胞状态,直接更新隐藏状态,参数量少于包含3个门、同时维护C和h的LSTM,训练速度通常更快,二者性能需根据具体任务验证。
知识点: GRU门控简化
下列关于GRU与LSTM结构差异的描述,正确的是? ZHU-POST-2-3-02 单选题选项 A. GRU有3个门,LSTM有2个门 B. GRU单独维护细胞状态C 和隐藏状态h ,LSTM仅维护隐藏状态h C. GRU参数量通常少于LSTM,训练速度相对更快 D. GRU的长期依赖建模能力一定优于LSTM
展开参考答案与解析 来源资料答案: C
来源资料解析: GRU只有更新门和重置门2个门,不单独维护细胞状态,参数量少于LSTM,训练速度较快,二者具体性能需通过实验确定,不存在绝对优劣。
知识点: GRU门控简化
下列关于GRU对LSTM结构简化的描述,符合其设计逻辑的是? ZHU-POST-2-3-04 单选题选项 A. GRU将遗忘门和输入门合并为更新门,同时取消独立细胞状态,直接在隐藏状态上完成更新 B. GRU完全移除了门控机制,退化为普通RNN结构 C. GRU保留了独立的细胞状态,仅将输出门移除实现简化 D. GRU的重置门完全替代了LSTM中遗忘门+输入门+输出门的全部功能
展开参考答案与解析 来源资料答案: A
来源资料解析: GRU是LSTM的简化变体,将遗忘门和输入门合并为更新门,搭配重置门,不单独维护细胞状态,直接更新隐藏状态;选项B错误,GRU保留门控机制;选项C错误,GRU无独立细胞状态;选项D错误,重置门仅控制候选状态计算时的历史信息使用比例,无法替代三个门的全部功能。
知识点: GRU门控简化
下列关于普通RNN长期依赖失效问题与门控改进机制的说法,正确的有() ZHU-POST-2-3-05 多选题选项 A. 普通RNN沿时间反向传播的梯度连乘机制容易引发梯度消失或爆炸,难以捕捉长距离时序依赖 B. LSTM通过独立的细胞状态通道为长期信息提供更稳定的传递路径 C. 门控机制通过0~1区间的可学习系数逐元素控制信息的保留、写入与输出 D. 只要使用LSTM就可以完全避免梯度消失问题,不需要梯度裁剪等其他训练技巧
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 普通RNN的梯度连乘机制易引发梯度消失/爆炸,难以建模长距离依赖;LSTM通过细胞状态通道加可学习门控的机制缓解该问题,但无法完全避免梯度消失,训练时仍需配合梯度裁剪、合理设置学习率等技巧。
知识点: 梯度消失问题;梯度爆炸问题;LSTM:细胞状态(cell state)
下列关于序列模型选择的说法,符合课程内容的有? ZHU-POST-2-4-01 多选题选项 A. 实时在线预测任务无法获取未来信息,不能使用双向循环结构 B. 长序列训练任务若对训练速度要求高,可优先选择支持并行计算的TCN C. 离线诊断任务可获取完整序列,可根据需求选择双向结构或TCN D. 所有序列建模任务中BiLSTM的效果一定优于TCN,无需考虑场景适配
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 模型选择需结合任务场景:实时任务不可用双向结构,追求训练效率长序列可选TCN,离线任务可选择双向结构或TCN,不存在绝对最优的模型,需适配场景条件。
知识点: 双向RNN(BiRNN);时间卷积网络(TCN)
时间卷积网络(TCN)由于采用固定长度的卷积窗口,无法处理变长序列输入,必须将所有序列填充至相同长度。 ZHU-POST-2-4-02 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: TCN基于卷积运算,要求输入张量在时间维度上有固定尺寸。虽然可通过动态填充或分段处理变长序列,但其原生架构不像RNN那样支持可变长度展开。因此,在实际批处理中,通常需要填充(padding)或截断以形成规整张量。此题为TCN相对于RNN的一个局限性。
知识点: 时间卷积网络(TCN)
TCN中的残差连接不仅缓解梯度消失,还对时序特征融合起关键作用。当输入与卷积输出维度不一致时,标准的处理方式及其对时序建模的影响是: ZHU-POST-2-4-03 单选题选项 A. 零填充对齐,导致高频噪声引入 B. 使用 1\times1 卷积投影输入至匹配维度,保持时序对齐且不破坏因果性 C. 截断输入序列长度,牺牲早期时间步信息 D. 重复输入通道以匹配宽度,造成冗余计算
展开参考答案与解析 来源资料答案: B
来源资料解析: TCN中当残差支路与主路维度不同时,采用1\times1 因果卷积对输入做线性变换,既保证维度匹配,又维持严格因果性与时序对齐,避免信息错位。选项A、C、D均会损害时序完整性或效率。
知识点: 时间卷积网络(TCN);因果卷积(causal convolution)
在TCN中,通过逐层倍增膨胀因子可以在对数级层数内覆盖整个输入序列长度。【答案】对 ZHU-POST-2-4-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 当膨胀因子按2^0,2^1,2^2,\ldots,2^{n-1} 设置时,n层TCN的感受野可达O(2^n) ,因此覆盖长度T仅需O(\log T) 层,这是TCN高效建模长序列的关键。
知识点: 长感受野构建
在设计用于异常检测的自编码器时,通常采用欠完备结构并仅在正常样本上训练。当测试阶段出现高重构损失的样本被判定为异常时,该机制主要依赖于以下哪个原理? ZHU-POST-2-5-01 单选题选项 A. 异常样本的标签与正常样本不同,导致分类边界偏移 B. 编码器已将正常样本映射到低维流形,异常样本因偏离该流形而无法被解码器有效重构 C. 解码器对异常样本产生了过拟合,导致梯度消失 D. 瓶颈层对异常样本进行了有损压缩,但对正常样本进行了无损压缩
展开参考答案与解析 来源资料答案: B
来源资料解析: 自编码器异常检测的核心假设是“流形假设”:正常数据分布在低维流形上。欠完备AE通过学习将正常数据压缩并重构,掌握了该流形的映射关系。异常样本位于流形之外,编码器将其投影到流形上的最近点或直接映射到无效区域,导致解码器输出与原始输入差异巨大(高重构损失)。A涉及监督学习概念,与无监督AE无关;C逻辑错误,AE不对异常样本过拟合;D错误,AE对所有样本都是有损压缩,区别在于损失大小而非是否无损。
知识点: 欠完备AE(undercomplete)
在变分自编码器(VAE)框架下讨论重构损失与KL散度的权衡时,若将其视为一种特殊的“概率稀疏自编码器”,下列关于其与经典稀疏AE本质区别的分析,正确的是: ZHU-POST-2-5-04 单选题选项 A. VAE的重构损失必须是交叉熵,而经典稀疏AE只能用MSE,这是两者最根本的区别 B. VAE通过KL项约束编码分布接近先验,实现的是隐空间的全局平滑与连续性;经典稀疏AE通过惩罚项约束激活值大小,实现的是表示的局部选择性,二者正则化目标不同 C. VAE的编码器输出确定性向量,而经典稀疏AE输出随机变量,因此VAE更适合生成任务 D. 经典稀疏AE的稀疏惩罚可以完全替代VAE中的KL散度,只要调整合适的权重即可达到相同的生成效果
展开参考答案与解析 来源资料答案: B
来源资料解析: VAE的KL散度旨在让后验分布q(z|x) 匹配先验p(z) (通常是标准正态),这保证了隐空间的连续性和可采样性,是一种分布层面的正则化。经典稀疏AE的惩罚项(如KL against Bernoulli or L1)直接作用于单次前向传播的激活值幅度,追求的是特征表示的稀疏性和选择性,不关心隐空间的整体几何结构。A错在VAE也可用Gaussian likelihood对应MSE;C说反了,VAE编码器输出分布参数,经典AE输出确定值;D错在两种正则化目标不同,稀疏性不能保证隐空间连续可采样,故不能完全替代。
知识点: 稀疏AE:稀疏惩罚
稀疏自编码器中的稀疏惩罚项(如KL散度形式)在数学上等价于对编码激活值施加了一个与数据无关的固定先验分布约束。 ZHU-POST-2-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 以Bernoulli稀疏惩罚为例,\operatorname{KL}(\rho\|\hat{\rho}) 等价于假设编码激活服从参数为\rho 的Bernoulli先验,并对后验均值进行惩罚。该先验\rho 是预设超参数,不随数据变化,因此是与数据无关的固定先验。这与VAE中学习后验匹配固定先验的思想一脉相承。
知识点: 稀疏AE:稀疏惩罚
在VAE的生成视角下,若从标准正态先验 p(z) = \mathcal{N}(0, I) 中采样得到 z^* ,再通过训练好的解码器 p_\theta(x|z^*) 生成样本,该过程对应于以下哪种概率推断? ZHU-POST-2-6-01 单选题选项 A. 计算后验分布 p(z|x) 的最大似然估计 B. 近似计算边缘似然 p(x) 的下界 C. 执行 ancestral sampling以从联合分布 p_\theta(x, z) 中生成观测样本 D. 优化编码器参数 \phi 以使 q_\phi(z|x) 匹配 p(z)
展开参考答案与解析 来源资料答案: C
来源资料解析: VAE作为生成模型,其生成过程遵循概率图模型的祖先采样(ancestral sampling):先从先验p(z) 采样z^* ,再从条件分布p_\theta(x|z^*) 采样x^* 。这等价于从模型定义的联合分布p_\theta(x,z)=p_\theta(x|z)p(z) 中生成样本对(x^*,z^*) 。A项属于推断而非生成;B项是训练目标,非生成过程;D项是训练阶段的编码器优化,与生成无关。
知识点: 生成视角
VAE编码器输出的方差参数可以为零,此时重参数化采样退化为确定性映射,模型仍能正常训练并保持生成能力。 ZHU-POST-2-6-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 虽然数学上方差为零是允许的,但在训练中若方差持续趋近于零,KL散度项将无法有效约束隐空间,模型退化为确定性自编码器,隐空间失去连续性和概率结构,导致从先验采样生成的样本无意义,丧失VAE的生成能力。
知识点: 编码为分布(均值/方差)
从信息论角度看,VAE 的 ELBO 最大化过程等价于在隐变量 Z 和数据 X 之间建立一个信息瓶颈,其中 KL 正则项限制了 Z 中关于 X 的信息量,而重构项保证了 Z 中保留了足够的信息以重建 X 。 ZHU-POST-2-6-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 该陈述正确地将 ELBO 两项映射到信息瓶颈理论的核心概念:KL 项对应码率(信息量压缩),重构项对应失真(信息保留)。这种跨理论整合是理解 VAE 深层机制的关键,表述准确无误。
知识点: 证据下界(ELBO)
局部模板能否由数据学习?小波核CNN怎样结合物理先验?
展开参考答案与解析 局部模板可以通过数据学习。普通CNN将卷积核作为自由参数,通过分类损失的反向传播进行更新。
小波核CNN进一步把首层卷积核限制在选定的母小波函数族中:
{\psi }_{a,b}[k]={a}^{-1/2}\psi \!\left( \frac{k-b}{a}\right) ,\,a>0
其中a为尺度参数,b为核内位置参数。母小波限定模板形状,任务数据学习a、b及后续网络参数,从而把信号处理先验与数据学习结合起来。
为保证尺度为正,可设a=ε+softplus(ρ),并根据采样率检查混叠和核截断。小波结构提供可解释先验,其诊断效果仍需独立试验验证。
来源:
第三讲 第7, 8, 10, 11, 12, 13页。页码为文件物理页序或幻灯片序号。
尺寸未知、转速变化时,小波还能计算吗?故障频率解释还缺什么?增加什么验证?
展开参考答案与解析 (1)小波仍然能够计算。小波变换依据采样信号、母小波、尺度和位置进行运算,不要求预先知道轴承的几何尺寸。
(2)故障频率的物理解释仍需几何和转速信息,主要包括滚动体数量、滚动体直径、节圆直径、接触角及转速变化。转速变化会改变冲击间隔,必要时应采用转速同步、阶次分析或时频分析。
(3)应增加跨转速、跨载荷或跨设备的独立验证,并与普通CNN、经典信号特征方法对照;同时检查采样率、核长和尺度是否匹配。
因此,能够提取小波响应不等于已经确定故障类型,响应峰值仍需结合机理和独立检测证据解释。
理解补充与易错点(无需照写) 不能把小波响应峰值或共振频率直接等同于故障重复频率。
来源:
第三讲 第13, 14, 15, 16, 18, 19页。页码为文件物理页序或幻灯片序号。
增大裂纹方向惩罚权重λ会怎样?
展开参考答案与解析 设训练损失为:
L={L}_{MSE}+\lambda {L}_{phy},\,\lambda \ge 0
增大λ会提高预测回缩的惩罚,使模型更重视裂纹长度的非减趋势;但λ过大可能牺牲观测拟合,λ过小则物理约束作用不足,λ=0时退化为仅使用MSE训练。
因此,应统一各损失项的尺度,并在验证集上选择λ,同时评价预测误差和回缩次数。软惩罚可减少违规,但不能保证任意输入下严格单调。
来源:
第三讲 第33, 34, 35, 39, 41页。页码为文件物理页序或幻灯片序号。
怎样将负载、Paris方程、凸性或速率上限、不确定性嵌入裂纹预测?
展开参考答案与解析 物理知识可以从四个层次嵌入裂纹预测模型。
(1)输入层:加入预测时可获得的载荷、应力范围、温度和几何参数,使模型反映工况对裂纹扩展的影响。
(2)结构层:以Paris方程作为状态更新骨架,学习材料参数或修正项;也可用非负速率积分构造非减裂纹长度。
(3)损失层:加入方程残差、单调性和有机理依据的扩展速率上限;凸性约束仅在相应载荷条件下适用。
(4)输出层:采用分位数回归、深度集成或贝叶斯网络输出未来裂纹长度的预测区间,并检验覆盖率。
各类物理约束均应满足适用条件,未来未知载荷应明确为给定情景或随机变量。
来源:
第三讲 第24, 40, 46页;
KP6-5 第3, 7, 10, 16页;
KP6-6 第11, 12, 17页。页码为文件物理页序或幻灯片序号。
裂纹单调先验与测量波动为什么要区分?
展开参考答案与解析 单调先验约束的是定义明确的潜在物理状态,而不是带噪测量值。在同一裂纹、连续服役且无维修重置条件下,真实裂纹长度通常非减;测量值却可能因噪声、检测条件而短暂下降。
若强制逐点拟合这种测量波动,模型可能给出裂纹回缩。因此,可对预测的潜在裂纹轨迹施加非减约束,同时用数据项处理观测误差。维修、更换或不同裂纹应分段建模,健康指标和损伤指标的单调方向也应按物理定义确定。
来源:
第三讲 第31, 32, 33, 40, 48页。页码为文件物理页序或幻灯片序号。
小波核的时间尺度:12kHz采样、64点核 题目条件
采样率12kHz,卷积核包含64个采样点,求其对应时间长度。
展开参考答案与解析 按64点时间块计算:
T=\frac{k}{{f}_{s}}=\frac{64}{12000}\text{ }s=0.005333\text{ }s\approx 5.33\text{ }ms
因此该核对应约5.33ms的信号片段。
若题目要求首末采样时刻之差,则为:
\Delta t=\frac{k-1}{{f}_{s}}=\frac{63}{12000}\text{ }s=5.25\text{ }ms
两者定义不同,应按题目采用的时间长度口径作答。
来源:
第三讲 第14页。页码为文件物理页序或幻灯片序号。
裂纹预测:MSE相同,物理罚项和总损失怎样区分? 题目条件
观测裂纹长度y=[1,2,3]mm,预测A=[1,3,4]mm,预测B=[1,3,2]mm。取λ=2,求MSE、方向罚项及总损失。
展开参考答案与解析 (1)数据误差:
{L}_{MSE}=\frac{1}{H}\overset{H}{\underset{i=1}{\sum }}({\widehat{a}}_{i}-{y}_{i}{)}^{2}
{L}_{MSE,A}=\frac{{0}^{2}+{1}^{2}+{1}^{2}}{3}=\frac{2}{3}\text{ }{mm}^{2}
{L}_{MSE,B}=\frac{{0}^{2}+{1}^{2}+(-1{)}^{2}}{3}=\frac{2}{3}\text{ }{mm}^{2}
(2)方向罚项:
\Delta {\widehat{a}}_{i}={\widehat{a}}_{i+1}-{\widehat{a}}_{i},\,{L}_{phy}=\frac{1}{H-1}\overset{H-1}{\underset{i=1}{\sum }}[\max (0,-\Delta {\widehat{a}}_{i}){]}^{2}
A的增量为[2,1],均非负,所以Lphy,A=0。
B的增量为[2,−1],所以:
{L}_{phy,B}=\frac{{0}^{2}+{1}^{2}}{2}=\frac{1}{2}\text{ }{mm}^{2}
(3)总损失:
{L}_{A}=\frac{2}{3}+2\times 0=\frac{2}{3}\text{ }{mm}^{2}
{L}_{B}=\frac{2}{3}+2\times \frac{1}{2}=\frac{5}{3}\text{ }{mm}^{2}
故两种预测MSE相同,但B出现回缩,方向约束使其总损失更大。
审查补注 本式只约束预测内部的相邻点。若还需与最后已知状态a_0 衔接,可另加[\max(0,a_0-\widehat a_1)]^2 等边界项,或从明确的初值用非负增量构造轨迹;不能把有噪声观测无条件当作真实状态。来源:
第三讲 第29, 30, 33, 34, 35, 36, 37, 38页。页码为文件物理页序或幻灯片序号。
Paris方程积分:m=2时怎样算达到临界裂纹的循环数? 题目条件
Paris方程da/dN=C(ΔK)ᵐ,ΔK=YΔσ√(πa)。假定m=2,C、Y和Δσ恒定,令κ=Cπ(YΔσ)²=0.001/循环,初始裂纹a₀=1mm,临界裂纹a꜀=2mm,求达到阈值的循环数。
展开参考答案与解析 (1)代入m=2及应力强度因子:
\frac{da}{dN}=C(Y\Delta \sigma {)}^{2}\pi a=\kappa a
(2)分离变量,从a₀积分至a꜀:
{\int }_{{a}_{0}}^{{a}_{c}}\frac{da}{a}={\int }_{{N}_{0}}^{{N}_{f}}\kappa \,dN
\ln \frac{{a}_{c}}{{a}_{0}}=\kappa ({N}_{f}-{N}_{0})
(3)剩余循环数为:
\Delta N=\frac{1}{\kappa }\ln \frac{{a}_{c}}{{a}_{0}}=\frac{1}{0.001}\ln 2\approx 693.147\text{ }\text{循环}
故连续模型下约693.15循环达到阈值;若按整数循环并取首次达到或超过阈值,则为第694循环。本结果适用于所给恒定参数及Paris稳定扩展区间。
理解补充与易错点(无需照写) 由课件da/dN=C(ΔK)^m、ΔK=YΔσ√(πa)。补充设定恒定载荷范围、几何因子和C,m=2,定义κ=Cπ(YΔσ)²,则da/dN=κa。
分离变量积分:ln(a/a0)=κ(N−N0),因此a(N)=a0 exp[κ(N−N0)];到临界长度ac的剩余循环数ΔN=ln(ac/a0)/κ。
补充数值:a0=1mm,ac=2mm,κ=0.001/循环,ΔN=ln2/0.001≈693.147循环;若只能取整且要求首次达到/超过阈值,则为第694循环。
长度单位应统一,C的单位随m和应力强度因子单位变化。此处假定参数和Y不随裂纹变化,且全过程位于Paris稳定扩展适用区,不能外推至起裂或失稳区。
来源:
第三讲 第24, 25, 26页。页码为文件物理页序或幻灯片序号。
GAN的目标、训练步骤与模式崩溃如何理解?
展开参考答案与解析 GAN由生成器G和判别器D组成。G将噪声映射为生成样本,D区分真实样本与生成样本,经典目标为:
{\min }_{G}{\max }_{D}\left\{ {E}_{x}\log D(x)+{E}_{z}\log [1-D(G(z))]\right\}
训练时交替固定G更新D、固定D更新G,使生成分布逐渐接近真实分布。实践常使用非饱和生成损失以改善梯度。
模式崩溃是生成器只产生少数相似模式,导致样本数量增加而多样性不足。故验收应同时检查保真度、多样性及真实独立测试集上的下游收益。判别器输出接近0.5本身不足以证明生成成功。
来源:
KP4-3 第3, 6, 7, 8, 9, 11, 14, 15页。页码为文件物理页序或幻灯片序号。
扩散模型训练与采样有什么区别?与VAE/GAN怎样比较?
展开参考答案与解析 扩散模型的前向过程按固定噪声日程逐步加噪,任意步可直接表示为:
{x}_{t}=\sqrt{{\overline{\alpha }}_{t}}{x}_{0}+\sqrt{1-{\overline{\alpha }}_{t}}\varepsilon
训练时随机选取t,网络依据x_t和t预测所加噪声,常采用噪声平方误差损失。生成时从高斯噪声出发,反复调用去噪网络,逐步得到新样本。
VAE通过概率编码与重构训练,通常较稳定但可能过度平滑;GAN通过对抗训练生成,需防止训练失衡和模式崩溃;扩散模型避免对抗博弈,但多步采样增加生成成本。
三者用于增强时均应仅在训练数据内学习,并通过真实独立测试检验收益。
域、任务和三类分布偏移怎样定义?
展开参考答案与解析 域由特征空间和输入边缘分布组成,任务由标签空间及预测关系组成。域适配通常研究任务相同而输入分布发生变化的情况。
(1)协变量偏移:输入分布P(X)改变,但条件关系P(Y|X)保持不变。
(2)标签偏移:类别比例P(Y)改变;严格标签偏移模型通常还假定P(X|Y)不变。
(3)概念偏移:输入与标签间的条件关系P(Y|X)改变。
设备转速、载荷、结构和测量配置变化可能同时引起多种偏移,应先识别偏移及类别关系,再选择迁移方法。
来源:
KP4-1 第3, 4, 5, 6页;
第五讲 第42页。页码为文件物理页序或幻灯片序号。
参数迁移、特征对齐、负迁移和三类基线是什么?
展开参考答案与解析 参数迁移以源域预训练权重初始化目标模型,再利用目标数据微调;特征迁移通过分布对齐减小域差异,同时保留任务判别信息。
负迁移是迁移后的目标任务表现低于对应的不迁移基线,其原因包括源域不相关、类别错配或强制对齐破坏决策边界。
评价时应在相同数据划分与标签预算下比较源模型直测、仅目标域训练和迁移方法。若无目标标签,应明确该设定下哪些监督基线可实施,不能借用测试标签进行微调、对齐选择或调参。
来源:
KP4-1 第7, 8, 9, 10, 11, 12, 14, 15, 17页。页码为文件物理页序或幻灯片序号。
MMD、LMMD、DANN和GRL各解决什么?
展开参考答案与解析 MMD通过比较两个域在核特征空间中的均值嵌入衡量分布差异:
{MMD}^{2}=\Vert {\mu }_{s}-{\mu }_{t}{\Vert }_{H}^{2}
LMMD在对应类别内部比较跨域均值,再汇总类别差异,可缓解全局对齐的类别错配,但依赖目标伪标签质量。
DANN训练域判别器识别源域和目标域,同时使特征提取器保留类别信息并降低域可分性。GRL在前向保持恒等映射,反向将梯度乘以−λ,实现对抗更新。
对齐只是一种手段,最终应以独立目标任务指标评价,不能仅凭域判别准确率接近50%认定迁移有效。
来源:
KP4-2 第3, 4, 5, 6, 7, 8, 10, 11页;
第五讲 第44, 45, 50, 51, 52页。页码为文件物理页序或幻灯片序号。
GNN、GCN、GAT、时空图和置换性质怎样区别?
展开参考答案与解析 GNN是处理图结构数据的模型统称。GCN使用归一化邻接关系聚合邻居特征,再作共享线性变换与非线性激活;GAT进一步学习不同邻居的注意力权重;时空图模型还结合历史序列描述动态演化。
节点级任务应满足置换等变性,即节点重编号后输出按相同方式重排;图级任务的读出应满足置换不变性,即重编号不改变整图结果。
增加层数可扩大多跳信息范围,但过深可能导致过平滑。标准GCN的对称归一化与课堂均值聚合的行归一化是不同运算,计算时应按题给定义。
审查补注 标准GCN补充:\widetilde A=A+I,\qquad \widetilde D_{ii}=\sum_j\widetilde A_{ij},\qquad H^{\prime}=\sigma\!\left(\widetilde D^{-1/2}\widetilde A\widetilde D^{-1/2}HW\right).
其中H\in\mathbb R^{N\times F_{\mathrm{in}}} 、W\in\mathbb R^{F_{\mathrm{in}}\times F_{\mathrm{out}}} ,输出为N\times F_{\mathrm{out}} 。对称归一化与\widetilde D^{-1}\widetilde A 的行均值聚合不同。来源:
KP4-5 第5, 6, 7, 8, 9, 10, 12页;
KP4-6 第4, 5, 6, 8, 9页;
第五讲 第9, 10, 11, 12页。页码为文件物理页序或幻灯片序号。
扩散前向:ᾱt=0.64,x0=2,ε=−1 题目条件
扩散模型累计信号保留系数ᾱₜ=0.64,原始样本x₀=2,加入噪声ε=−1,网络预测噪声εθ=−0.8。求加噪样本和单点噪声平方误差。
展开参考答案与解析 (1)按前向闭式公式:
{x}_{t}=\sqrt{{\overline{\alpha }}_{t}}{x}_{0}+\sqrt{1-{\overline{\alpha }}_{t}}\varepsilon
=\sqrt{0.64}\times 2+\sqrt{0.36}\times (-1)=1.6-0.6=1
(2)噪声预测损失:
L=(\varepsilon -{\varepsilon }_{\theta }{)}^{2}=[-1-(-0.8){]}^{2}=0.04
故加噪样本为1,单点平方误差为0.04。
来源:
KP4-4 第3, 5页。页码为文件物理页序或幻灯片序号。
线性核MMD、LMMD和A-distance 题目条件
采用线性特征和经验均值差平方定义MMD²。源样本为[1,3],目标样本为[2,6]。另考虑源域两类均值0、2,目标域对应类均值2、0,且两类比例均为1/2。求相应差异。
另在平衡源域/目标域样本上评价域分类器,分别给定错误率\varepsilon=0.1 与\varepsilon=0.5 ,求A-distance。
展开参考答案与解析 (1)第一组样本:
{\mu }_{s}=\frac{1+3}{2}=2,\,{\mu }_{t}=\frac{2+6}{2}=4
{MMD}^{2}=({\mu }_{s}-{\mu }_{t}{)}^{2}=(2-4{)}^{2}=4
(2)类别错配例中,两域全局均值均为1,因此线性MMD²=0;但按类别计算:
{L}_{LMMD}=\frac{1}{2}[(0-2{)}^{2}+(2-0{)}^{2}]=4
故全局均值相同仍可能存在类别错配。
(3)若域分类错误率为ε,则:
{d}_{A}=2(1-2\varepsilon )
ε=0.1时dA=1.6;ε=0.5时dA=0。该指标反映域可分性,不能独自证明类别对齐。
理解补充与易错点(无需照写) 补充线性特征示例:源特征[1,3]均值2,目标[2,6]均值4,采用经验均值差平方(有偏/V-statistic形式),MMD²=(2−4)²=4。不同无偏估计式未必得到同值。
类别错配反例:源类1/2均值0/2,目标对应类均值2/0,均衡混合后全局均值都1,线性MMD²=0;按课件简化LMMD定义为类别均值差平方的平均,LMMD=(4+4)/2=4。
A-distance=2(1−2ε),ε是域分类错误率而非准确率。ε=0.1时dA=1.6,ε=0.5时dA=0。域混淆良好仍不保证类别对齐。
审查补注 A-distance应在平衡的源、目标域样本上评价域分类错误率。弱分类器得到\varepsilon\approx0.5 也不能证明两域相同;该数值不能独立证明同类故障已对齐。来源:
KP4-2 第3, 4, 11页;
第五讲 第45页。页码为文件物理页序或幻灯片序号。
GRL梯度与DASAN负号:更新方向怎样算? 题目条件
特征参数的分类梯度为2、LMMD梯度为0.5、域分类梯度为3,λ=0.4、β=0.2,学习率η=0.1。特征目标为Lcls+λLLMMD−βLdom,求更新量。
展开参考答案与解析 (1)特征提取器接收的总梯度为:
g=2+0.4\times 0.5-0.2\times 3=1.6
(2)按梯度下降更新:
{\theta }_{new}={\theta }_{old}-\eta g={\theta }_{old}-0.16
故该参数减少0.16。
域判别器自身仍最小化正的域分类损失;负号只体现特征提取器与域判别器的对抗方向。用GRL实现反向梯度时,不应再重复反号。
来源:
KP4-2 第7, 8页;
第五讲 第52页。页码为文件物理页序或幻灯片序号。
GAT注意力:核对课件e=[2.1,0.8,−0.4]的softmax 题目条件
给定GAT邻居评分e=[2.1,0.8,−0.4],计算softmax权重。若变换后邻居标量特征为[1,2,4],忽略最终非线性,求加权聚合值。
展开参考答案与解析 (1)归一化公式:
{\alpha }_{j}=\frac{\exp ({e}_{j})}{{\sum }_{k}\exp ({e}_{k})}
Z={e}^{2.1}+{e}^{0.8}+{e}^{-0.4}\approx 8.16617+2.22554+0.67032=11.06203
(2)权重为:
\alpha \approx [0.738216,\text{ }0.201187,\text{ }0.060596]
(3)加权聚合为:
{h}^{\prime }=\underset{j}{\sum }{\alpha }_{j}{h}_{j}\approx 0.738216\times 1+0.201187\times 2+0.060596\times 4\approx 1.382977
故权重约为[0.7382,0.2012,0.0606],聚合值约1.3830。
理解补充与易错点(无需照写) 此处为数值对应性订正,请以公式和试题给定条件为准。
来源:
KP4-6 第4, 5页。页码为文件物理页序或幻灯片序号。
无向链图1—2—3采用标准GCN,先加入自环,再用\widetilde D^{-1/2}\widetilde A\widetilde D^{-1/2} 归一化。从节点2向节点1聚合的权重是多少? B05 单选题选项 A. \frac12 B. \frac13 C. \frac1{\sqrt6} D. \frac16
展开参考答案与解析 C
加自环后的度为[2,3,2] ,连接1与2的归一化权重为
\frac1{\sqrt{2\times3}}=\frac1{\sqrt6}.
\frac12 是节点1采用行均值聚合时的权重,不能与标准对称归一化混用。
希望生成指定故障类别y 的振动样本,按课程介绍构建条件GAN。下列哪项正确? B06 单选题选项 A. 只把y 输入生成器,判别器无需知道条件 B. 将y 同时输入生成器和判别器,分别形成G(z,y) 与D(x,y) C. 把生成样本全部加入测试集,以检验生成器记忆能力 D. 判别器输出0.5即可证明类别控制和多样性都达标
展开参考答案与解析 B
条件GAN由生成器按类别生成,判别器结合样本与条件判断。仍须检查类别一致性、保真度、多样性和真实独立测试集上的收益。
微调(Fine-tuning)作为参数迁移的常见实现方式,其基本流程通常包括加载预训练权重、替换输出层并在目标数据上继续训练。在针对深层Transformer模型进行微调时,为了平衡“保留通用知识”与“适应特定工况”,实践中常采用的策略是( )。 HAN-PRE-4-1-01 单选题选项 A. 仅随机初始化顶层参数,将所有底层参数设为零 B. 采用逐层差异化学习率,底层使用较小学习率,顶层使用较大学习率 C. 强制源域和目标域的数据在每个批次中以 1:1 的比例混合训练 D. 移除所有注意力机制层,仅保留前馈神经网络层进行参数更新
展开参考答案与解析 平台答案: B
平台解析: 深层网络中,底层通常学习到通用的基础特征(如语法结构或基础边缘),顶层则更贴近具体任务。差异化学习率(Discriminative Fine-tuning)允许底层参数缓慢更新以保持通用性,顶层参数快速更新以适应新任务,这是微调范式中控制参数更新边界条件的经典策略。A、C、D均不符合常规微调逻辑。
知识点: 微调(fine-tuning)基本范式
当目标域标注样本量非常少时,采用参数迁移微调时更合理的做法是? HAN-PRE-4-1-02 单选题选项 A. 冻结模型大部分底层参数,仅训练顶层靠近输出的少量参数 B. 用很大的学习率更新全部模型参数 C. 随机初始化顶层参数,底层参数也随机初始化后训练 D. 不加载任何预训练参数,直接训练
展开参考答案与解析 平台答案: A
平台解析: 目标域标注样本少时,冻结大部分底层通用参数、仅调整顶层参数可以减少过拟合风险;大学习率更新全参数、随机初始化从头训练都容易在小样本下过拟合,且无法利用源域知识。
知识点: 微调(fine-tuning)基本范式
在对大型预训练模型进行微调时,选择合适的参数更新策略至关重要。以下关于微调范式中参数冻结与更新的权衡分析,正确的有哪些? HAN-PRE-4-1-03 多选题选项 A. 当目标任务数据量远小于预训练数据量时,冻结大部分底层参数可以有效防止模型在目标数据上过拟合 B. 当源域与目标域之间的域偏移极大时(如自然图像到医学影像),适当解冻更多底层网络参数有助于模型学习目标域特有的低级特征 C. 全量微调(Full Fine-tuning)总是优于部分微调,因为它允许模型的所有参数自由适应新任务 D. 引入 Adapter 模块的微调方法通过在 Transformer 层中插入少量可训练参数,在保持预训练主干冻结的同时实现了对特定任务的有效适配
展开参考答案与解析 平台答案: ABD
平台解析: 选项A正确,小样本场景下冻结参数是防止过拟合的标准做法。选项B正确,巨大的域偏移意味着底层通用特征可能不适用,需要更新底层参数以提取目标域特有特征。选项C错误,全量微调在数据量小或计算资源有限时容易导致过拟合或灾难性遗忘,并非“总是”最优。选项D正确,Adapter 是一种经典的参数高效微调(PEFT)方法,通过插入轻量级模块在冻结主干的情况下完成适配。
知识点: 微调(fine-tuning)基本范式
特征迁移和参数迁移是实现迁移学习的两大主要路线。在构建跨工况的旋转机械故障诊断模型时,关于这两种路线的选择与应用边界,以下说法正确的有哪些? HAN-PRE-4-1-04 多选题选项 A. 当目标域完全没有标注数据时,可以利用源域预训练的深度网络作为特征提取器(特征迁移),结合聚类算法在目标域进行无监督分析 B. 当目标域拥有与源域同等规模的高质量标注数据时,参数迁移(微调)通常不再是必须的,直接在目标域上从头训练也能达到优异性能 C. 特征迁移路线通常要求源域和目标域的高层语义特征具有较强的一致性,否则提取的特征在目标域可能毫无意义 D. 参数迁移中的微调操作,其本质是限制模型参数更新的搜索空间,使其在预训练权重的邻域内寻找更适应目标域的最优解
展开参考答案与解析 平台答案: ABCD
平台解析: 选项 A 正确,特征迁移常用于无监督或半监督场景,将预训练特征用于目标域聚类是常见做法。选项 B 正确,如果目标域数据充足且独立,从头训练可以避免源域偏差的干扰,微调的优势主要体现在目标域数据稀缺时。选项 C 正确,如果源域和目标域差异过大(如文本到图像),直接进行特征迁移往往无效,特征迁移依赖于底层或中层特征的通用性。选项 D 正确,微调通常使用较小的学习率,其数学直觉就是在预训练参数(良好的初始点)附近进行局部搜索,防止破坏已学到的通用知识。
知识点: 特征迁移、参数迁移
朱睦晨 · 课后小测 · KP4-1 · 原第 4 题 · 答案与解析 来源资料答案: ABCD
来源资料解析: 选项 A 正确,特征迁移常用于无监督或半监督场景,将预训练特征用于目标域聚类是常见做法。选项 B 正确,如果目标域数据充足且独立,从头训练可以避免源域偏差的干扰,微调的优势主要体现在目标域数据稀缺时。选项 C 正确,如果源域和目标域差异过大(如文本到图像),直接进行特征迁移往往无效,特征迁移依赖于底层或中层特征的通用性。选项 D 正确,微调通常使用较小的学习率,其数学直觉就是在预训练参数(良好的初始点)附近进行局部搜索,防止破坏已学到的通用知识。
知识点: 特征迁移;参数迁移
协变量偏移和概念偏移的本质区别在于:协变量偏移表现为输入特征分布 P(X) 的变化而条件分布 P(Y|X) 保持不变;概念偏移则表现为条件分布 P(Y|X) 的变化。( ) HAN-PRE-4-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 这是两类域偏移的标准定义。协变量偏移(Covariate Shift)指 P_S(X) \neq P_T(X) 但 P_S(Y|X) = P_T(Y|X) ;概念偏移(Concept Shift)指 P_S(Y|X) \neq P_T(Y|X) 。两者在数学定义上有明确的区分界限。
知识点: 域偏移(domain shift)
在迁移学习的形式化定义中,如果源域和目标域的边缘概率分布满足 P_S(X) = P_T(X) ,但条件概率分布 P_S(Y|X) \neq P_T(Y|X) ,这说明两个域之间存在概念偏移(Concept Shift),此时即使特征空间相同,也不能简单地将源域学到的预测函数直接应用于目标域。 HAN-PRE-4-1-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 概念偏移的定义正是条件概率分布 P(Y|X) 在源域和目标域之间发生改变,而边缘分布 P(X) 可以保持不变。当 P_S(Y|X) \neq P_T(Y|X) 时,意味着相同的输入特征 X 在两个域中对应的标签 Y 不同,因此源域学得的预测函数 f_S(x) 无法正确预测目标域的标签,不能直接应用。该表述完全正确。
知识点: 任务(task)的形式化、域偏移(domain shift)
在多源域适应场景中,假设有 K 个源域和一个目标域。若采用MMD进行分布对齐,为了避免计算所有源域与目标域两两组合带来的高昂开销,同时保证对齐效果,一种常见的数学处理方式是? HAN-PRE-4-2-01 单选题选项 A. 仅选择与目标域数据量最接近的一个源域计算MMD,忽略其余源域 B. 将所有源域样本合并为一个大的虚拟源域,然后计算该虚拟源域与目标域之间的单一MMD C. 计算每个源域与目标域的MMD后取最大值作为总对齐损失,以确保最差情况被优化 D. 为每个源域训练一个独立的特征提取器,最后通过投票决定目标域预测结果
展开参考答案与解析 平台答案: B
平台解析: 在多源域适应中,将多个源域的数据池化(pooling)合并为一个联合源域,然后计算其与目标域之间的MMD,是一种既高效又能利用所有源域信息的常见策略。这在数学上等价于对齐混合源分布与目标分布。A浪费了多源信息;C取最大值虽然鲁棒但计算量并未减少且优化困难;D违背了特征迁移共享表征的初衷。
知识点: 差异度量对齐、最大均值差异(MMD)
某研究团队分别使用MMD和DANN对同一组图像分类迁移任务进行实验。结果显示,DANN在目标域上的最终准确率略高于MMD,但MMD的训练曲线更加平滑且收敛更快。下列对该现象的分析最合理的是? HAN-PRE-4-2-02 单选题选项 A. 证明了MMD在任何图像任务上都劣于DANN,因为最终准确率是唯一评价指标 B. 这符合两种方法的理论特性:DANN的对抗博弈能找到更复杂的分布匹配映射,但极小极大优化易震荡;MMD提供确定的梯度方向,优化更稳定但表达能力受限于所选核 C. 说明该团队的DANN代码存在Bug,因为理论上MMD的收敛速度不可能快于DANN D. 表明应当将MMD和DANN的域判别器串联使用,以同时获得两者的优势
展开参考答案与解析 平台答案: B
平台解析: DANN基于对抗训练,具有更强的分布拟合能力(类似于GAN的优势),但极小极大博弈容易导致训练不稳定和震荡;MMD基于统计距离的直接最小化,优化目标明确,梯度方向确定,因此训练更平滑稳定,但其表达能力依赖于核函数的选择和近似。B选项准确结合了损失函数构成与训练动态的理论特性进行了分析。A过于绝对;C缺乏理论依据;D的串联方式并非标准做法且未解释现象。
知识点: 差异度量对齐、最大均值差异(MMD)、对抗对齐、域对抗神经网络(DANN)
下列关于MMD对齐方法的描述,正确的有? HAN-PRE-4-2-03 多选题选项 A. MMD通过核均值嵌入度量两个域的分布差异 B. MMD属于可直接写入训练目标的可微损失项 C. MMD需要训练额外的域判别器来计算差异 D. MMD对齐的目标是最小化源域与目标域的分布距离
展开参考答案与解析 平台答案: ABD
平台解析: MMD基于核均值嵌入计算域间分布差异,是可微的统计损失,可直接加入训练目标,优化方向为最小化域间MMD距离,无需训练额外域判别器。
知识点: 差异度量对齐、最大均值差异(MMD)
下列关于最大均值差异(MMD)的描述,正确的有? HAN-PRE-4-2-04 多选题选项 A. MMD可以作为可训练的对齐损失写入训练目标 B. MMD基于核均值嵌入实现分布差异的度量 C. MMD属于对抗式对齐方法的核心组件 D. MMD通过计算再生核希尔伯特空间中两域分布的均值差来衡量差异
展开参考答案与解析 平台答案: ABD
平台解析: MMD是统计对齐路线的核心方法,基于核均值嵌入在再生核希尔伯特空间中计算两域分布均值差异,可作为可导的对齐损失参与训练,不属于对抗对齐的组件。
知识点: 最大均值差异(MMD)
朱睦晨 · 课前小测 · KP4-2 · 原第 3 题 · 答案与解析 来源资料答案: ABD
来源资料解析: MMD是统计对齐路线的核心方法,基于核均值嵌入在再生核希尔伯特空间中计算两域分布均值差异,可作为可导的对齐损失参与训练,不属于对抗对齐的组件。
知识点: 最大均值差异(MMD)
在DANN的总损失函数 L = L_{task} + \lambda L_{domain} 中,权重系数 \lambda 的作用不仅是平衡任务学习与域对齐的强度,还深刻影响着特征提取器在学习类别判别性与域不变性之间的权衡关系。 HAN-PRE-4-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 权重系数 \lambda 控制着域对齐损失在总梯度中的比重。若 \lambda 太小,域对齐不充分;若 \lambda 太大,可能导致特征过度追求域不变而丧失类别区分度。因此,它直接决定了模型在两个相互制约的目标之间的权衡。
知识点: 对抗对齐、域对抗神经网络(DANN)
梯度反转层(GRL)在反向传播时会反转梯度符号,使得特征提取器倾向于生成让域判别器无法区分来源的域不变特征。 HAN-PRE-4-2-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: GRL反向传播反转域判别器的梯度,引导特征提取器降低特征的域可分性,学习具备任务判别性的域不变特征。
知识点: 梯度反转层(GRL)
GAN中判别器D的输出D(x)的含义是下列哪一项? HAN-PRE-4-3-01 单选题选项 A. 样本x属于某一故障类别的分类概率 B. 样本x经过生成器重构后的像素误差 C. 估计样本x来自真实数据分布而非生成分布的概率 D. 潜变量z对应样本x的后验概率
展开参考答案与解析 平台答案: C
平台解析: 经典GAN的判别器是二分类器,输出D(x)∈(0,1),表示样本来自真实数据的概率,用于区分真实样本和生成器产出的假样本。
知识点: 判别器(discriminator)
GAN训练中出现“判别器过强导致生成器梯度衰减”问题时,会发生以下哪种情况? HAN-PRE-4-3-02 单选题选项 A. 生成器损失快速下降至0,生成样本质量极高 B. 判别器接近完全区分真伪时,生成器收到的梯度接近0,参数无法有效更新 C. 生成样本多样性过高,超出真实数据分布范围 D. 判别器损失持续震荡,无法收敛
展开参考答案与解析 平台答案: B
平台解析: 当判别器能力过强、可完全区分生成样本与真实样本时,生成器难以获得有效梯度反馈,参数更新停滞,属于训练不稳定的典型诱因。
知识点: 训练不稳定问题
在智能电网变压器油中溶解气体分析(DGA)的故障诊断中,由于严重故障样本极少,研究团队决定采用GAN进行数据增强。关于GAN中生成器与判别器的极小极大博弈机制及交替训练流程,下列说法正确的有哪些? HAN-PRE-4-3-03 多选题选项 A. 训练过程中,生成器和判别器的参数在同一反向传播步骤中同时进行联合更新 B. 理想状态下,博弈的纳什均衡点对应于生成数据分布与真实DGA故障数据分布完全一致的状态 C. 交替训练意味着在一次迭代周期内,通常先固定生成器优化判别器若干步,再固定判别器优化生成器 D. 判别器的目标是最大化minimax目标函数 V(D, G) ,而生成器的目标是最小化该目标函数
展开参考答案与解析 平台答案: BCD
平台解析: A错误,GAN采用的是交替训练(Alternating Training)而非同时联合更新,以防止两者的梯度相互干扰导致训练崩溃。B正确,纳什均衡点即为 p_g = p_{\text{data}} 。C正确,描述了标准的交替训练流程。D正确,GAN的框架即为 \min_G \max_D V(D, G) ,判别器试图最大化目标函数(提高鉴别力),生成器试图最小化目标函数(降低被识破的概率)。
知识点: 生成器(generator)、判别器(discriminator)、生成器-判别器博弈
关于经典GAN的minimax博弈目标,下列说法正确的有哪些? HAN-PRE-4-3-04 多选题选项 A. 判别器的优化目标是最大化目标函数V,提高区分真实样本和生成样本的能力 B. 生成器的优化目标是最小化目标函数V,让生成样本更难被判别器识别为假 C. 训练目标是让生成器和判别器在对抗过程中逐步逼近博弈均衡 D. 训练过程中只需要更新生成器参数,判别器参数固定不变
展开参考答案与解析 平台答案: ABC
平台解析: 经典GAN采用minimax优化:判别器max V,生成器min V,二者交替更新,在对抗中逼近均衡;判别器参数并非固定,而是需要与生成器交替训练。
知识点: 生成器-判别器博弈、minimax目标函数
朱睦晨 · 课后小测 · KP4-3 · 原第 5 题 · 答案与解析 来源资料答案: ABC
来源资料解析: 经典GAN采用minimax优化:判别器max V,生成器min V,二者交替更新,在对抗中逼近均衡;判别器参数并非固定,而是需要与生成器交替训练。
知识点: 生成器-判别器博弈;minimax目标函数
在可靠性工程中应用 GAN 进行故障样本增强时,相比于传统的逐点重构损失(如均方误差),对抗训练的损失函数更能促使生成器学习到真实故障信号的高阶统计特性和复杂依赖关系。 HAN-PRE-4-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 逐点重构损失(如 MSE)独立计算每个数据点的误差,容易导致生成的信号过于平滑,丢失高频细节和复杂的时序/空间依赖。而对抗训练中,判别器作为一个可学习的度量函数,能够从整体上评估生成样本的分布特征,迫使生成器不仅要匹配一阶矩(均值),还要逼近高阶统计特性和复杂的数据流形结构,因此在信号生成质量上通常优于逐点重构。
知识点: 生成器-判别器博弈
在标准 GAN 的 minimax 博弈中,为了获得最佳的生成效果,应当在每次迭代中先将判别器训练至完全收敛(即达到全局最优),然后再更新生成器的参数。 HAN-PRE-4-3-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 这是一个常见的误解。虽然理论上推导最优生成器时需要假设判别器处于最优状态,但在实际训练中,如果判别器过早达到完全收敛(过强),会导致生成器面临严重的梯度消失问题(因为 \ln(1 - D(G(z))) 的梯度趋于零),从而使得训练停滞或不稳定。实践中通常交替训练,且限制判别器的训练步数。
知识点: 训练不稳定问题
在DDPM的反向去噪网络中,时间步 t 通常经过嵌入层编码后作为条件输入。如果在网络设计中移除时间步嵌入,对去噪效果最直接的影响是什么? HAN-PRE-4-4-01 单选题选项 A. 网络将无法区分不同噪声水平的输入,导致在所有时间步上使用相同的去噪强度,严重破坏生成质量 B. 网络的参数量会减少,但可以通过增加网络深度来完全补偿时间步信息的缺失 C. 去噪过程将退化为VAE的单步解码,但仍能保持与原始DDPM相近的图像清晰度 D. 网络会自动学习到一个平均噪声方差,仅在噪声较小的后期步骤中表现下降
展开参考答案与解析 平台答案: A
平台解析: 反向去噪过程在不同时间步 t 面临的噪声水平差异巨大。时间步嵌入为网络提供了当前状态所处噪声尺度的关键上下文信息。若移除该条件,网络无法感知当前输入的噪声程度,只能用一套固定的参数应对所有阶段的去噪任务,这必然导致去噪失败和生成质量急剧下降。
知识点: 反向去噪过程
DDPM前向加噪过程本质是什么类型的随机过程? HAN-PRE-4-4-02 单选题选项 A. 离散时间马尔可夫链,逐步向数据添加高斯噪声 B. 连续时间布朗运动 C. 可逆的确定性变换 D. 泊松计数过程
展开参考答案与解析 平台答案: A
平台解析: DDPM前向加噪是离散时间马尔可夫链过程,按预设噪声日程逐步向数据添加高斯噪声。
知识点: 前向加噪过程、马尔可夫链加噪
某团队在部署扩散模型用于生成风力发电机叶片损伤图像时,遇到了生成样本质量极差的问题。经排查,以下哪些工程实践中的典型错误可能导致此现象? HAN-PRE-4-4-03 多选题选项 A. 训练时对输入图像归一化至 [-1, 1] ,但在采样生成后直接将输出视为 [0, 255] 像素值保存,未做反归一化 B. 采用了余弦噪声时间表(Cosine Schedule)替代线性时间表,以保证在大时间步时仍保留一定的信号强度 C. 网络结构中遗漏了时间步 t 的嵌入模块,导致输入仅有带噪图像 x_t D. 为了加快推理速度,在未更改采样算法的前提下,直接将 DDPM 的循环步数从 1000 改为 10
展开参考答案与解析 平台答案: ACD
平台解析: 选项 A 正确,训练与采样数据尺度不一致会导致数值溢出或显示全黑/全白,是常见工程错误;选项 B 错误,余弦时间表是一种优秀的改进方案,旨在防止末端信号过快消失,不会导致质量极差;选项 C 正确,缺失时间步条件会使网络无法感知噪声水平,导致训练失效;选项 D 正确,直接缩减 DDPM 步数会破坏高斯近似前提,导致生成崩溃。
知识点: 反向去噪过程、噪声预测训练目标、采样生成
下列属于DDPM工程落地中常见的失效诱因的有? HAN-PRE-4-4-04 多选题选项 A. 噪声时间表配置不合理,未采用经验证的参数设置 B. 未向网络输入时间步或等价噪声水平条件 C. 训练与采样阶段采用不一致的数据缩放尺度 D. 直接减少原生DDPM的采样步数而不更换适配的采样器
展开参考答案与解析 平台答案: ABCD
平台解析: DDPM常见失效原因包括噪声时间表配置不合理、缺失时间步条件输入、训练与采样数据尺度不一致、直接减少原生DDPM采样步数未适配对应采样器、数据集划分不严格导致数据泄漏等。
知识点: 前向加噪过程、反向去噪过程、噪声预测训练目标、采样生成
DDPM的前向加噪是马尔可夫链过程,训练时必须逐次执行从 x(0) 到 x(T) 的每一步加噪,才能得到t时刻的带噪样本用于训练。 HAN-PRE-4-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 前向加噪虽为马尔可夫过程,但存在闭式表达式,训练时可直接构造任意t时刻的带噪样本,无需逐步行进所有加噪步骤。
知识点: 前向加噪过程、马尔可夫链加噪
DDPM的噪声预测训练目标可以避免GAN中常见的对抗训练不稳定问题。 HAN-PRE-4-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: DDPM采用监督式噪声回归目标,无需进行生成器与判别器的极小极大对抗优化,训练更稳定。
知识点: 噪声预测训练目标
在可靠性工程的传感器网络图建模中,边通常可以表示什么含义? HAN-PRE-4-5-01 单选题选项 A. 传感器采集的时域信号均值 B. 传感器之间的空间邻近或信号相关关系 C. 传感器对应的故障类型标签 D. 传感器的硬件采样频率参数
展开参考答案与解析 平台答案: B
平台解析: 传感器网络图中节点为传感器,边表示传感器间的空间邻近或信号相关关系,节点特征为传感器信号的统计/频域量。
知识点: 图的表示:节点与边
某风电场有 50 台风力发电机,每台风机的传动链(主轴-齿轮箱-发电机)可抽象为一个包含 3 个节点的图。现需要训练一个模型来判定每台风机的整体健康等级(正常/异常)。在构建数据集时,正确的做法是? HAN-PRE-4-5-02 单选题选项 A. 将 50 台风机拼成一个包含 150 个节点的大图,执行节点分类任务 B. 构建 50 个独立的包含 3 个节点的小图,执行图分类任务 C. 构建 50 个独立的包含 3 个节点的小图,执行节点分类任务 D. 将 50 台风机拼成一个包含 150 个节点的大图,执行图分类任务
展开参考答案与解析 平台答案: B
平台解析: 由于目标是判定“每台风机的整体健康等级”,标签是赋予整台风机(即整个图)的,因此这是一个图级分类任务。同时,不同风机之间如果没有物理或信号的耦合关系,应将它们视为独立的数据样本,即构建 50 个独立的小图组成图数据集,而不是强行合并为一个大图。
关于图神经网络中的消息传递机制,以下描述正确的有( )。(本题有 2 个正确选项) HAN-PRE-4-5-03 多选题选项 A. 消息传递过程可以形式化为“消息计算-邻居聚合-节点更新”三个连续的阶段 B. 邻居聚合阶段只能使用线性运算,不能引入注意力机制等非线性加权方式 C. 在节点更新阶段,通常会结合节点上一层的自身特征与当前聚合得到的邻居信息 D. 消息传递机制要求图必须是有向图,否则无法确定消息流动的方向
展开参考答案与解析 平台答案: AC
平台解析: 本题考查消息传递机制的核心流程与概念辨析。选项 A正确,这是消息传递神经网络(MPNN)的标准框架。选项 B 错误,聚合函数可以是多种多样的,如图注意力网络(GAT)就使用了注意力机制进行非线性加权聚合。选项 C 正确,例如 GCN 或 GraphSAGE 的更新公式中,都会将聚合后的邻居信息与节点自身历史状态结合(如拼接或相加)。选项 D 错误,对于无向图,消息传递可以视为双向同时进行,无需限定为有向图。
知识点: 消息传递机制(message passing)、邻居聚合(neighbor aggregation)
以下属于可靠性工程中常见的图数据构造场景的有? HAN-PRE-4-5-04 多选题选项 A. 传感器网络图 B. 部件拓扑图 C. 样本关系图 D. 规则图像像素网格
展开参考答案与解析 平台答案: ABC
平台解析: 可靠性工程中三类典型图场景为传感器网络图、部件拓扑图、样本关系图,三类场景均可统一为节点+边+特征的表示形式;规则像素网格是卷积神经网络处理的典型数据,不属于可靠性工程特有的图构造场景。
知识点: 图的表示:节点与边
邻接矩阵 A 中元素 A_{ij}=1 表示节点 i 的特征向量第 j 维取值为1。 HAN-PRE-4-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 邻接矩阵 A_{ij}=1 表示节点 i 与节点 j 之间存在直接连接关系,与节点自身的特征取值无关。
知识点: 邻接矩阵(adjacency matrix)
邻居聚合操作计算邻居特征的加权平均时,最终结果会随着邻居节点的输入顺序变化而改变。 HAN-PRE-4-5-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 邻居聚合的(加权)平均操作满足排列不变性,结果与邻居的排列顺序无关。
知识点: 邻居聚合(neighbor aggregation)
在GAT的注意力聚合权重计算流程中,标准的处理步骤顺序是什么?假设已有节点特征和注意力参数。 HAN-PRE-4-6-01 单选题选项 A. 归一化 \rightarrow 评分 \rightarrow 加权和 B. 评分 \rightarrow 加权和 \rightarrow 归一化 C. 评分 \rightarrow 归一化 \rightarrow 加权和 D. 加权和 \rightarrow 评分 \rightarrow 归一化
展开参考答案与解析 平台答案: C
平台解析: GAT计算注意力权重的标准流程为:首先通过共享的注意力机制(如单层前馈神经网络结合LeakyReLU激活函数)计算节点对之间的相关性“评分”;然后使用Softmax函数对目标节点的所有邻居评分进行“归一化”,得到概率分布形式的注意力权重;最后将这些归一化后的权重与对应的邻居特征进行“加权和”操作,完成信息聚合。因此正确顺序是评分 \rightarrow 归一化 \rightarrow 加权和。
知识点: 注意力聚合权重
典型时空图网络的层组装方式是? HAN-PRE-4-6-02 单选题选项 A. 仅堆叠空间层 B. 仅堆叠时间层 C. 空间层与时间层交替堆叠 D. 先全连接层再堆叠池化层
展开参考答案与解析 平台答案: C
平台解析: 时空图网络由空间模块和时间模块交替堆叠组成:空间层聚合每个时间片的邻居信息,时间层沿时间轴建模状态演化。
知识点: 时空图融合
在风电场剩余寿命预测工程中部署时空图模型时,可能面临的局限性及其应对策略匹配正确的有: HAN-PRE-4-6-03 多选题选项 A. 局限性:静态图假设无法反映风机间随风向变化的动态尾流效应;策略:引入基于物理模型或数据驱动的动态构图机制 B. 局限性:大规模图导致 GAT计算显存溢出;策略:采用邻居采样(Neighbor Sampling)或图分区技术降低单次计算规模 C. 局限性:模型容易过拟合训练期的特定时间模式;策略:在划分数据集时将测试期数据混入训练集以增加多样性 D. 局限性:空间层与时间层简单拼接可能导致时空特征未充分交互;策略:采用空间层与时间层交替堆叠的深度融合架构
展开参考答案与解析 平台答案: ABD
平台解析: A、B、D 均正确指出了实际工程中的局限性并给出了合理的学术/工程应对策略。选项 C 的策略严重违反了时间序列预测的基本原则,将测试期(未来)数据混入训练集会导致数据泄露,使得模型评估失效,并非解决过拟合的正确方法。应对过拟合应采用正则化、早停或在训练期内划分验证集等策略。
知识点: 图注意力网络(GAT)、空间图建模、时空图融合
某工厂计划利用机器学习预测生产线中多台互联设备的剩余寿命。在选择空间图建模模块时,工程师需要在GCN和GAT之间进行权衡。以下关于两者对比分析的结论,合理的有哪些? HAN-PRE-4-6-04 多选题选项 A. 如果设备间的物理耦合关系明确且各邻居影响相对均匀,GCN是控制计算量的合理选择 B. 如果不同相邻设备对目标设备退化的贡献差异极大,且历史数据充足,GAT更能发挥优势 C. GAT的聚合权重由归一化邻接矩阵预先固定,因此比GCN更具鲁棒性 D. 在正式部署GAT前,应先建立GCN基线模型以验证GAT是否带来了实质性的性能增益
展开参考答案与解析 平台答案: ABD
平台解析: 根据模型选型原则,GCN适合关系明确且需控制计算量的场景(A正确),GAT适合邻居贡献差异大且数据量充足的场景(B正确)。工程实践中,部署复杂模型前应建立简单基线(如GCN)并验证增益(D正确)。选项C错误,GCN的权重才是由归一化邻接矩阵固定的,GAT的权重是由节点特征动态计算并学习得到的。
知识点: 图注意力网络(GAT)
在跨工况设备剩余寿命(RUL)预测任务中,如果不同工况下设备间的相互影响模式保持不变,那么使用固定归一化系数的GCN与使用自适应注意力权重的GAT在空间图建模上的预测性能一定没有差异。 HAN-PRE-4-6-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 即使设备间的宏观影响模式不变,不同工况下各个设备的退化状态(节点特征)也会发生变化。GCN的固定归一化系数仅依赖拓扑结构,无法感知节点特征的变化;而GAT的注意力权重由节点特征驱动,能够根据各设备当前的具体退化程度自适应地调整信息聚合比例。因此,GAT通常能提供更细粒度的特征感知,两者性能会有差异。
知识点: 空间图建模
对于节点特征随时间演化、同时需要利用节点间空间关系的预测任务,适合选用时空图模型。 HAN-PRE-4-6-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 时空图模型的核心能力就是联合建模空间拓扑关系与时间依赖,适配这类场景。
知识点: 时空图融合
某研究团队希望将一个在大规模通用语料库上预训练的 Transformer 语言模型应用于特定领域的法律文书自动摘要生成。考虑到法律文本具有极强的专业术语和特定的句式结构,且团队拥有少量带标注的法律文书摘要对。最适合的迁移策略是? HAN-POST-4-1-01 单选题选项 A. 冻结预训练模型的所有参数,仅在顶层添加一个随机初始化的线性层进行训练 B. 将预训练模型的所有参数作为初始化权重,使用法律文书数据对整个模型进行端到端微调 C. 仅提取预训练模型的词嵌入矩阵作为固定特征,使用传统机器学习方法训练摘要模型 D. 放弃预训练模型,直接使用法律文书数据从头训练一个新的 Transformer 模型
展开参考答案与解析 平台答案: B
平台解析: 预训练模型提供了强大的通用语言理解能力(参数迁移的基础),但法律领域存在显著的概念偏移和专业特征。由于团队拥有少量带标注的目标域数据,采用微调(Fine-tuning)范式——即将预训练权重作为初始化,并在目标域数据上更新全部或大部分参数——能够最好地兼顾通用知识的保留和领域特性的适应。选项 A 冻结所有底层参数可能导致模型无法学习法律专业术语的深层语义;选项 C 浪费了预训练模型的高层语义特征;选项 D 在小样本下容易过拟合且浪费计算资源。
知识点: 参数迁移、微调(fine-tuning)基本范式
下列关于特征迁移和参数迁移的说法,正确的是? HAN-POST-4-1-02 单选题选项 A. 特征迁移侧重学习域不变特征表示,参数迁移侧重复用预训练模型的参数知识 B. 特征迁移和参数迁移是完全互斥、不能结合使用的两类方法 C. 参数迁移不需要源域的预训练过程,可以直接在目标域训练 D. 特征迁移必须要求源域和目标域的标签完全一致,参数迁移则不需要
展开参考答案与解析 平台答案: A
平台解析: 特征迁移的核心是对齐域间特征分布、学习共享表示,参数迁移的核心是共享和微调预训练参数;二者可以结合使用,参数迁移必须依赖源域预训练参数,两类方法都可适配不同的标签对应场景。
知识点: 特征迁移、参数迁移
在评估迁移学习算法的可靠性时,研究人员发现:当源域与目标域之间的域偏移过大时,强行进行参数迁移不仅不能提升性能,反而导致目标域准确率低于不使用迁移的基线模型。这种现象被称为负迁移。从形式化角度分析,负迁移发生的根本原因是: HAN-POST-4-1-03 单选题选项 A. 目标域的特征空间 \mathcal{X}_T 维度小于源域 B. 源域学到的参数所隐含的归纳偏置与目标域的真实分布严重冲突 C. 目标域的先验概率 P_T(Y) 服从均匀分布 D. 微调过程中学习率设置过小
展开参考答案与解析 平台答案: B
平台解析: 负迁移的本质在于源域知识对目标域产生了误导。参数迁移传递的是源模型学到的归纳偏置(如对特征重要性的假设)。当域偏移过大时,这些偏置与目标域的真实数据分布 P_T(X,Y) 严重不符,强行以此初始化会使得优化陷入错误的局部最优。选项 A、C 只是特定分布情况,不是根本原因;选项 D是超参数问题,不导致本质上的负迁移。
知识点: 域偏移(domain shift)、参数迁移
下列属于特征迁移典型做法的有? HAN-POST-4-1-04 多选题选项 A. 通过最大均值差异(MMD)度量源域和目标域的特征分布距离,并在训练中最小化该距离 B. 利用域对抗训练让特征提取器无法区分特征来自源域还是目标域,学习域不变特征 C. 加载源域预训练模型后,冻结所有特征提取层参数,仅微调最后一层分类器 D. 将源域和目标域的原始特征直接拼接后输入分类器训练,不做分布对齐
展开参考答案与解析 平台答案: AB
平台解析: 基于MMD的分布对齐、域对抗训练学习域不变特征都是特征迁移的典型方法;冻结特征层仅微调分类器属于参数迁移的微调范式,直接拼接特征不做对齐不属于特征迁移的核心做法。
知识点: 特征迁移
在微调预训练模型时,由于目标任务的训练数据通常较少,因此应该始终冻结预训练模型的所有参数,仅训练新添加的分类头,这样才能保证模型不会发生灾难性遗忘。 HAN-POST-4-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: “始终冻结所有参数”的说法过于绝对。虽然冻结参数能防止过拟合和灾难性遗忘,但如果源域和目标域之间存在较大的域偏移,或者目标任务与预训练任务差异显著,仅训练分类头往往无法提供足够的模型容量来学习目标域的特有特征。实践中需要根据数据量大小和域偏移程度,灵活选择全量微调、逐层解冻或使用参数高效微调(PEFT)方法。
知识点: 微调(fine-tuning)基本范式
评估域对齐效果时,下列说法正确的是? HAN-POST-4-2-01 单选题选项 A. 只需要看域分类准确率即可 B. 需要结合任务性能、分布差异和校准结果综合判断 C. 域分类准确率越高说明对齐效果越好 D. MMD值越大说明对齐效果越好
展开参考答案与解析 平台答案: B
平台解析: 对齐效果不能仅看域分类准确率,需要结合任务性能、分布差异度量、校准结果多维度评估。
知识点: 差异度量对齐
在特征迁移的分布对齐任务中,最大均值差异(MMD)属于以下哪类对齐方法? HAN-POST-4-2-02 单选题选项 A. 基于统计距离的直接对齐方法 B. 基于域判别器的对抗对齐方法 C. 基于数据增强的对齐方法 D. 基于模型正则化的对齐方法
展开参考答案与解析 平台答案: A
平台解析: MMD通过核均值嵌入直接计算源域与目标域的特征分布距离,属于统计距离类的直接对齐方法,不属于对抗、数据增强或正则化类对齐路径。
知识点: 差异度量对齐、最大均值差异(MMD)
在部署域对抗神经网络(DANN)进行跨域工业质检时,以下哪些因素会直接影响对抗对齐的最终效果? HAN-POST-4-2-03 多选题选项 A. 总损失函数中域对齐损失相对于任务损失的权重系数 \lambda 的设定 B. 域判别器网络结构的容量大小(如层数和神经元个数) C. 梯度反转层(GRL)在反向传播时的缩放因子 D. 源域数据的存储格式(如CSV或JSON)
展开参考答案与解析 平台答案: ABC
平台解析: 权重系数 \lambda 决定了任务学习与域对齐之间的平衡(A正确)。域判别器的容量必须适中,太弱则无法提供有效梯度指导,太强则容易导致特征提取器优化困难(B正确)。GRL的缩放因子直接控制了特征提取器对抗更新的步长(C正确)。数据存储格式不影响算法的数学优化过程(D错误)。
知识点: 对抗对齐、域对抗神经网络(DANN)、梯度反转层(GRL)
关于梯度反转层(GRL)在反向传播中的数学机制,以下推导或描述正确的有: HAN-POST-4-2-04 多选题选项 A. 设GRL的输入为 x ,输出为 y ,则前向传播满足 y = x B. 在反向传播时,若GRL后接层的损失对 y 的梯度为 \frac{\partial L}{\partial y} ,则GRL对输入 x 的梯度为 -\lambda \frac{\partial L}{\partial y} C. GRL的作用等价于在优化特征提取器时,将域判别器的损失函数替换为其相反数 D. GRL会改变前向传播时特征提取器输出的数值大小,以增强特征的域不变性
展开参考答案与解析 平台答案: ABC
平台解析: A正确,GRL前向传播为恒等映射。B正确,这是GRL反向传播的定义,通过乘以 -\lambda 反转梯度方向。C正确,由于反向传播时梯度取反,对于特征提取器而言,其优化方向等效于最大化域判别器损失(即最小化负的域判别器损失)。D错误,GRL在前向传播中不改变任何数值,仅在反向传播时起作用。
知识点: 域对抗神经网络(DANN)、梯度反转层(GRL)
朱睦晨 · 课后小测 · KP4-2 · 原第 2 题 · 答案与解析 来源资料答案: ABC
来源资料解析: A正确,GRL前向传播为恒等映射。B正确,这是GRL反向传播的定义,通过乘以-\lambda 反转梯度方向。C正确,由于反向传播时梯度取反,对于特征提取器而言,其优化方向等效于最大化域判别器损失(即最小化负的域判别器损失)。D错误,GRL在前向传播中不改变任何数值,仅在反向传播时起作用。
知识点: 域对抗神经网络(DANN);梯度反转层(GRL)
域对抗神经网络(DANN)的训练过程中,域判别器的目标是尽可能区分样本来自源域还是目标域,与特征提取器形成对抗关系。 HAN-POST-4-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: DANN的对抗机制体现为域判别器提升域分类准确率、特征提取器降低特征域可分性的博弈过程,最终得到域不变特征。
知识点: 对抗对齐、域对抗神经网络(DANN)
GAN训练过程中生成器与判别器的典型交替训练目标是? HAN-POST-4-3-01 单选题选项 A. 两者同时最小化同一个分类损失函数 B. 判别器提升真伪判别能力,生成器提升生成样本以骗过判别器,二者在对抗中逼近均衡 C. 生成器独立拟合数据分布,判别器仅用于测试阶段评估 D. 判别器最小化生成样本的似然,生成器最大化判别误差的L2范数
展开参考答案与解析 平台答案: B
平台解析: GAN采用对抗博弈机制:判别器努力区分真实样本和假样本,生成器努力生成更逼真的样本欺骗判别器,通过交替优化逼近博弈均衡。
知识点: 生成器-判别器博弈
朱睦晨 · 课后小测 · KP4-3 · 原第 1 题 · 答案与解析 来源资料答案: B
来源资料解析: GAN采用对抗博弈机制:判别器努力区分真实样本和假样本,生成器努力生成更逼真的样本欺骗判别器,通过交替优化逼近博弈均衡。
知识点: 生成器-判别器博弈
在航空发动机叶片裂纹检测的数据增强项目中,标准GAN的minimax目标函数定义为 V(D, G) = \mathbb{E}_{x \sim p_{\text{data}}}[\ln D(x)] + \mathbb{E}_{z \sim p_z}[\ln(1 - D(G(z)))] 。当生成器达到全局最优时,判别器 D^*(x) 的理论输出值应为多少? HAN-POST-4-3-02 单选题选项 A. 0 B. 0.5 C. 1 D. 取决于裂纹严重程度类别的分布比例
展开参考答案与解析 平台答案: B
平台解析: 根据GAN理论,当生成器完美学习到真实数据分布(即 p_g = p_{\text{data}} )时,对于任意输入样本,判别器无法区分其来源,此时最优判别器 D^*(x)=\frac{p_{\mathrm{data}}(x)}{p_{\mathrm{data}}(x)+p_g(x)}=\frac12 。这标志着生成器-判别器博弈达到了纳什均衡。
知识点: minimax目标函数
朱睦晨 · 课后小测 · KP4-3 · 原第 4 题 · 答案与解析 来源资料答案: B
来源资料解析: 根据GAN理论,当生成器完美学习到真实数据分布(即p_g=p_{data} )时,对于任意输入样本,判别器无法区分其来源,此时最优判别器D^*(x)=\frac{p_{data}(x)}{p_{data}(x)+p_g(x)}=\frac12 。这标志着生成器-判别器博弈达到了纳什均衡。
知识点: minimax目标函数
为缓解GAN训练不稳定、保持生成器获得稳定持续的梯度,可采用的合理思路包括哪些? HAN-POST-4-3-03 多选题选项 A. 保持判别器适度判别能力,避免判别器过强导致梯度枯竭 B. 通过调整G和D的更新步数比、网络深度控制双方能力平衡 C. 采用改进目标函数或正则化方法稳定梯度 D. 训练一开始就将判别器训练到完全区分所有样本,再固定不变训练生成器
展开参考答案与解析 平台答案: ABC
平台解析: 缓解GAN训练不稳定需要为G提供稳定梯度,可通过平衡G与D能力、调整更新比例和网络深度、改进目标与正则化实现;若D一开始就过强且固定,会导致G梯度消失,不利于训练。
知识点: 训练不稳定问题
在基于GAN的设备剩余使用寿命(RUL)预测数据增强中,训练不稳定是一个常见挑战。除了判别器过强导致的梯度衰减外,以下哪些因素也是引起GAN训练不稳定的重要原因? HAN-POST-4-3-04 多选题选项 A. 生成器与判别器的学习能力严重失衡,导致博弈过程无法收敛 B. 目标函数中存在鞍点,使得基于梯度的优化算法容易在此停滞或震荡 C. 真实RUL数据的高维时序特征导致生成分布与真实分布在低维流形上难以完美重合 D. 判别器使用了ReLU激活函数,保证了其在整个训练过程中的梯度始终非零
展开参考答案与解析 平台答案: ABC
平台解析: A正确,两者能力失衡(如一方过强)是导致GAN训练崩溃的主要原因之一。B正确,GAN的minimax博弈目标函数是非凸的,存在大量鞍点,标准梯度下降难以有效逃离。C正确,高维数据通常分布在低维流形上,两个低维流形很难完美重叠,导致JS散度经常处于最大值,引发梯度消失。D错误,ReLU在输入小于零时梯度严格为零(Dead ReLU问题),并不能保证梯度始终非零,且这也不是缓解不稳定的通用理由。
知识点: 训练不稳定问题
条件GAN(cGAN)中,类别标签仅需要输入给生成器,不需要输入给判别器。 HAN-POST-4-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: cGAN需要将类别标签y同时输入生成器和判别器,判别器不仅要判断样本真伪,还要判断样本与输入标签是否匹配。
知识点: 条件GAN(cGAN)
DDPM标准采样流程的初始输入是? HAN-POST-4-4-01 单选题选项 A. 真实故障样本 B. 服从标准高斯分布的纯噪声 x(T)\sim N(0,I) C. 随机选择的带噪样本 x(t) D. 全零张量
展开参考答案与解析 平台答案: B
平台解析: DDPM采样生成从采样服从 N(0,I) 的纯噪声 x(T) 开始,逐步反向去噪得到最终样本 x(0) 。
知识点: 采样生成
朱睦晨 · 课后小测 · KP4-4 · 原第 2 题 · 答案与解析 来源资料答案: B
来源资料解析: DDPM采样生成从采样服从N(0,I) 的纯噪声x(T) 开始,逐步反向去噪得到最终样本x(0) 。
知识点: 采样生成
关于 DDPM 中时间步 t 的处理方式,下列描述正确的是? HAN-POST-4-4-02 单选题选项 A. t 仅用于控制前向加噪的方差大小,不需要输入到噪声预测网络 \epsilon_\theta 中 B. t 作为标量直接与输入图像拼接后送入卷积网络 C. t 须经过嵌入层(如正弦位置编码)编码为向量后,作为条件信息输入网络 D. t 仅在训练阶段使用,采样生成阶段不需要告知网络当前时间步
展开参考答案与解析 平台答案: C
平台解析: 由于不同时间步 t 对应的噪声水平不同,网络需要知道当前处理的是哪个时间步的带噪数据才能正确预测噪声。因此, t 必须作为条件输入网络。实践中通常将标量 t 通过正弦位置编码等嵌入层映射为高维向量,再通过加法或交叉注意力等方式融入网络特征中。选项 A、D 忽略了时间步条件的必要性,选项 B 的拼接方式不是标准做法。
知识点: 噪声预测训练目标
朱睦晨 · 课后小测 · KP4-4 · 原第 1 题 · 答案与解析 来源资料答案: C
来源资料解析: 由于不同时间步t 对应的噪声水平不同,网络需要知道当前处理的是哪个时间步的带噪数据才能正确预测噪声。因此,t 必须作为条件输入网络。实践中通常将标量t 通过正弦位置编码等嵌入层映射为高维向量,再通过加法或交叉注意力等方式融入网络特征中。选项 A、D 忽略了时间步条件的必要性,选项 B 的拼接方式不是标准做法。
知识点: 噪声预测训练目标
在DDPM的采样生成过程中,即使给定完全相同的初始纯噪声 x_T ,标准算法依然可以生成不同的图像样本。这一特性的来源是: HAN-POST-4-4-03 单选题选项 A. 反向去噪过程中,除最后一步外,每一步都会从标准正态分布中采样新的随机噪声并注入到状态中 B. 前向加噪过程本身具有不可逆的随机性,导致每次反向推导路径不同 C. 噪声预测网络内部使用了Dropout,在推理阶段保持了随机失活 D. 时间步嵌入在每次采样时会引入微小的随机扰动
展开参考答案与解析 平台答案: A
平台解析: 标准DDPM的反向过程定义为一个马尔可夫链,其转移概率 p_{\theta}(x_{t-1}\mid x_t) 是一个高斯分布。在采样时,除了 t=1 的最后一步,网络不仅预测均值,还会在该均值上叠加一个采样自标准正态分布的随机噪声项 z\sim\mathcal{N}(0,I) 。正是这些每步注入的独立随机性,使得相同的 x_T 能够演化出不同的生成结果。
知识点: 采样生成
DDPM的前向加噪是马尔可夫链过程,训练时必须逐次执行从 x(0) 到 x(T) 的每一步加噪,才能得到t时刻的带噪样本用于训练。 HAN-POST-4-4-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 前向加噪虽为马尔可夫过程,但存在闭式表达式,训练时可直接构造任意t时刻的带噪样本,无需逐步行进所有加噪步骤。
知识点: 前向加噪过程、马尔可夫链加噪
在DDPM的训练阶段,为了提高计算效率,我们可以利用闭式跳步公式直接构造任意时间步 t 的带噪样本 x_t ;因此在采样生成阶段,我们同样可以利用该闭式公式,从纯噪声 x_T 直接一步计算出清晰图像 x_0 。 HAN-POST-4-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 训练时拥有真实数据 x_0 ,故可利用重参数化闭式直接求 x_t 。但在采样阶段, x_0 是未知待求的,闭式公式无法逆向一步求解,必须依赖训练好的网络从 x_T 开始逐步执行反向马尔可夫链去噪过程。混淆了训练构造样本与采样生成数据的可用条件。
知识点: 前向加噪过程、马尔可夫链加噪、采样生成
可靠性机器学习场景中,完整的图结构 G=(V,E) 除了表征邻接关系的邻接矩阵 A 外,还需要包含哪项核心内容? HAN-POST-4-5-01 单选题选项 A. 每个节点对应的特征向量 B. 所有边的权重绝对值 C. 全局的任务分类标签 D. 模型的可训练参数矩阵
展开参考答案与解析 平台答案: A
平台解析: 图 G=(V,E) 由表征邻接关系的邻接矩阵 A 和每个节点自带的特征向量共同构成,是图学习的基础数据。
知识点: 邻接矩阵(adjacency matrix)
下列关于邻接矩阵和节点度的说法,正确的有? HAN-POST-4-5-02 多选题选项 A. 邻接矩阵 A_{ij}=1 表示节点 i 和节点 j 相连 B. 节点的度是该节点的邻居数量 C. 节点的度对应邻接矩阵的行和 D. 邻接矩阵对角线元素恒为1表示节点自连接
展开参考答案与解析 平台答案: ABC
平台解析: 基础定义中邻接矩阵 A_{ij}=1 代表两节点相连,节点度为邻居数,即邻接矩阵行和,常用于归一化;普通无自环的图邻接矩阵对角线元素为0。
知识点: 邻接矩阵(adjacency matrix)、度矩阵(degree matrix)
下列关于图神经网络消息传递与邻居聚合过程的描述,正确的有? HAN-POST-4-5-03 多选题选项 A. 首先沿边收集各个邻居节点的特征 B. 聚合计算结果与邻居节点的排列顺序无关 C. 聚合后需要结合自身特征,经过线性变换和激活得到更新表示 D. 聚合过程必须严格按照邻居编号顺序加权求和
展开参考答案与解析 平台答案: ABC
平台解析: 消息传递分为收集邻居特征、(加权)平均聚合、结合自身特征变换激活三步,聚合结果与邻居排列顺序无关,不需要依赖固定的邻居编号顺序。
知识点: 消息传递机制(message passing)、邻居聚合(neighbor aggregation)
以下关于邻接矩阵和度矩阵的说法,正确的有哪些? HAN-POST-4-5-04 多选题选项 A. 无向图的邻接矩阵是对称矩阵 B. 邻接矩阵中 A_{ij}=0 表示节点 i 和 j 之间不存在直接连接 C. 节点的度等于邻接矩阵中该节点对应行的元素之和 D. 度矩阵是所有非对角元全为1的矩阵
展开参考答案与解析 平台答案: ABC
平台解析: 无向图邻接矩阵满足对称性质, A_{ij}=0 表示两节点无直接连接,节点度为邻接矩阵对应行的元素和;度矩阵为对角矩阵,非对角元取值为0。
知识点: 邻接矩阵(adjacency matrix)、度矩阵(degree matrix)
在 GNN 的消息传递机制中,聚合函数的选择直接影响模型性能。假设某工业管网中有 n 个相邻节点向中心节点发送特征,以下哪些聚合函数满足“置换不变性”要求,适合用于邻居聚合? HAN-POST-4-5-05 多选题选项 A. f(x_1, \dots, x_n) = \sum_{k=1}^n x_k B. f(x_1, \dots, x_n) = \max(x_1, \dots, x_n) (逐元素取最大值) C. f(x_1, \dots, x_n) = [x_1^\top, x_2^\top, \dots, x_n^\top]^\top (按固定顺序拼接) D. f(x_1, \dots, x_n) = \frac{1}{n}\sum_{k=1}^n x_k
展开参考答案与解析 平台答案: ABD
平台解析: 置换不变性要求无论输入元素的排列顺序如何,输出结果保持不变。求和(A)、逐元素最大值(B)和求均值(D)都是典型的置换不变算子。而按顺序拼接(C)的输出严重依赖于输入的顺序,一旦邻居遍历顺序改变,拼接出的向量就完全不同,因此不满足要求。
朱睦晨 · 课后小测 · KP4-5 · 原第 4 题 · 答案与解析 来源资料答案: ABD
来源资料解析: 置换不变性要求无论输入元素的排列顺序如何,输出结果保持不变。求和(A)、逐元素最大值(B)和求均值(D)都是典型的置换不变算子。而按顺序拼接(C)的输出严重依赖于输入的顺序,一旦邻居遍历顺序改变,拼接出的向量就完全不同,因此不满足要求。
以下选项中,属于GAT注意力聚合正确流程的是? HAN-POST-4-6-01 单选题选项 A. 加权求和→评分→softmax归一 B. 评分→softmax归一→加权求和 C. softmax归一→评分→加权求和 D. 评分→加权求和→softmax归一
展开参考答案与解析 平台答案: B
平台解析: GAT注意力聚合的标准流程为:先计算节点对相关性评分,再经局部邻域softmax归一得到权重,最后按权重加权求和聚合邻居信息。
知识点: 注意力聚合权重
将GAT应用于工业物联网(IIoT)大规模传感器网络的空间图建模时,常面临算力压力和通信开销的挑战。以下哪些方法可以有效应对这些大图处理难题? HAN-POST-4-6-02 多选题选项 A. 采用基于簇的图池化(Graph Pooling)技术,在深层网络中将拓扑相近的传感器节点合并为超节点,降低后续层的计算规模 B. 放弃所有邻居节点的聚合,仅使用中心节点自身的特征进行预测以彻底消除通信开销 C. 实施邻居采样策略,在每次前向传播时限制每个节点参与注意力计算的邻居数量上限 D. 将全局大图划分为多个重叠的子图(Subgraph),在子图上独立进行GAT训练,最后通过重叠区域同步参数
展开参考答案与解析 平台答案: ACD
平台解析: A项图池化是处理大图的常用降采样方法;C项邻居采样(如GraphSAGE、Cluster-GCN的思想)能有效控制感受野大小,降低算力压力;D项子图划分(Subgraph sampling/partitioning)是大图分布式训练的标准范式。B项虽然消除了通信开销,但完全放弃了图结构信息,退化为独立的MLP模型,违背了使用GAT进行空间图建模的初衷,不属于合理的应对策略。
知识点: 空间图建模
关于 GAT 与 GCN 在空间图建模中的核心区别,以下表述正确的有: HAN-POST-4-6-03 多选题选项 A. GCN 的邻居聚合权重主要由图的拓扑结构(如节点度数)预先决定,在训练过程中不随节点特征变化 B. GAT 的邻居聚合权重是通过节点特征计算得出的,能够针对不同中心节点自适应调整 C. 在异质图(节点间关系强度差异极大)中,GAT 通常比 GCN 表现出更强的表征能力 D. GCN 由于引入了注意力机制,其计算复杂度在所有场景下均高于 GAT
展开参考答案与解析 平台答案: ABC
平台解析: GCN 依赖对称归一化拉普拉斯矩阵,权重由度矩阵决定,是静态且固定的(A 正确)。GAT 通过注意力网络根据特征动态计算权重(B 正确)。因此在节点重要性差异大的场景中,GAT 更具优势(C 正确)。选项 D 错误,GCN没有引入注意力机制,且由于其权重是预计算的稀疏矩阵乘法,通常计算复杂度低于需要逐边计算注意力的 GAT。
知识点: 图注意力网络(GAT)、空间图建模
在任何场景下,GAT的性能都一定优于GCN,不需要做GCN基线对比。 HAN-POST-4-6-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 数据量少、邻居同质、图结构可靠的场景下GCN更稳定,实践中应先建立GCN基线,再验证GAT是否带来稳定的性能增益。
知识点: 图注意力网络(GAT)
在 GAT 的注意力聚合过程中,Softmax 归一化操作的作用是将节点对其各个邻居的未归一化注意力评分转化为非负且和为 1 的权重系数。 HAN-POST-4-6-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 这是 Softmax 函数的基本数学性质。在 GAT中,对节点 i 的所有邻居 j\in\mathcal{N}_i 的评分 e_{ij} 应用 Softmax,即 \alpha_{ij}=\frac{\exp(e_{ij})}{\sum_{k\in\mathcal{N}_i}\exp(e_{ik})} ,确保得到的注意力系数 \alpha_{ij} 均在 (0,1) 之间且总和为 1 ,从而实现稳定的加权求和。
知识点: 图注意力网络(GAT)、注意力聚合权重
深度学习中最基础的微调(fine-tuning)范式通常指? ZHU-PRE-4-1-01 单选题选项 A. 随机初始化所有模型参数,在目标域上从头开始训练 B. 加载源域预训练的模型参数,以较小的学习率在目标域数据上调整部分或全部模型参数 C. 固定模型所有参数,仅在目标域上做特征归一化 D. 将源域和目标域数据直接混合,不区分域进行训练
展开参考答案与解析 来源资料答案: B
来源资料解析: 微调的基本范式是加载源域预训练参数作为初始化,使用较小学习率在目标域上更新参数;从头训练没有利用源域知识,固定全参数不训练无法适配目标域,直接混合训练不属于标准微调范式。
知识点: 微调(fine-tuning)基本范式
参数迁移路线通过复用预训练模型的权重参数来加速目标域模型的学习。在以下跨工况场景中,最适合采用参数迁移路线(而非仅做特征提取)的是( )。 ZHU-PRE-4-1-02 单选题选项 A. 源域与目标域任务完全不同,且目标域仅有极少量无标签数据 B. 源域模型结构与目标域硬件平台的计算资源限制严重冲突 C. 源域与目标域任务高度相似,且目标域拥有中等规模的有标签数据 D. 源域与目标域的特征空间维度完全不同,无法构建映射关系
展开参考答案与解析 来源资料答案: C
来源资料解析: 参数迁移(如微调)的前提是源域学到的参数对目标域有较好的初始化价值。当任务高度相似且目标域有一定量有标签数据时,复用并进一步调整参数能有效避免过拟合且提升收敛速度。A选项适合无监督特征迁移;B选项模型结构冲突难以直接迁移参数;D选项特征空间不同使得参数无法直接复用。
知识点: 参数迁移
参数迁移通过复用预训练模型的权重来加速目标域的训练。在决定采用参数迁移路线时,需要综合考虑多个因素。以下哪些场景或条件支持优先采用参数迁移策略?( ) ZHU-PRE-4-1-03 多选题选项 A. 源域模型与目标域任务的底层网络架构可以保持一致或兼容 B. 目标域可用标注数据极少,从头训练极易产生过拟合 C. 源域与目标域不仅特征空间不同,且任务定义毫无关联 D. 预训练模型在源域大数据集上已收敛至良好的泛化参数空间
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 参数迁移的前提是源域参数对目标域有正向指导意义。A选项正确,架构兼容是参数复用的物理基础。B选项正确,参数迁移(尤其是微调)能提供良好的正则化效果,缓解小样本过拟合。D选项正确,高质量的预训练参数是迁移成功的保障。C选项中特征空间不同且任务无关,直接复用参数不仅无效还可能导致严重的负迁移,不支持采用参数迁移。
知识点: 参数迁移
某研究团队试图将基于晴天城市道路(源域)训练的语义分割模型迁移到雨夜乡村道路(目标域)。从域与任务的形式化视角综合分析,该跨工况问题涉及的变化包括: ZHU-PRE-4-1-04 多选题选项 A. 光照和天气导致图像像素分布剧变,即源域与目标域的 P_S(X) \neq P_T(X) B. 城市与乡村的道路元素构成不同(如缺少红绿灯,增加农田边界),可能导致标签空间 \mathcal{Y} 或先验 P(Y) 发生变化 C. 雨天路面反光使得原本代表“柏油路”的视觉特征发生改变,暗示条件概率 P(Y|X) 可能发生概念偏移 D. 只要使用足够深的神经网络,上述所有域偏移均可在不借助任何迁移策略的情况下自动消除
展开参考答案与解析 来源资料答案: ABC
来源资料解析: A 正确:晴天到雨夜是典型的协变量偏移,P(X) 改变。B 正确:场景切换导致目标类别构成变化,涉及标签空间或先验概率的改变。C 正确:同一物理实体(路)在不同条件下的视觉表现差异巨大,导致从像素到标签的映射规则 P(Y|X) 变得不可靠,属于概念偏移。D 错误:深度网络本身不具备自动跨域对齐能力,不加干预直接推理必然性能骤降。
知识点: 域(domain)的形式化;任务(task)的形式化;域偏移(domain shift)
在跨工况轴承故障诊断场景中,不同转速工况对应不同的任务,而故障类型识别属于同一个域。 ZHU-PRE-4-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 不同转速工况下数据分布发生变化,对应不同的域;故障类型识别的预测目标不变,属于同一个任务,题干将域和任务的概念颠倒了。
知识点: 域(domain)的形式化;任务(task)的形式化
协变量偏移(Covariate Shift)假设源域和目标域的边缘分布 P(X) 不同,但条件分布 P(Y|X) 保持一致。在实际应用中,如果我们对输入数据进行有效的密度比估计并进行重加权(Importance Weighting),理论上可以纠正这种偏移带来的经验风险最小化偏差。 ZHU-PRE-4-1-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 协变量偏移的核心假设正是 P_S(X) \neq P_T(X) 且 P_S(Y|X) = P_T(Y|X) 。在此假设下,可以通过估计目标域与源域的概率密度比 w(x) = P_T(x)/P_S(x) ,对源域的训练损失进行重加权,从而使源域上的加权经验风险成为目标域风险的无偏估计。这是处理协变量偏移的经典理论基础。
知识点: 域偏移(domain shift)
计算MMD域差异的基础是以下哪个概念? ZHU-PRE-4-2-01 单选题选项 A. 核均值嵌入 B. 梯度反转 C. 域判别器 D. 生成对抗网络
展开参考答案与解析 来源资料答案: A
来源资料解析: MMD通过比较两个域在再生核希尔伯特空间中的核均值嵌入差异来度量分布距离,核均值嵌入是MMD计算的核心基础。
知识点: 最大均值差异(MMD)
从泛化误差界的角度来看,目标域的预期风险受源域风险、分布差异以及理想联合错误率的影响。MMD路线与DANN路线在降低这一误差界时的核心区别在于: ZHU-PRE-4-2-02 单选题选项 A. MMD降低源域风险,DANN降低分布差异 B. MMD通过显式的统计量直接约束分布差异项,DANN通过隐式的对抗博弈间接缩小分布差异项 C. MMD能消除理想联合错误率,而DANN不能 D. DANN不需要最小化源域风险即可保证目标域性能
展开参考答案与解析 来源资料答案: B
来源资料解析: 根据Ben-David等人的域适应理论,目标域误差界包含三部分。MMD作为一种明确的统计检验度量,直接在损失函数中惩罚源域和目标域的边缘分布差异;而DANN则通过训练一个域判别器并与其对抗,以隐式的方式(类似于JS散度或Wasserstein距离的近似)来缩小分布差异。两者都旨在降低误差界中的分布差异项,但机制不同。
知识点: 差异度量对齐;最大均值差异(MMD);域对抗神经网络(DANN)
关于梯度反转层(GRL)在对抗对齐中的作用,以下理解正确的有? ZHU-PRE-4-2-04 多选题选项 A. GRL使得同一个网络可以在一次前向和反向传播中同时实现域判别器的最小化和特征提取器的最大化 B. GRL在前向传播时改变了特征张量的数值符号 C. 若移除GRL并将域判别损失直接加入总损失进行常规反向传播,特征提取器会倾向于提取更容易被区分出域来源的特征 D. GRL是一种无需修改底层优化器代码即可实现极大极小博弈的工程实现技巧
展开参考答案与解析 来源资料答案: ACD
来源资料解析: GRL通过反向传播时翻转梯度符号,巧妙地在一个标准优化流程中实现了极大极小博弈(A、D正确)。GRL在前向传播时是恒等映射,不改变特征数值(B错误)。如果没有GRL,常规反向传播会让特征提取器和判别器共同最小化域损失,导致特征变得更容易区分域来源,违背了对齐初衷(C正确)。
知识点: 对抗对齐;梯度反转层(GRL)
评估域对齐效果时,只要域分类器无法区分样本所属域,就说明对齐效果达到最优。 ZHU-PRE-4-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 对齐效果不能仅通过域分类准确率判断,还需要结合任务性能、分布差异、校准结果综合评估,域不可分但特征失去任务判别能力时对齐效果并不优。
知识点: 差异度量对齐
在DANN架构中,梯度反转层(GRL)在前向传播时会改变输入特征的数值大小,以便在输入域判别器之前对其进行归一化处理。 ZHU-PRE-4-2-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: GRL在前向传播时是一个恒等映射(Identity function),即 R(x) = x ,它完全不改变输入特征的数值大小或分布。它的唯一作用发生在反向传播阶段,即将上游传来的梯度乘以 -\lambda 后再继续向后传递。
知识点: 域对抗神经网络(DANN);梯度反转层(GRL)
以下哪种策略不利于缓解GAN训练不稳定、判别器过强的问题? ZHU-PRE-4-3-01 单选题选项 A. 控制生成器与判别器的更新步数比,保持双方能力平衡 B. 将判别器训练至100%判别准确率后再更新生成器 C. 采用改进的目标函数或正则化方法,为生成器提供稳定持续的梯度 D. 调整双方网络深度,避免判别器能力过强
展开参考答案与解析 来源资料答案: B
来源资料解析: 若将判别器训练至完全可区分真伪,会导致生成器梯度枯竭,无法有效更新,反而加剧训练不稳定,其余选项均为常见的稳定训练策略。
知识点: 训练不稳定问题
条件GAN(cGAN)实现按类别控制生成的核心做法是? ZHU-PRE-4-3-02 单选题选项 A. 仅将类别标签输入判别器,生成器只输入随机噪声 B. 将类别条件信息y同时输入生成器和判别器,通常采用one-hot拼接方式 C. 训练完成后通过修改判别器阈值控制生成类别 D. 为每个类别单独训练一个独立的普通GAN模型
展开参考答案与解析 来源资料答案: B
来源资料解析: cGAN的核心是将条件标签y同时送入G和D,生成时指定噪声z和类别y,从而生成对应类别的样本,实现类别可控。
知识点: 条件GAN(cGAN)
在 GAN 训练中,判别器过强会导致生成器梯度衰减,进而引发训练不稳定。为了缓解这一问题,研究人员提出了多种应对策略。下列属于有效应对策略的有: ZHU-PRE-4-3-03 多选题选项 A. 对判别器的真实样本标签进行标签平滑(Label Smoothing),例如将真实标签从 1 降为 0.9 B. 在每个训练迭代中,大幅增加判别器的训练次数,使其快速达到最优 C. 修改生成器的损失函数,将其从最小化 \ln(1-D(G(z))) 改为最大化 \ln D(G(z)) D. 在判别器的输入中添加高斯噪声,人为削弱其对微小差异的过度敏感性
展开参考答案与解析 来源资料答案: ACD
来源资料解析: 标签平滑可以防止判别器输出过于极端的概率值,保留梯度流动(A正确);修改生成器损失为非饱和损失(Non-saturating loss)能在判别器很强时提供更大梯度(C正确);输入噪声注入能防止判别器对训练集过拟合,降低其分辨能力(D正确)。选项 B 恰恰是导致判别器过强、引发梯度消失的错误做法,应当避免。
知识点: 训练不稳定问题
下列关于GAN中生成器和判别器分工的描述,正确的有哪些? ZHU-PRE-4-3-04 多选题选项 A. 生成器输入随机噪声,输出逼近真实数据分布的生成样本 B. 判别器本质上是一个二分类器,用于判断样本来自真实数据还是生成器 C. 判别器的分类误差会通过反向传播为生成器提供梯度反馈 D. 生成器的目标是尽可能帮助判别器提高真伪分类准确率
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 生成器负责从噪声生成假样本,判别器负责区分真伪,判别器的误差反向传播给生成器以更新其参数;生成器的目标是欺骗判别器,而非帮助判别器提升准确率。
知识点: 生成器(generator);判别器(discriminator)
经典GAN的minimax目标函数中,判别器的优化目标是最大化目标函数V(D,G),生成器的优化目标是最小化该目标函数。 ZHU-PRE-4-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 经典GAN的优化目标为\min_G \max_D V(D,G) ,判别器最大化目标以提升真伪判别准确率,生成器最小化目标以提升生成样本的逼真度。
知识点: minimax目标函数
使用cGAN生成故障样本时,只需要将类别标签输入生成器即可,不需要输入到判别器中。 ZHU-PRE-4-3-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: cGAN需要将类别标签同时以one-hot拼接的方式输入生成器和判别器,才能实现按类别控制生成的效果。
知识点: 条件GAN(cGAN)
若直接减少DDPM的标准反向采样步数,最可能出现下列哪种情况? ZHU-PRE-4-4-01 单选题选项 A. 生成质量明显下降 B. 训练过程不稳定 C. 前向加噪过程失效 D. 网络无法收敛
展开参考答案与解析 来源资料答案: A
来源资料解析: 直接减少DDPM反向步数通常会降低生成质量,采样加速需采用DDIM等匹配步长设置的专用采样器。
知识点: 反向去噪过程;采样生成
DDPM反向去噪过程的核心是由神经网络 \epsilon_\theta(x_t, t) 参数化的条件转移概率。从信息整合的角度看,该网络在时间步 t 的实际任务本质上是: ZHU-PRE-4-4-02 单选题选项 A. 估计当前带噪样本 x_t 中所包含的噪声成分,以便利用贝叶斯定理推导出去噪后的均值 B. 直接输出完全清晰的无噪图像 x_0 ,然后通过插值获取 x_{t-1} C. 计算当前分布与标准高斯分布之间的Wasserstein距离以指导梯度下降 D. 预测下一个时间步 t+1 将要添加的噪声量以实现逆向补偿
展开参考答案与解析 来源资料答案: A
来源资料解析: 根据DDPM的理论推导,反向转移概率 p_\theta(x_{t-1}|x_t) 的均值可以由 x_t 和网络预测的噪声 \epsilon_\theta(x_t, t) 共同表示。网络的任务并非直接输出 x_0 或预测未来的噪声,而是精准识别并回归出当前状态 x_t 中混合的噪声分量 \epsilon ,进而结合前向过程的已知参数计算出后验分布的均值,完成逐步去噪。
知识点: 反向去噪过程
对比 DDPM 与 GAN 的生成范式,以下说法正确的有哪些? ZHU-PRE-4-4-03 多选题选项 A. DDPM 通过多步迭代去噪生成样本,而 GAN 通常通过单次前向传播生成 B. DDPM 的训练采用监督回归损失,GAN 的训练采用对抗式极小极大优化 C. DDPM 的采样生成计算成本通常低于 GAN D. DDPM 通过反向过程中引入随机性来实现生成多样性,GAN 通过隐空间采样实现多样性
展开参考答案与解析 来源资料答案: ABD
来源资料解析: DDPM 需要 T 步迭代去噪,计算成本高于 GAN 的单次前向生成(A 正确,C 错误)。DDPM 训练是噪声回归的监督学习,GAN 是对抗训练(B 正确)。两者的多样性来源不同:DDPM 依赖反向马尔可夫链中的随机噪声注入,GAN 依赖从隐变量分布中采样不同的 z (D 正确)。
知识点: 反向去噪过程;噪声预测训练目标;采样生成
反向去噪过程依赖于条件网络 \epsilon_\theta(x_t, t) 逐步恢复数据。如果网络架构或输入配置存在缺陷,将直接影响去噪效果。以下哪些情况会导致反向去噪过程失败或质量严重下降? ZHU-PRE-4-4-04 多选题选项 A. 训练时和测试时使用的噪声时间表(\beta_t 序列)不一致,导致网络接收到的信噪比条件与实际推断需求错位 B. 移除了时间步 t 的嵌入编码,使网络无法感知当前所处的去噪阶段 C. 在前向加噪时使用了均匀分布噪声而非高斯分布噪声,但反向推导仍套用基于高斯假设的均值和方差公式 D. 将网络输出的激活函数限制在 [0, 1] 范围内,而实际注入的噪声 \epsilon 采样自标准正态分布 \mathcal{N}(0, I)
展开参考答案与解析 来源资料答案: ABCD
来源资料解析: A正确,噪声日程错位会使网络预测的噪声方差与实际不符。B正确,缺乏时间步条件网络无法自适应调整去噪力度。C正确,DDPM的闭式反向推导严格依赖高斯分布性质,噪声类型不匹配会导致数学基础崩塌。D正确,标准正态噪声的值域包含负数且无界,强制 [0, 1] 的输出激活会截断预测值,导致回归损失无法收敛到真实噪声。
知识点: 前向加噪过程;反向去噪过程
DDPM反向去噪过程中,不同时间步的去噪操作使用相互独立、参数不共享的噪声预测网络。 ZHU-PRE-4-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 反向去噪所有时间步共享同一个噪声预测网络\varepsilon_\theta 的参数。
知识点: 反向去噪过程
DDPM的训练目标可以化简为标准的噪声回归任务,相比GAN的对抗训练目标具备更好的训练稳定性。 ZHU-PRE-4-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: DDPM采用噪声预测的监督回归目标,避免了对抗式极小极大优化,训练稳定性更优。
知识点: 噪声预测训练目标
图神经网络邻居聚合操作的核心特点是? ZHU-PRE-4-5-01 单选题选项 A. 聚合结果与邻居节点的排列顺序强相关 B. 聚合结果与邻居节点的排列顺序无关 C. 聚合过程仅使用中心节点自身特征 D. 聚合过程不需要借助边的连接关系
展开参考答案与解析 来源资料答案: B
来源资料解析: 邻居聚合通过计算邻居特征的(加权)平均完成,结果与邻居的排列顺序无关。
知识点: 邻居聚合(neighbor aggregation)
无向图中单个节点的度,对应邻接矩阵中该节点所在行的什么运算结果? ZHU-PRE-4-5-02 单选题选项 A. 行元素的最大值 B. 行元素的和 C. 行元素的平均值 D. 行元素的方差
展开参考答案与解析 来源资料答案: B
来源资料解析: 节点的度定义为该节点的直接邻居数量,对应邻接矩阵对应行的元素之和,是度矩阵对角元的取值依据。
知识点: 度矩阵(degree matrix)
以下关于无自环无向图的邻接矩阵和度矩阵的描述,正确的有哪些? ZHU-PRE-4-5-03 多选题选项 A. 无向图的邻接矩阵是对称矩阵 B. 节点的度等于邻接矩阵对应行的元素之和 C. 无自环场景下邻接矩阵对角线元素全为0 D. 度矩阵是一个非对角阵,非零元素分布在非对角线位置
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 度矩阵为对角矩阵,对角元素为对应节点的度,其余位置为0,因此D选项描述错误。
知识点: 邻接矩阵(adjacency matrix);度矩阵(degree matrix)
某化工厂利用传感器网络监控管道泄漏风险。在将传感器网络转化为 GNN 输入图时,关于节点特征向量的设计,以下哪些做法是合理的? ZHU-PRE-4-5-04 多选题选项 A. 将压力传感器采集的实时压力值作为特征向量的一个维度 B. 将过去一小时压力读数的均值和方差拼接到特征向量中 C. 用节点的度(邻居数量)替换掉所有物理测量值作为唯一的节点特征 D. 将传感器的类型(如压力、流量、温度)通过独热编码后附加到特征向量中
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 节点特征应尽可能丰富地反映对象的物理状态和属性。实时读数(A)、历史统计特征(B)以及表征节点异质性的类型编码(D)都是有价值的特征来源。选项 C丢弃了所有物理测量信息,仅保留拓扑属性(度),这在依赖物理信号进行故障诊断的 PHM 场景中是不可取的。
在可靠性工程的图构造中,邻接矩阵的作用是描述整张图中节点之间的连接关系。 ZHU-PRE-4-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 邻接矩阵A 中A_{ij}=1 表示两节点相连,是描述图连接关系的核心数学表示。
知识点: 邻接矩阵(adjacency matrix)
在构建用于管道网络泄漏定位的图模型时,邻接矩阵 \mathbf{A} 唯一决定了管道的物理材质、管径以及流体压力等节点属性信息。( ) ZHU-PRE-4-5-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 本题考查图的表示中邻接矩阵的作用边界。邻接矩阵 \mathbf{A} 仅仅用于表示图中节点之间的连接关系(即拓扑结构),它不包含任何关于节点自身物理属性的信息。管道的材质、管径、压力等属性应当被编码为节点特征矩阵 \mathbf{X} 。将拓扑结构与节点属性混为一谈是初学者常见的概念误区。
知识点: 邻接矩阵(adjacency matrix)
时空图预测任务(如RUL预测)的数据划分需遵循的核心原则是? ZHU-PRE-4-6-01 单选题选项 A. 随机打乱所有样本划分训练测试集,保证分布一致 B. 按时间外推划分,构图统计仅能使用训练期数据,测试阶段不能利用未来观测 C. 测试阶段可以利用测试期的节点相关性重构图结构提升精度 D. 训练集和测试集可以共享时间窗口内的未来数据
展开参考答案与解析 来源资料答案: B
来源资料解析: 时空预测任务需按时间外推划分,构图只能使用训练期数据,测试阶段不能利用未来观测或测试期相关性重构图,避免数据泄露。
知识点: 时空图融合
关于 GAT 与 Transformer 中的自注意力机制,以下分析最准确的是: ZHU-PRE-4-6-02 单选题选项 A. 两者均在全图所有节点对之间计算注意力,因此计算复杂度均为 O(N^2) B. GAT 的注意力计算严格受限于图的拓扑邻接关系,而 Transformer 默认在全序列上进行稠密注意力计算 C. GAT 必须使用多头注意力机制才能收敛,而 Transformer 只能使用单头注意力 D. 两者的注意力评分函数完全相同,均直接使用点积缩放后接 Softmax
展开参考答案与解析 来源资料答案: B
来源资料解析: GAT 是定义在图结构上的,其注意力机制仅在具有边连接的邻居节点之间进行(即 Masked Attention),计算复杂度与边数相关;而标准 Transformer 的自注意力机制是在序列的所有元素之间两两计算的,形成全局感受野。选项 A 错误,GAT 不是全图计算;选项 C 错误,两者均可使用多头机制;选项 D 错误,GAT 原始论文使用的是基于拼接和单层前馈网络加 LeakyReLU 的评分方式,而非简单的缩放点积。
知识点: 图注意力网络(GAT);注意力聚合权重
朱睦晨 · 课后小测 · KP4-6 · 原第 2 题 · 答案与解析 来源资料答案: B
来源资料解析: GAT 是定义在图结构上的,其注意力机制仅在具有边连接的邻居节点之间进行(即 Masked Attention),计算复杂度与边数相关;而标准 Transformer 的自注意力机制是在序列的所有元素之间两两计算的,形成全局感受野。选项 A 错误,GAT 不是全图计算;选项 C 错误,两者均可使用多头机制;选项 D 错误,GAT 原始论文使用的是基于拼接和单层前馈网络加 LeakyReLU 的评分方式,而非简单的缩放点积。
知识点: 图注意力网络(GAT);注意力聚合权重
下列属于图注意力网络与时空图模型常见局限的有? ZHU-PRE-4-6-03 多选题选项 A. 数据量不足时GAT的可学习注意力权重容易过拟合 B. 静态图假设难以适配随工况变化的邻接关系 C. 大图场景下全图消息传递会带来较高的计算与存储压力 D. 预测结果通常未提供经校准的置信度或预测区间
展开参考答案与解析 来源资料答案: ABCD
来源资料解析: 四个选项均对应GAT与时空图方法的四类典型局限:小数据下注意力易过拟合、静态图假设不适配动态工况、大图算力压力大、预测可信度未量化。
知识点: 图注意力网络(GAT);时空图融合
下列关于GAT与Transformer自注意力的异同点,说法正确的有? ZHU-PRE-4-6-04 多选题选项 A. 二者都遵循“评分-归一化-加权求和”的注意力计算基本流程 B. GAT的注意力仅在图定义的局部邻域内计算 C. Transformer无掩码编码器的注意力可访问序列全部位置 D. 二者的注意力计算范围完全一致
展开参考答案与解析 来源资料答案: ABC
来源资料解析: GAT与Transformer注意力均采用评分、归一化、加权聚合的核心逻辑,但计算范围不同:GAT仅在图局部邻域计算,Transformer无掩码编码器可访问序列全部位置。
知识点: 图注意力网络(GAT)
时空图建模中,每个节点只需要考虑自身的时间序列,不需要考虑和其他节点的邻接关系。 ZHU-PRE-4-6-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 时空图需要同时建模节点间的空间邻接关系与每个节点的时间演化,二者缺一不可。
知识点: 时间维建模;时空图融合
朱睦晨 · 课后小测 · KP4-6 · 原第 5 题 · 答案与解析 来源资料答案: 错
来源资料解析: 时空图需要同时建模节点间的空间邻接关系与每个节点的时间演化,二者缺一不可。
知识点: 时间维建模;时空图融合
在图注意力网络(GAT)中,节点 i 对其邻居节点 j 的注意力聚合权重不仅取决于这两个节点的特征,还受到图中所有其他非邻居节点特征的直接影响。 ZHU-PRE-4-6-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: GAT的注意力机制有一个重要特性:注意力仅在图结构定义的局部邻域内计算。节点 i 对邻居 j 的注意力权重由它们自身的特征(经线性变换后)决定,并在节点 i 的局部邻域内进行归一化。非邻居节点不参与该计算过程,因此不会产生直接影响。
知识点: 图注意力网络(GAT);注意力聚合权重
在设备可靠性跨工况诊断场景中,若实验室环境下训练的故障诊断模型直接应用到工业现场设备上精度大幅下降,最核心的原因是? ZHU-POST-4-1-01 单选题选项 A. 模型参数量太小 B. 存在域偏移,实验室数据和现场数据分布不一致 C. 现场设备的故障类型更多 D. 模型训练时迭代次数不足
展开参考答案与解析 来源资料答案: B
来源资料解析: 跨场景模型精度下降的核心原因是域偏移,即训练域(实验室)和应用域(现场)的数据分布存在差异;参数量、迭代次数不是跨场景性能下降的核心原因,题干未说明故障类型变化。
知识点: 域偏移(domain shift)
在迁移学习的形式化定义中,一个域(Domain)的核心组成要素是? ZHU-POST-4-1-02 单选题选项 A. 特征空间与该空间上的边缘概率分布 B. 标签空间与预测函数 C. 训练集与测试集的样本数量 D. 模型的参数与超参数
展开参考答案与解析 来源资料答案: A
来源资料解析: 域的形式化定义包含特征空间X和X上的边缘概率分布P(X)两个核心要素;标签空间与预测函数属于任务的组成部分,样本数量、模型参数不属于域的核心定义。
知识点: 域(domain)的形式化
微调(Fine-tuning)是参数迁移最常见的实现范式。在对预训练大语言模型进行面向特定垂直领域(如法律文书生成)的微调时,为了防止模型丧失原有的通用语言能力,研究人员通常需要控制参数更新的边界条件。以下属于有效微调策略的有( )。 ZHU-POST-4-1-03 多选题选项 A. 冻结底层嵌入层和部分Transformer块,仅对顶层若干层进行参数更新 B. 引入适配器(Adapter)模块,在原模型层间插入少量可训练参数,保持主干网络冻结 C. 使用极大的学习率对所有参数进行全局同步梯度下降,以加快收敛速度 D. 在目标域损失函数中加入弹性权重巩固(EWC)等正则化项,约束关键参数的偏移幅度
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 微调过程中控制参数更新边界是为了平衡“新知识获取”与“旧知识保留”。A选项(逐层冻结)和B选项(参数高效微调PEFT)都是限制参数更新范围的有效手段。D选项通过正则化惩罚偏离预训练权重的程度,能防止灾难性遗忘。C选项使用极大学习率全参数更新极易破坏预训练权重中蕴含的通用知识,导致模型崩溃,是错误的策略。
知识点: 微调(fine-tuning)基本范式
域偏移指的是源域和目标域之间存在数据分布差异,会导致在源域上训练的模型直接应用到目标域时性能下降。 ZHU-POST-4-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 域偏移的核心定义就是源域和目标域的分布存在差异,是跨域模型性能下降的核心原因,题干表述符合定义。
知识点: 域偏移(domain shift)
对抗式域适配方法中,域判别器的训练目标是? ZHU-POST-4-2-01 单选题选项 A. 准确区分输入特征来自源域还是目标域 B. 最小化源域任务分类误差 C. 让两域特征的MMD距离为0 D. 反转梯度方向
展开参考答案与解析 来源资料答案: A
来源资料解析: 对抗对齐中域判别器的优化目标是尽可能准确判别特征所属的域,与特征提取器形成对抗博弈关系。
知识点: 对抗对齐
针对不同的数据分布特征与任务约束,以下关于迁移对齐方法选型的推理,合理的有? ZHU-POST-4-2-03 多选题选项 A. 当源域和目标域数据量较小且分布相对简单时,使用基于MMD的差异度量对齐通常比训练复杂的DANN更不容易过拟合 B. 当两域之间存在高度非线性的复杂流形偏移时,带有深层特征提取器和GRL的DANN通常比仅使用单一固定核的MMD更具表达优势 C. 若计算资源极其受限且不允许引入任何额外的网络分支,应优先选择DANN而非MMD D. 可以将MMD作为正则化项加入到DANN的训练中,同时利用显式度量与对抗学习来提升对齐质量
展开参考答案与解析 来源资料答案: ABD
来源资料解析: MMD无需额外训练判别器网络,在小样本和简单分布下更稳定、不易过拟合(A正确)。DANN的判别器能自适应学习复杂的非线性边界,适合处理复杂流形偏移(B正确)。DANN需要额外的域判别器分支,会增加计算负担,因此在资源受限时不应首选DANN(C错误)。MMD与DANN并非互斥,结合两者的混合对齐方法在实践中被证明能有效提升性能(D正确)。
知识点: 差异度量对齐;最大均值差异(MMD);对抗对齐;域对抗神经网络(DANN)
核均值嵌入的核心思想是通过核技巧将概率分布映射为再生核希尔伯特空间(RKHS)中的一个点(元素),从而将两个分布之间的比较转化为该空间中两个点之间的距离计算。 ZHU-POST-4-2-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 这正是核均值嵌入的定义。对于分布P ,其均值嵌入为\mu_P=\mathbb E_{x\sim P}[\phi(x)] ,其中\phi 是由核函数诱导的特征映射。MMD即为\|\mu_P-\mu_Q\|_{\mathcal H} ,成功将分布差异度量转化为了希尔伯特空间中的范数计算。
知识点: 最大均值差异(MMD)
域对齐的权重系数设置越大,最终模型在目标域上的任务性能就一定越好。 ZHU-POST-4-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 对齐权重过大会导致特征丢失类别判别信息,反而降低目标域任务性能,需要合理设置权重兼顾域对齐与任务判别能力。
知识点: 差异度量对齐
GAN中判别器D的输出D(x)的取值范围与含义是? ZHU-POST-4-3-02 单选题选项 A. 取值为0或1,代表样本的类别标签 B. 取值在(0,1)区间,代表输入样本来自真实数据分布的概率 C. 取值为任意实数,代表样本与真实样本的逐点误差 D. 取值在[-1,1]区间,代表样本的真伪置信度
展开参考答案与解析 来源资料答案: B
来源资料解析: 经典GAN中判别器本质是二分类器,输出D(x)\in(0,1) ,用于估计输入样本来自真实数据分布的概率,输出越接近1代表判别器认为样本为真实样本的概率越高。
知识点: 判别器(discriminator)
条件GAN(cGAN)与原始GAN的核心差异是? ZHU-POST-4-3-03 单选题选项 A. cGAN去掉了判别器结构,仅保留生成器实现可控生成 B. cGAN将类别标签y同时输入生成器和判别器,实现按指定类别生成样本 C. cGAN的生成器输入不再需要随机噪声z,仅输入标签即可生成样本 D. cGAN的判别器仅需要判断样本真伪,不需要考虑样本与标签的匹配性
展开参考答案与解析 来源资料答案: B
来源资料解析: cGAN通过将类别标签y采用one-hot拼接的方式同时输入生成器与判别器,可在生成时指定类别y,实现类别可控的样本生成,适用于类别不平衡场景下的故障样本增强。
知识点: 条件GAN(cGAN)
在DDPM的训练流程中,前向加噪过程既可以通过逐步马尔可夫链实现,也可以通过闭式跳步公式实现。以下关于这两种方式的分析,正确的有: ZHU-POST-4-4-03 多选题选项 A. 闭式跳步公式允许在训练时直接采样任意时间步 t 的 x_t ,无需计算中间状态,显著提升了数据构造效率 B. 逐步马尔可夫链加噪在训练时是必须的,因为闭式公式无法精确反映真实的物理扩散过程 C. 闭式跳步公式的成立依赖于前向过程中每一步添加的噪声均服从独立高斯分布这一前提 D. 在反向采样生成阶段,可以直接使用闭式跳步公式从 x_T 一步计算出 x_0 ,从而实现极速生成
展开参考答案与解析 来源资料答案: AC
来源资料解析: A正确,闭式跳步利用重参数化直接由x_0 和\epsilon 得到x_t ,是训练提效的关键。B错误,训练时不需要逐步模拟,闭式公式在数学上与逐步加噪的边缘分布完全等价。C正确,正是因为各步噪声独立且为高斯分布,多个高斯变量的线性组合才能合并为一个等效的高斯分布,从而推导出闭式解。D错误,闭式跳步需要已知干净的x_0 ,而在采样阶段x_0 是未知的,因此无法直接使用闭式公式一步生成。
知识点: 前向加噪过程;马尔可夫链加噪;采样生成
在DDPM的反向去噪网络中,时间步 t 经嵌入层编码后输入网络。如果网络架构中去除了时间步条件输入,只要网络层数足够深、参数量足够大,模型依然能够隐式地从输入 x_t 的噪声方差中推断出当前时间步,从而不影响去噪质量。 ZHU-POST-4-4-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 虽然不同时间步的x_t 具有不同的信噪比,但单张图像的局部方差波动很大,网络很难仅凭视觉特征精确反推全局的时间步t 。时间步嵌入提供了明确的尺度上下文,是网络区分去噪阶段(如早期去大尺度噪声,晚期修细节)的必要条件。移除它会导致网络行为混乱,单纯增加参数量无法有效弥补这一结构性信息缺失。
知识点: 反向去噪过程
DDPM训练阶段,要得到时间步t 对应的带噪样本x(t) ,必须从x(0) 开始逐步执行t 次加噪操作,无法直接构造。 ZHU-POST-4-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: DDPM前向加噪存在闭式表达式,训练时可直接构造任意时间步t 对应的带噪样本x(t) ,无需逐步迭代加噪。
知识点: 前向加噪过程
在空域图卷积中,为了缓解深层网络带来的“过度平滑”问题,常引入残差连接。从消息传递机制的角度来看,残差连接的本质作用相当于在节点更新阶段( )。 ZHU-POST-4-5-01 单选题选项 A. 强制保留了节点在聚合邻居信息之前的原始状态 B. 增加了节点接收消息时的感受野范围 C. 改变了邻居聚合函数的非线性映射能力 D. 提高了度矩阵对角元素的数值权重
展开参考答案与解析 来源资料答案: A
来源资料解析: 本题考查消息传递机制中节点更新步骤与空域卷积设计的综合理解。标准消息传递的更新公式通常为h_v^{(l+1)}=\sigma\bigl(\operatorname{AGGREGATE}(\{h_u^{(l)}\})\bigr) 。加入残差连接后变为h_v^{(l+1)}=\sigma\bigl(\operatorname{AGGREGATE}(\{h_u^{(l)}\})+h_v^{(l)}\bigr) 。这在本质上保证了即使经过多次邻居聚合导致节点特征趋于一致(过度平滑),节点依然能保留一部分更新前的原始自身状态信息。选项 B、C、D 均不是残差连接在消息传递框架下的直接本质。
知识点: 消息传递机制(message passing);空域卷积概念
在 GNN 的消息传递“更新”步骤中,节点将自身原有特征与聚合得到的邻居特征结合后,通常还需要经过线性变换与激活函数。如果去掉激活函数,多层 GNN 堆叠将面临什么问题? ZHU-POST-4-5-02 单选题选项 A. 模型参数量会呈指数级增长导致内存溢出 B. 无论堆叠多少层,整体网络仍等价于单层线性变换,丧失拟合复杂非线性退化模式的能力 C. 消息传递的方向会发生逆转,导致信息从中心流向边缘 D. 邻接矩阵会自动退化为单位矩阵
展开参考答案与解析 来源资料答案: B
来源资料解析: 多个线性变换的连续叠加在数学上仍然是一个线性变换。在 PHM场景中,设备的退化过程通常是高度非线性的,缺少非线性激活函数会导致深层网络无法学习复杂的故障演化规律,退化为浅层线性模型。
图神经网络一轮标准消息传递的核心环节包含以下哪些步骤? ZHU-POST-4-5-03 多选题选项 A. 沿边收集所有邻居节点的特征 B. 对收集到的邻居特征计算(加权)平均完成聚合 C. 将邻居聚合结果与节点自身特征结合 D. 通过线性变换和激活函数得到更新后的节点表示
展开参考答案与解析 来源资料答案: ABCD
来源资料解析: 消息传递机制包含收集邻居特征、聚合邻居特征、结合自身特征、线性变换加激活更新四个核心环节。
知识点: 消息传递机制(message passing);邻居聚合(neighbor aggregation)
图上的一轮消息传递、聚合邻域信息的过程,可以视为图结构上的空域卷积运算。 ZHU-POST-4-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 一轮消息传递后节点融合了自身与邻域的特征,该过程属于图结构上的空域卷积运算。
知识点: 空域卷积概念
标准 GAT 在处理大规模风电场(如包含数千台风机及密集连边)时面临的主要局限性是: ZHU-POST-4-6-01 单选题选项 A. 无法处理节点特征维度大于 10 的高维数据 B. 注意力系数的计算依赖于邻居节点,当图规模庞大且连接稠密时,显存占用和计算开销急剧增加 C. 只能处理无向图,无法应用于风机间具有明确风向的有向拓扑 D. 必须要求所有节点具有完全相同的度数,否则无法进行归一化
展开参考答案与解析 来源资料答案: B
来源资料解析: GAT 的注意力机制需要在每条边上计算注意力评分,且 Softmax 归一化需要访问节点的所有邻居。在大图或稠密图上,这种逐边计算和邻居聚合会带来巨大的内存消耗(存储注意力矩阵)和计算压力。选项 A 错误,GAT可处理任意维度特征;选项 C 错误,GAT 可处理有向图;选项 D 错误,GAT 的 Softmax 是在各自邻居集合内独立归一化的,不要求节点度数相同,这正是其优于 GCN 的地方之一。
知识点: 图注意力网络(GAT);空间图建模
在设备剩余寿命(RUL)预测的时空图融合模型中,如果仅使用时间维建模(如LSTM)而忽略空间图建模,最可能导致的问题是什么? ZHU-POST-4-6-03 单选题选项 A. 模型无法读取传感器的历史退化数据 B. 忽略了设备间的物理耦合或环境协同影响(如同一车间内温度场的相互传导),导致对个体退化趋势的评估产生偏差 C. 模型的参数量会变得过大而无法训练 D. 时间序列的长度将被强制截断
展开参考答案与解析 来源资料答案: B
来源资料解析: 在复杂的工业系统中,设备的退化往往不是孤立的。例如,一台高负荷运转的设备可能会通过热辐射或振动影响周围设备的寿命。如果仅使用LSTM等纯时间维模型,只能捕获单个设备自身的历史退化轨迹,而遗漏了设备间的空间相互作用(空间图建模的作用)。这会导致RUL预测出现系统性偏差。A、C、D均不是忽略空间建模的直接后果。
知识点: 空间图建模;时间维建模;时空图融合
与图卷积网络(GCN)相比,图注意力网络(GAT)的聚合权重是由节点特征动态计算并通过训练学习得到的,这使得GAT能够在邻居节点贡献差异较大的场景下实现数据依赖的差异化加权。 ZHU-POST-4-6-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 这正是GAT与GCN的核心区别。GCN的聚合权重由归一化邻接矩阵固定,仅依赖图的拓扑结构;而GAT的注意力权重由节点特征计算并通过训练学习,实现了数据依赖的差异化邻居加权,特别适合邻居贡献差异大的场景。
知识点: 图注意力网络(GAT);空间图建模
第五讲:为什么负载输出异常不能单独定位故障?
展开参考答案与解析 负载输出异常可能由上游供电异常引起,也可能由负载自身故障引起,仅观察该负载不能区分这两类来源。
若供电模块或母线异常,通常会同时影响分配点及多个负载;若仅本支路异常,而上游和其他支路基本稳定,则更支持本地异常。
因此,应结合相连部件的同步观测、负载指令和正常范围判断,并通过支路复测及元件功能试验进一步确认。GNN可以利用邻域信息辅助估计,但不能单凭模型输出认定故障原因。
来源:
第五讲 第3, 4, 5, 20页。页码为文件物理页序或幻灯片序号。
两个电流分配都满足3.0mA守恒,哪条支路优先排查?还缺什么证据? 题目条件
正常范围分别为A:
[0.6,0.8] 、B:
[0.9,1.1] 、C:
[0.5,0.7] mA。比较方案①
[1.4,1.0,0.6] mA和方案②
[0.7,1.0,1.3] mA,两者总量均为
3.0 mA;按区间中心与半宽计算越界分数,确定优先复测支路。
展开参考答案与解析 正常范围A、B、C分别为[0.6,0.8]、[0.9,1.1]、[0.5,0.7]mA,正常中心分别为0.7、1.0、0.6mA,范围半宽均为0.1mA。越界分数为:
{s}_{v}=\max \!\left( 0,\frac{|{I}_{v}-{\mu }_{v}|}{{\delta }_{v}}-1\right)
方案①[1.4,1.0,0.6]mA对应分数[6,0,0],应优先复测A支路;方案②[0.7,1.0,1.3]mA对应分数[0,0,6],应优先复测C支路。
两种分配的总和均为3.0mA,因此仅凭总电流守恒无法判断哪个方案符合实际。还需支路电流的独立同步测量、工况与负载指令、仪表误差和元件功能试验证据,才能确认异常支路及原因。
理解补充与易错点(无需照写) “满足守恒”限制可行解;“独立复测”才可进一步核实实际支路。
来源:
第五讲 第14, 16, 17, 18, 19, 20页。页码为文件物理页序或幻灯片序号。
为什么追加维修在每层都更便宜,合并后却更贵?
展开参考答案与解析 这是由组间退化程度构成不同引起的辛普森悖论。追加维修组中重度退化设备占80%,原方案组仅占20%,而重度退化本身会提高成本。因此,两组总体均值的直接比较混入了维修前状态的影响。
轻度和重度层内的成本差分别为8−10=−2、30−40=−10万元/台。若目标总体轻重各占50%,则经共同权重调整后:
\tau =0.5(-2)+0.5(-10)=-6\text{ }\text{万元/台}
在无未控制混杂、正值性和一致性等条件成立时,可解释为该目标总体追加维修平均节省6万元/台。合并观察差+9.6万元/台不能直接作为维修的因果效应。
来源:
第五讲 第26, 28, 29, 30, 31, 32, 33, 34页。页码为文件物理页序或幻灯片序号。
随机维修试验中,为什么不能按维修后的停机情况直接分层判断总效应?
展开参考答案与解析 本题中的运行期停机发生在维修之后,是维修影响总成本的中介变量,作用路径为“维修→停机→成本”。估计维修总效应时,应保留这条路径。
随机分配、完全执行、完整随访且无干扰时,可直接比较两组总均值:追加组为12.4万元/台,原方案组为23.6万元/台,总效应为−11.2万元/台。
按停机情况分层会阻断维修减少停机的作用,而且处理后分组不再保持原有随机可比性。因此,层内成本差+2万元/台不能替代总效应,也不能未经额外假设直接解释为直接因果效应。
来源:
第五讲 第35, 36, 37, 38, 39页。页码为文件物理页序或幻灯片序号。
旧设备有标签、新设备只有少量无标签数据,能迁移什么?能直接做RUL吗?
展开参考答案与解析 (1)可以迁移的内容包括预训练模型参数、局部信号特征和有依据的结构先验。迁移前应确认源、目标设备的采样配置、工况及故障类别能够对应。
(2)目标域仅有无标签数据时,可结合源域标签进行域适配;若出现源域未见故障,应设置未知类拒识,防止强行归入已知类别。
(3)故障类别标签不能直接提供剩余寿命信息。RUL建模还需要明确失效终点,并具备退化轨迹、失效/删失记录或可验证的寿命机理。
因此,应依据现有数据决定能支持故障诊断还是寿命预测,迁移效果必须在独立目标域数据上验证。
来源:
第五讲 第41, 42, 43, 46, 47, 51页;
KP4-1 第4, 7, 14页。页码为文件物理页序或幻灯片序号。
整体分布靠近,同类故障一定对齐了吗?DASAN的负号在对抗什么?
展开参考答案与解析 整体分布接近不能保证同类故障正确对齐,因为全局对齐可能把不同类别混合,破坏分类边界。LMMD分别比较对应类别的跨域特征均值,再汇总类别差异,但其效果依赖目标伪标签的可靠性。
DASAN中特征提取器的目标可写为:
{\min }_{{G}_{f},{G}_{y}}\text{ }{L}_{cls}+\lambda {L}_{LMMD}-\beta {L}_{dom}
特征提取器降低分类与子域差异损失,同时提高域分类损失,使源、目标特征更难区分;域判别器则最小化域分类损失,提高辨域能力。负号表示双方对域可分性的对抗,而不是要求域判别器降低自己的辨域能力。
来源:
第五讲 第44, 45, 50, 51, 52页;
KP4-2 第6, 7, 8页。页码为文件物理页序或幻灯片序号。
图从哪里来?传感器相关性能否直接解释为因果关系?
展开参考答案与解析 图的构建应先明确节点和边的工程含义,再选择图网络。
(1)物理拓扑图依据供电、传动或装配关系建边,边表示实际连接或作用通道。
(2)统计相关图依据数据共同变化建边,边表示关联,可能同时受到转速、载荷等共同因素影响。
(3)因果图依据机理及识别假设描述有方向的因果关系。
因此,相关性边和注意力权重不能直接解释为因果关系。数据驱动建图还应仅使用允许的训练数据,防止测试信息泄漏。
什么是ATE、混杂、后门调整及识别前提?
展开参考答案与解析 平均处理效应ATE表示同一目标总体接受与不接受处理的平均结果差:
若Z同时影响处理T和结果Y,则存在后门路径T←Z→Y,直接比较两组均值可能产生混杂偏差。满足条件可交换性、正值性和一致性,且本课假定无干扰时,可用后门调整:
ATE=\underset{z}{\sum }\{E[Y|T=1,Z=z]-E[Y|T=0,Z=z]\}{P}_{target}(z)
两种处理必须使用相同的目标总体权重。估计总效应时,不应机械调整处理后的中介变量。
来源:
第五讲 第25, 29, 30, 31, 38, 39页。页码为文件物理页序或幻灯片序号。
GNN均值聚合:J的一轮特征为什么是1.4? 题目条件
图连接为S—J,J与A、B、C相连,含自环。初始标量特征为S=0、J=0、A=1、B=2、C=4。采用同步均值聚合,忽略可学习变换与非线性。
展开参考答案与解析 (1)J的一阶邻域含自身及四个邻居,故:
{h}_{J}^{(1)}=\frac{{h}_{S}^{(0)}+{h}_{J}^{(0)}+{h}_{A}^{(0)}+{h}_{B}^{(0)}+{h}_{C}^{(0)}}{5}
该结果是标准化特征,为无量纲数,不是电流。
(2)C的一阶特征为:
{h}_{C}^{(1)}=\frac{{h}_{C}^{(0)}+{h}_{J}^{(0)}}{2}=\frac{4+0}{2}=2
(3)C的二阶特征为:
{h}_{C}^{(2)}=\frac{{h}_{C}^{(1)}+{h}_{J}^{(1)}}{2}=\frac{2+1.4}{2}=1.7
故J一阶为1.4,C二阶为1.7。每一层均应使用上一层特征。
来源:
第五讲 第9, 10, 11, 12, 13页。页码为文件物理页序或幻灯片序号。
电流守恒投影和越界评分 题目条件
三支路预测电流Î=[0.5,0.8,1.1]mA,总电流实测3.0mA,采用等权最小二乘投影。正常范围A:[0.6,0.8]、B:[0.9,1.1]、C:[0.5,0.7]mA。求修正电流及优先复测支路。
展开参考答案与解析 (1)预测电流总和及缺口:
\underset{v}{\sum }{\widehat{I}}_{v}=0.5+0.8+1.1=2.4\text{ }mA
\Delta I=3.0-2.4=0.6\text{ }mA
(2)等权投影对各支路加相同修正量:
{I}_{v}^{*}={\widehat{I}}_{v}+\frac{{I}_{\Sigma }-{\sum }_{u}{\widehat{I}}_{u}}{3}={\widehat{I}}_{v}+0.2\text{ }mA
{I}^{*}=[0.7,1.0,1.3]\text{ }mA
检查0.7+1.0+1.3=3.0mA,满足守恒。
(3)正常中心μ=[0.7,1.0,0.6]mA,半宽δ均为0.1mA,计算越界分数:
{s}_{v}=\max \left( 0,\frac{|{I}_{v}^{*}-{\mu }_{v}|}{{\delta }_{v}}-1\right)
{s}_{A}=0,\,{s}_{B}=0,\,{s}_{C}=\max (0,7-1)=6
因此优先复测C支路,再通过独立测量和功能测试确认故障。
审查补注 等权均分修正对应本题的平方距离目标,且需支路完整、同步测量和可信的总电流。若单向电流修正后出现负值,应加入I_v\ge0 约束重新求解;直接截零可能破坏守恒。来源:
第五讲 第16, 17, 18, 19页。页码为文件物理页序或幻灯片序号。
辛普森悖论:原始差、后门调整和目标权重敏感性 题目条件
轻度退化:追加组20台、均值8,原方案组80台、均值10;重度退化:追加组80台、均值30,原方案组20台、均值40。成本单位万元/台。目标总体轻、重各占50%,求原始差与调整后效应。
展开参考答案与解析 (1)原始合并均值为:
{\overline{Y}}_{1}=\frac{20\times 8+80\times 30}{100}=25.6
{\overline{Y}}_{0}=\frac{80\times 10+20\times 40}{100}=16
{\overline{Y}}_{1}-{\overline{Y}}_{0}=25.6-16=9.6\text{ }\text{万元/台}
(2)轻、重层内成本差分别为:
{\tau }_{light}=8-10=-2,\,{\tau }_{heavy}=30-40=-10
(3)使用共同目标权重调整:
E[Y(1)]=0.5\times 8+0.5\times 30=19
E[Y(0)]=0.5\times 10+0.5\times 40=25
\tau =19-25=0.5(-2)+0.5(-10)=-6\text{ }\text{万元/台}
在后门识别条件成立时,该目标总体追加维修平均节省6万元/台。原始差方向相反,是由于追加组重度设备比例较高,体现辛普森悖论。
来源:
第五讲 第26, 31, 32, 33, 34页。页码为文件物理页序或幻灯片序号。
随机维修试验:总效应和中介分层差 题目条件
随机分配、完全执行、完整随访且无设备间干扰。追加组:80台未停机、均值8;20台停机、均值30。原方案组:20台未停机、均值6;80台停机、均值28。单位万元/台,求维修总效应。
展开参考答案与解析 (1)两组总均值:
{\overline{Y}}_{1}=\frac{80\times 8+20\times 30}{100}=12.4
{\overline{Y}}_{0}=\frac{20\times 6+80\times 28}{100}=23.6
(2)随机试验总效应估计为:
\widehat{\tau }={\overline{Y}}_{1}-{\overline{Y}}_{0}=12.4-23.6=-11.2\text{ }\text{万元/台}
即追加维修平均降低成本11.2万元/台。
(3)若按停机分层,未停机差8−6=2,停机差30−28=2。但停机是维修后的中介变量,分层会阻断维修减少停机的路径,不能用这两个层内差替代总效应。
来源:
第五讲 第35, 36, 37, 38, 39页。页码为文件物理页序或幻灯片序号。
生成器分别生成每个时刻的多传感器数据,各时刻的分布均与真实数据相近。关于生成序列,哪项判断正确? B07 单选题选项 A. 单时刻统计接近尚不足以保证跨时刻依赖和已知物理关系保真 B. 只要各时刻直方图接近,就必然保留所有滞后相关 C. 只要样本数足够多,就能证明传感器之间的因果方向 D. 只需看生成波形是否平滑,无需做独立下游验证
展开参考答案与解析 A
逐时刻匹配没有直接约束跨时间联合关系;应检查滞后关系和物理残差,并以真实独立数据验证。完整联合分布与单时刻分布是不同要求,统计一致性也不自动证明因果机制。
采用原型分类。A类有标签支持样本的二维特征为(0,0) 、(2,0) ,B类为(4,2) 、(6,2) 。类别原型取该类支持特征的平均,新样本特征为q=(2,1) ,按平方欧氏距离最小的原型分类。计算两类原型、两项距离及类别,并说明原型分类与生成增强各自解决什么问题。
展开参考答案与解析 两类原型为
p_A=(1,0),\qquad p_B=(5,2).
平方欧氏距离分别为
d_A^2=(2-1)^2+(1-0)^2=2,
d_B^2=(2-5)^2+(1-2)^2=10.
所以判为A类。原型分类用少量已标注支持样本和可迁移特征空间构建较简单的分类器;生成增强扩大合理样本变化范围,仍须保持故障特征并验证真实测试收益。
先求特征均值,再算查询点到原型的距离;不要用原始样本数量代替特征均值。原型分类需要类别已知的支持样本,不能把完全无标签目标域直接当作已标注支持集。
维修问题如何形式化为MDP?Markov性质意味着什么?
展开参考答案与解析 维修问题可表示为马尔可夫决策过程MDP=〈S,A,P,R,γ〉。S为设备健康、退化趋势、工况及资源状态;A为继续运行、检修、更换等动作;P为动作后的状态转移概率;R为产出收益减去维修、停机和失效成本;γ为远期奖励的折扣因子。
Markov性质要求给定当前状态和动作后,下一状态分布与更早历史条件独立。因此,状态应包含决策所需信息;若单次传感器读数不足,应加入历史趋势或健康状态估计,部分可观测时可采用相应模型。
来源:
KP6-1 第4, 5, 6, 7, 8, 9, 10页。页码为文件物理页序或幻灯片序号。
回报G、状态价值V、动作价值Q与Bellman方程是什么?
展开参考答案与解析 回报是未来奖励的折扣累积,状态价值Vπ是从某状态出发遵循策略π的期望回报,动作价值Qπ是先执行某动作、随后遵循π的期望回报:
{G}_{t}=\overset{\infty }{\underset{k=0}{\sum }}{\gamma }^{k}{r}_{t+k+1},\,{V}^{\pi }(s)=\underset{a}{\sum }\pi (a|s){Q}^{\pi }(s,a)
Bellman方程把长期价值分解为即时奖励与下一状态的折扣价值。最优动作价值满足:
{Q}^{*}(s,a)=E\!\left[ r+\gamma {\max }_{{a}^{\prime }}{Q}^{*}({s}^{\prime },{a}^{\prime })\mid s,a\right]
价值函数的单位是奖励,反映成本和策略偏好,不能直接当作以时间计量的RUL。
来源:
KP6-1 第12, 13, 14, 15页。页码为文件物理页序或幻灯片序号。
Q-learning、ε-greedy、DQN、经验回放、目标网络怎样关联?
展开参考答案与解析 Q-learning直接利用转移样本更新动作价值,无需显式知道转移概率。其一步更新为:
y=r+\gamma (1-d){\max }_{{a}^{\prime }}Q({s}^{\prime },{a}^{\prime }),\,Q(s,a)\leftarrow Q(s,a)+\alpha [y-Q(s,a)]
其中d为终止标志,α为学习率。ε-greedy以大部分概率选择最大Q动作,并保留一定随机探索。
DQN用神经网络近似Q,适用于高维状态和离散动作。经验回放随机抽取历史转移以降低样本时间相关性、提高复用率;目标网络暂时固定参数以减缓自举目标漂移,两者共同改善训练稳定性。
来源:
KP6-2 第3, 5, 6, 7, 8, 11, 12, 13, 14页。页码为文件物理页序或幻灯片序号。
策略梯度、REINFORCE、Actor-Critic与优势函数是什么?
展开参考答案与解析 策略梯度直接参数化动作分布,以回报或优势加权动作对数概率的梯度,最大化期望累计回报。REINFORCE采用轨迹回报,估计方差通常较大。
优势函数描述某动作相对于当前状态平均水平的好坏:
{A}^{\pi }(s,a)={Q}^{\pi }(s,a)-{V}^{\pi }(s)
减去仅依赖状态的基线,在标准条件下不改变策略梯度的期望,并可降低方差。
Actor-Critic中,Actor产生动作分布,Critic估计价值,并通过TD误差等构造优势估计。优势为正时提高所选动作的相对概率,优势为负时降低,即使绝对回报为正也可能低于基线。
PPO裁剪什么?正负优势怎样区别?
展开参考答案与解析 PPO使用新旧策略对采样动作的概率比度量更新幅度:
{r}_{t}=\frac{{\pi }_{\theta }({a}_{t}|{s}_{t})}{{\pi }_{old}({a}_{t}|{s}_{t})}
其裁剪目标为:
{L}^{CLIP}={E}_{t}\!\left[ \min \left( {r}_{t}{A}_{t},clip({r}_{t},1-\varepsilon ,1+\varepsilon ){A}_{t}\right) \right]
训练最大化该目标。正优势时抑制好动作概率过度增加,负优势时抑制差动作概率过度下降,从而减少过大策略更新造成的性能波动。
裁剪限制的是替代目标在有利方向上的增益,并非对所有实际概率施加硬约束,也不保证严格KL上界。
偶然不确定性、认知不确定性与OOD有什么区别?
展开参考答案与解析 偶然不确定性来自给定输入条件下的数据随机性,如测量噪声和未观测个体差异,单纯增加同类训练样本通常不能消除该分量。认知不确定性来自数据覆盖不足及模型参数知识有限,可随有信息的新数据增加而降低。
若模型同时描述条件噪声和参数不确定性,总预测方差可分解为:
Var(Y|x,D)={E}_{w}[{\sigma }_{w}^{2}(x)]+{Var}_{w}[{\mu }_{w}(x)]
第一项为噪声方差的平均,第二项为不同模型均值的分歧。OOD表示输入偏离训练分布,模型不一定自动给出大方差,因此还需分布外检测与独立验证。
来源:
KP6-4 第4, 5, 6, 7, 10页;
KP6-5 第8, 17页。页码为文件物理页序或幻灯片序号。
BNN的贝叶斯更新和ELBO怎样与VAE联系?
展开参考答案与解析 BNN给网络权重设置先验,并利用数据得到后验:
预测时对权重后验积分,以反映参数不确定性。由于精确后验通常不可解,可用qθ(w)近似,并最大化证据下界:
ELBO={E}_{{q}_{\theta }(w)}\log p(D|w)-{D}_{KL}({q}_{\theta }(w)\Vert p(w))
第一项拟合数据,第二项约束近似后验与先验的偏离。VAE近似潜变量后验,BNN近似网络权重后验;两者具有相似的变分优化和重参数化形式,但推断对象不同。
来源:
KP6-4 第8, 9, 10, 11, 12, 13, 14页;
KP2-6 第5, 6, 8页。页码为文件物理页序或幻灯片序号。
MC Dropout、集成、分位数回归、GP怎样选择?
展开参考答案与解析 (1)MC Dropout:推理时保持随机失活,多次前向估计输出分歧,对原模型改造较小,但增加推理成本。
(2)深度集成:独立训练多个模型,再合并预测,通常可形成稳健基线,但训练和存储成本随成员数增加。
(3)分位数回归:通过非对称损失直接估计上下分位数,适合单次推理和非对称区间,但需检查分位数交叉与覆盖率。
(4)高斯过程:利用核函数定义函数分布并给出后验均值、方差,适合中小数据;标准稠密训练计算量通常为O(n³)。
选择时应综合区间需求、数据规模与算力,并检验校准。仅均值模型的随机输出分歧,不自动包含全部观测噪声。
来源:
KP6-5 第3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15页。页码为文件物理页序或幻灯片序号。
置信区间、预测区间、覆盖率、尖锐性和校准怎样区分?
展开参考答案与解析 置信区间通常描述均值或参数估计的不确定性,预测区间描述未来个体观测的不确定性,两者的对象不同。
PICP是落入预测区间的真实观测比例,MPIW是平均区间宽度:
PICP=\frac{1}{N}\underset{i}{\sum }1\{{y}_{i}\in [{L}_{i},{U}_{i}]\},\,MPIW=\frac{1}{N}\underset{i}{\sum }({U}_{i}-{L}_{i})
校准要求实际覆盖率与名义覆盖率相符;尖锐性要求在覆盖充分时区间尽可能窄。因此,应先满足覆盖要求,再比较宽度。标称90%而实际72%表示覆盖不足,应使用独立校准数据修正,并在测试数据上最终评价。
来源:
KP6-5 第3, 10, 12, 16, 17页;
第一讲 第12页。页码为文件物理页序或幻灯片序号。
PINN怎样构造残差、数据/物理/边界损失?配点需要标签吗?
展开参考答案与解析 PINN将观测数据和物理方程共同用于训练。以u′=−ku为例,用网络uθ(t)近似状态,物理残差为:
{f}_{\theta }(t)=\frac{d{u}_{\theta }}{dt}+k{u}_{\theta }
{L}_{data}=\frac{1}{{N}_{d}}\underset{i}{\sum }[{u}_{\theta }({t}_{i})-{y}_{i}{]}^{2},\,{L}_{phys}=\frac{1}{{N}_{c}}\underset{j}{\sum }{f}_{\theta }({t}_{j}{)}^{2}
{L}_{bc}=\frac{1}{{N}_{b}}\underset{k}{\sum }[{u}_{\theta }({t}_{k})-{b}_{k}{]}^{2},\,L={L}_{data}+{\lambda }_{f}{L}_{phys}+{\lambda }_{b}{L}_{bc}
数据项在观测点拟合测量值,物理项在配点约束方程,边界项满足初始或边界条件。配点无需测量标签,但要求方程适用。残差导数可用自动微分计算,训练仍需检验拟合、方程偏差及独立预测误差。
来源:
KP6-6 第4, 5, 6, 7, 8, 9, 10, 11, 14页。页码为文件物理页序或幻灯片序号。
软/硬约束、正/反问题和物理增强架构怎样区别?
展开参考答案与解析 软约束把条件违反程度加入损失函数,实现灵活,但通常只能近似满足;硬约束把条件直接写入输出结构,在构造有效时严格满足指定条件,例如uθ(t)=1+tNNθ(t)保证uθ(0)=1。
正问题是在方程和参数已知时求状态;反问题是利用观测估计未知参数及状态,需检验参数可辨识性。
PINN主要通过方程残差引入物理知识,物理增强架构则把小波核等算子或结构先验嵌入网络。两者可结合使用,但应先确认物理关系的适用性,避免把错误先验强加给模型。
来源:
KP6-6 第11, 12, 13, 15, 16, 17页;
第三讲 第11, 40, 46页。页码为文件物理页序或幻灯片序号。
折扣回报:立即维修和延迟维修 题目条件
γ=0.9。方案A当前维修奖励−40,此后无限期每期奖励+10;方案B依次奖励+10、+10、−200,之后终止。比较两条给定路径的折扣回报。
展开参考答案与解析 折扣回报定义为:
G=\overset{\infty }{\underset{k=0}{\sum }}{\gamma }^{k}{r}_{k+1}
(1)方案A:
{G}_{A}=-40+10\overset{\infty }{\underset{k=1}{\sum }}{0.9}^{k}=-40+10\frac{0.9}{1-0.9}=50
(2)方案B:
{G}_{B}=10+0.9\times 10+{0.9}^{2}\times (-200)=10+9-162=-143
故在给定奖励路径及持续时间假设下,方案A的折扣回报更高,应选择立即维修。
理解补充与易错点(无需照写) 课件γ=0.9。若当前奖励−40,此后每期+10无限持续:G=−40+Σ_(k=1)^∞10×0.9^k=−40+10×0.9/(1−0.9)=50。
若延迟路径奖励依次+10、+10、−200并在失效后终止:G=10+0.9×10−0.9²×200=−143。
原课件以省略号说明长期正/负;上述精确数值分别补充了“无限持续”和“失效后终止”的假设,不应当作所有维修过程的固定回报。
来源:
KP6-1 第12页。页码为文件物理页序或幻灯片序号。
Bellman单步动作比较:γ=0.9和0.3 题目条件
固定后继状态价值:良好80、退化30、临界−100。维修即时奖励−40且确定转为良好;继续即时奖励10,下一状态退化、临界各0.5。分别取γ=0.9、0.3,比较一步动作价值。
展开参考答案与解析 根据一步Bellman递推:
Q(s,a)=R(s,a)+\gamma \underset{{s}^{\prime }}{\sum }P({s}^{\prime }|s,a)V({s}^{\prime })
(1)γ=0.9时:
{Q}_{repair}=-40+0.9\times 80=32
{Q}_{continue}=10+0.9[0.5\times 30+0.5\times (-100)]=-21.5
因此此时维修动作价值较高。
(2)γ=0.3时:
{Q}_{repair}=-40+0.3\times 80=-16
{Q}_{continue}=10+0.3[0.5\times 30+0.5\times (-100)]=-0.5
因此此时继续动作价值较高。
结论:在题给固定后继价值下,折扣因子改变了远期收益权重,从而改变单步动作比较。完整MDP策略比较还需分别求解对应γ的价值函数。
理解补充与易错点(无需照写) 固定后继价值良好80、退化30、临界−100。维修即时−40后确定到良好;继续即时+10,后继退化/临界各0.5。
γ=0.9:Q修=−40+0.9×80=32;Q续=10+0.9×(0.5×30+0.5×(−100))=−21.5,单步偏好维修。
γ=0.3:Q修=−16;Q续=−0.5,单步偏好继续。
拓展:固定这些后继值时差值Q修−Q续=−50+115γ,临界γ=10/23≈0.434783。这不是各γ下完整MDP最优策略的严格分界,因为完整比较需重新求各γ的自洽价值。
来源:
KP6-1 第15, 17页。页码为文件物理页序或幻灯片序号。
Q-learning更新:20怎样变成20.3?终止时呢? 题目条件
Qold=20,经验转移的即时奖励r=−40,后继状态最大Q为70,γ=0.9,α=0.1,且非终止。求一次Q-learning更新。
展开参考答案与解析 (1)计算TD目标:
y=r+\gamma {\max }_{{a}^{\prime }}Q({s}^{\prime },{a}^{\prime })=-40+0.9\times 70=23
(2)计算TD误差:
\delta =y-{Q}_{old}=23-20=3
(3)更新当前动作价值:
{Q}_{new}={Q}_{old}+\alpha \delta =20+0.1\times 3=20.3
故一次更新后的Q值为20.3。
若改为真正终止状态,则无后继回报:y=−40,Qnew=20+0.1(−40−20)=14。
理解补充与易错点(无需照写) 课件Qold=20、r=−40、max Qnext=70、γ=0.9、α=0.1。TD目标y=−40+0.9×70=23;误差δ=23−20=3;Qnew=20+0.1×3=20.3。
拓展:如果该转移进入真正终止状态d=1,则y=r=−40,δ=−60,Qnew=14;不能再加后继价值。
DQN可用目标网络Q(·;θ−)计算y=r+γ(1−d)maxQnext,再回归该目标。TD目标是样本自举估计,不是已经观测到的完整真实回报。
来源:
KP6-2 第6, 7, 8, 12, 14页。页码为文件物理页序或幻灯片序号。
ε-greedy动作概率:ε=0.1,3个动作 题目条件
共有3个动作,最大Q动作唯一,ε=0.1,探索时在全部3动作中均匀抽取,求各动作被选择的概率。
展开参考答案与解析 贪心动作既可由利用分支选中,也可由探索分支选中,因此:
P({a}_{greedy})=(1-\varepsilon )+\frac{\varepsilon }{3}=0.9+\frac{0.1}{3}\approx 0.933333
其他每个动作只能由探索分支选中:
P({a}_{other})=\frac{\varepsilon }{3}\approx 0.033333
故概率为[0.933333,0.033333,0.033333],其中第一项对应贪心动作。
若题目规定探索只在非贪心动作中抽取,则应改为[0.9,0.05,0.05]。
来源:
KP6-2 第5页。页码为文件物理页序或幻灯片序号。
优势函数和Actor-Critic一步TD 题目条件
状态价值基线V=60,三次采样回报G=[90,50,64]。另给一步转移r=−4、γ=0.9、Vnext=70、Vcurrent=60,求优势估计和TD误差。
第二小问为依据课件公式的补充数值练习,假定一步转移为非终止转移。
展开参考答案与解析 (1)用回报减基线估计优势:
{\widehat{A}}_{1}=90-60=30,\,{\widehat{A}}_{2}=50-60=-10,\,{\widehat{A}}_{3}=64-60=4
因此第一、第三个采样动作应得到正向强化,第二个动作虽然绝对回报为正,但低于基线,优势为负。
(2)一步TD误差为:
\delta =r+\gamma {V}_{next}-{V}_{current}=-4+0.9\times 70-60=-1
以该TD误差作为优势估计时,Actor应降低所采样动作的相对概率。
审查补注 题源说明:第一问V=60 、G=[90,50,64] 为课件算例;第二问的一步TD数值按课件公式作为补充练习,且这里假定转移非终止。PPO:ε=0.2,正负优势与min算子怎样算? 题目条件
PPO取ε=0.2,四个样本(r,A)依次为(1.5,2)、(0.5,−2)、(0.5,2)、(1.5,−2),求各样本裁剪目标和平均值。
展开参考答案与解析 单样本目标为:
\ell =\min \{rA,clip(r,0.8,1.2)A\}
样本①:
{\ell }_{1}=\min (1.5\times 2,1.2\times 2)=\min (3,2.4)=2.4
样本②:
{\ell }_{2}=\min (0.5\times (-2),0.8\times (-2))=\min (-1,-1.6)=-1.6
样本③:
{\ell }_{3}=\min (0.5\times 2,0.8\times 2)=\min (1,1.6)=1
样本④:
{\ell }_{4}=\min (1.5\times (-2),1.2\times (-2))=\min (-3,-2.4)=-3
平均裁剪目标为:
{L}^{CLIP}=\frac{2.4-1.6+1-3}{4}=-0.3
PPO应最大化该目标;若用梯度下降实现,则最小化它的相反数。
不确定性分解:三成员均值[28,30,32],噪声方差均为4 题目条件
三个等权模型的预测均值为[28,30,32]h,各成员预测噪声方差均为4h²。求均值、两类方差、总方差,并用高斯矩匹配近似90%区间。
展开参考答案与解析 (1)总均值为:
\overline{\mu }=\frac{28+30+32}{3}=30\text{ }h
(2)偶然方差为成员噪声方差的平均:
{\sigma }_{ale}^{2}=\frac{4+4+4}{3}=4\text{ }{h}^{2}
(3)认知方差为等权成员均值的总体方差:
{\sigma }_{epi}^{2}=\frac{(28-30{)}^{2}+(30-30{)}^{2}+(32-30{)}^{2}}{3}=\frac{8}{3}\text{ }{h}^{2}
(4)总方差和标准差为:
{\sigma }_{total}^{2}=4+\frac{8}{3}=\frac{20}{3}\text{ }{h}^{2},\,{\sigma }_{total}\approx 2.5820\text{ }h
(5)用高斯矩匹配近似,90%区间为:
30\pm 1.645\times 2.5820\approx [25.753,34.247]\text{ }h
这是高斯近似区间;等权混合分布未必正态,精确区间应由混合分布的分位数计算。
理解补充与易错点(无需照写) 补充设定为等权混合预测分布。总均值μ=30h,偶然方差Eσ²=4h²。
认知方差用混合成员总体口径Var(μm)=[(28−30)²+0+(32−30)²]/3=8/3h²。
总方差=4+8/3=20/3≈6.666667h²,标准差≈2.581989h。
若额外用高斯矩匹配近似90%预测区间:30±1.645×2.581989≈[25.753,34.247]h。混合分布并非自动高斯,精确区间应从混合CDF/采样分位数求,覆盖还需验证。
高斯NLL:y=32,μ=30,σ=2 题目条件
真实值y=32,预测高斯均值μ=30,标准差σ=2,求单点高斯负对数似然。
展开参考答案与解析 完整NLL为:
L=\frac{1}{2}\ln (2\pi {\sigma }^{2})+\frac{(y-\mu {)}^{2}}{2{\sigma }^{2}}
代入σ²=4、(y−μ)²=4:
L=\frac{1}{2}\ln (8\pi )+\frac{4}{8}\approx 2.112086
若按课件约定省略常数½ln(2π),则:
{L}^{\prime }=\frac{1}{2}\ln 4+\frac{4}{8}=\ln 2+0.5\approx 1.193147
故完整NLL约2.1121,省略常数后的NLL约1.1931。作答时应说明使用哪种口径。
来源:
KP6-4 第6页。页码为文件物理页序或幻灯片序号。
分位数pinball损失:α=0.9,真实y=10 题目条件
目标分位α=0.9,真实值y=10。分别计算预测分位q=8和q=12时的pinball损失,并写出80%、90%、95%等尾区间。
展开参考答案与解析 分位数损失为:
{L}_{\alpha }(y,q)=\max \{\alpha (y-q),(\alpha -1)(y-q)\}
(1)q=8时,y−q=2,属于低估:
{L}_{0.9}(10,8)=0.9\times 2=1.8
(2)q=12时,y−q=−2,属于高估:
{L}_{0.9}(10,12)=(0.9-1)\times (-2)=0.2
相同绝对误差下,低估惩罚为高估的9倍,使预测趋向条件0.9分位数。
80%等尾区间为[q₀.₁,q₀.₉];90%为[q₀.₀₅,q₀.₉₅];95%为[q₀.₀₂₅,q₀.₉₇₅]。
来源:
KP6-5 第10, 11, 12页。页码为文件物理页序或幻灯片序号。
PICP与MPIW:4个预测区间怎样验收? 题目条件
真实值为[10,20,30,40],四个区间依次为[9,11]、[18,22]、[25,28]、[38,45],求PICP和MPIW。
展开参考答案与解析 (1)覆盖标志依次为[1,1,0,1],因此:
PICP=\frac{1+1+0+1}{4}=0.75=75\%
(2)区间宽度依次为2、4、3、7,因此:
故经验覆盖率为75%,平均宽度为4个目标变量单位。
若标称覆盖率为90%,本样本经验覆盖低于标称值;但仅4个样本不足以精确判断总体校准,应扩大独立评价样本。课件中90%与72%的差值为18个百分点。
PINN残差、损失、解析解与RUL阈值 题目条件
方程u′=−0.5u、u(0)=1。某配点网络值uθ=0.8、导数uθ′=−0.3。已无量纲化的三项损失为Ldata=0.04、Lphys=0.01、Lbc=0.09,权重λf=2、λb=0.5。再以u=0.3为失效阈值,求解析失效时刻和t=1的RUL。
展开参考答案与解析 (1)物理残差:
{f}_{\theta }={u}_{\theta }^{\prime }+0.5{u}_{\theta }=-0.3+0.5\times 0.8=0.1
该配点平方残差为0.1²=0.01。
(2)总损失:
L={L}_{data}+{\lambda }_{f}{L}_{phys}+{\lambda }_{b}{L}_{bc}=0.04+2\times 0.01+0.5\times 0.09=0.105
(3)分离变量并代入初值得:
在失效阈值处:
{e}^{-0.5{t}_{f}}=0.3\,\Rightarrow \,{t}_{f}=-\frac{\ln 0.3}{0.5}\approx 2.407946
当前t=1,故:
RUL={t}_{f}-1\approx 1.407946
时间单位与方程系数0.5所对应的单位一致。
理解补充与易错点(无需照写) 课件方程u′=−0.5u、u(0)=1,解析解u=e^(−0.5t)。其导数−0.5e^(−0.5t),代入残差f=u′+0.5u恒为0。
补充配点数值:uθ=0.8,uθ′=−0.3,则f=−0.3+0.5×0.8=0.1,该点物理平方损失0.01。
补充给定Ldata=0.04、Lphys=0.01、Lbc=0.09,λf=2、λb=0.5,总L=0.04+0.02+0.045=0.105(假设已无量纲化)。
课件阈值uf=0.3若用于此解析解,失效时刻tf=−ln0.3/0.5≈2.407946;当前t=1,RUL≈1.407946个时间单位。时间单位须由k的单位决定。
反问题拓展:若已知u(0)=1、u(2)=e^(−1),则k=−ln(u(2)/u(0))/2=0.5。
来源:
KP6-6 第5, 8, 9, 10, 11, 15, 16页。页码为文件物理页序或幻灯片序号。
关于Q-learning、DQN、SARSA与PPO的数据使用,下列哪项正确? B09 单选选项 A. Q-learning只能使用贪心目标策略亲自采集的数据。 B. DQN可复用旧转移样本;PPO通常对当前采样批次做有限轮更新后重新采样。 C. PPO可以不做任何修正,无限回放任意旧策略的轨迹。 D. SARSA与Q-learning均用下一状态的最大Q 值构造目标。
展开参考答案与解析 B
Q-learning/DQN是离策略方法,行为策略与学习目标可不同;SARSA使用实际下一动作的Q 值。PPO属于同策略方法,其有限轮批次复用不等于无限期回放旧数据。
设备退化后期的观测噪声明显大于早期。希望用高斯模型描述这种随输入变化的噪声,下列设置最合适的是哪项? B10 单选选项 A. 网络输出\mu(x) 与正的\sigma(x) ,用高斯负对数似然联合训练。 B. 只输出\mu(x) ,并规定所有样本噪声方差为同一个常数。 C. 保持确定性均值头,仅做多次MC Dropout就必然包含全部观测噪声。 D. 把\sigma(x) 固定为零,使预测区间最窄。
展开参考答案与解析 A
题目描述异方差噪声,需要输入相关的噪声尺度。\sigma(x) 须参数化为正值,训练后仍要检验覆盖率与校准;模型均值的随机分歧不自动等于全部观测噪声。
PINN用u_\theta(t) 拟合u^{\prime}+ku=0 。关于求导,哪项正确? B11 单选选项 A. 构造物理残差时只需求\frac{\partial u_\theta}{\partial\theta} ,不必求时间导数。 B. 自动微分必须先给每个配点提供导数标签。 C. 构造残差时求\frac{\partial u_\theta}{\partial t} ,训练更新时求\nabla_\theta L ;两者均可由自动微分计算。 D. 自动微分与有限差分都必须人为选择时间步长h 。
展开参考答案与解析 C
残差涉及函数对输入的导数,优化涉及损失对参数的梯度。自动微分沿计算图使用链式法则,不依赖有限差分步长;配点也不需要测量标签。
某非终止转移的当前Q(s,a)=20 ,即时奖励r=-4 ,\gamma=0.9 ,\alpha=0.1 。下一状态三个动作的Q 值依次为[70,30,10] ,行为策略实际选择第2个动作。分别用Q-learning和SARSA做一次更新,并解释结果不同的原因。
展开参考答案与解析 Q-learning:
y=-4+0.9\times70=59,
Q_{\mathrm{new}}=20+0.1\times(59-20)=23.9.
SARSA:
y=-4+0.9\times30=23,
Q_{\mathrm{new}}=20+0.1\times(23-20)=20.3.
Q-learning目标使用下一状态的最大Q 值,实际行为可以继续探索;SARSA目标使用行为策略实际选择的下一动作。前者为离策略学习,后者为同策略学习。题目明确非终止,所以两者都包含后继价值。
在三档健康维修MDP案例中,下列属于动作集合 A 元素的是? HAN-PRE-6-1-01 单选题选项 A. 设备处于退化状态 B. 继续运行获得10单位收益 C. 对临界状态设备执行更换操作 D. 临界状态下继续运行有0.7概率失效
展开参考答案与解析 平台答案: C
平台解析: 动作是智能体可选择的操作,更换属于可选维修动作;A是状态元素,B是即时奖励,D是转移相关的失效后果描述。
知识点: MDP四元组:动作A、维修问题形式化示例
朱睦晨 · 课前小测 · KP6-1 · 原第 1 题 · 答案与解析 来源资料答案: C
来源资料解析: 动作是智能体可选择的操作,更换属于可选维修动作;A是状态元素,B是即时奖励,D是转移相关的失效后果描述。
知识点: MDP四元组:动作A;维修问题形式化示例
设设备处于“临界( s_3 )”状态时,采取“更换( a_3 )”动作的即时奖励为 R(s_3, a_3) = -100 ,且更换后必定转移到“良好( s_1 )”状态,即 T(s_1|s_3, a_3) = 1 。若已知状态 s_1 在最优策略下的状态价值为 V^*(s_1) = 50 ,折扣因子 \gamma = 0.9 。则在“临界”状态下采取“更换”动作的动作价值 Q^*(s_3, a_3) 为: HAN-PRE-6-1-02 单选题选项 A. -50 B. -55 C. -10 D. -145
展开参考答案与解析 平台答案: B
平台解析: 根据Bellman方程对动作价值的定义: Q^*(s, a) = R(s, a) + \gamma \sum_{s'} T(s'|s, a) V^*(s') 。由于转移是确定性的(概率为 1 转移到 s_1 ),代入数据得 Q^*(s_3, a_3) = -100 + 0.9 \times 1 \times 50 = -100 + 45 = -55 。A选项漏乘了折扣因子;C选项符号计算错误;D选项将折扣因子错误地乘在了即时奖励上。
知识点: 值函数、Bellman方程
下列关于维修MDP各组成要素的说法,正确的有? HAN-PRE-6-1-03 多选题选项 A. 状态和动作集合由建模者根据实际决策问题定义 B. 状态转移概率由系统本身的退化/运行规律决定,可从数据或机理模型估计 C. 奖励函数的设计需要反映决策的优化目标 D. 折扣因子的取值完全由设备退化速度决定,和决策者偏好无关
展开参考答案与解析 平台答案: ABC
平台解析: 折扣因子反映决策者的时间偏好,并非完全由设备特性决定,选项D错误;其余选项均符合MDP要素的基本性质。
知识点: MDP四元组:状态S、MDP四元组:动作A、MDP四元组:转移T、MDP四元组:奖励R
在设备视情维修的MDP建模中,关于奖励函数 R(s, a, s') 的设计,以下哪些做法是合理且符合工程实际的? HAN-PRE-6-1-04 多选题选项 A. 当动作 a 为“继续运行”且状态 s 为“良好”时,赋予正奖励以体现设备正常生产创造的经济效益 B. 当动作 a 为“预防性维修”时,赋予负奖励(即惩罚)以量化消耗的人工与备件成本 C. 当转移后的状态 s' 为“临界”甚至发生故障停机时,赋予一个极大的负奖励以体现安全风险和生产中断损失 D. 将奖励函数设计为仅依赖动作 a 而与状态 s 和 s' 无关,以简化Bellman方程的计算
展开参考答案与解析 平台答案: ABC
平台解析: A正确,正常运行产生收益,对应正奖励。B正确,维修需要花费成本,对应负奖励。C正确,故障带来的损失远大于常规维修成本,用大负奖励引导策略规避故障。D错误,维修的成本和运行的收益高度依赖于设备当前所处的健康状态以及转移后的结果,脱离状态谈奖励会丧失决策的针对性,导致模型失效。
知识点: 维修问题形式化示例
在视情维修MDP中,设备的健康状态、运行工况、备件情况都可以纳入状态集合S的定义中。 HAN-PRE-6-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 状态集合用于描述环境中与决策相关的所有当前信息,健康档位、运行工况、备件情况均为维修决策需要参考的环境特征,可纳入状态集合。
知识点: MDP四元组:状态S、维修问题形式化示例
在设备视情维修的MDP模型中,马尔可夫性假设意味着:设备下一时刻的健康状态仅取决于当前的健康状态和当前采取的维修动作,而与设备过去经历了怎样的退化历程无关。 HAN-PRE-6-1-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 马尔可夫性是MDP的核心前提,即“未来仅依赖于现在,而与过去独立”。在设备维修场景中,这就要求我们选取的状态变量(如三档健康指标)必须能够充分概括预测未来所需的全部历史信息。如果状态定义合理,过去的退化路径就不再提供额外的预测价值。
DQN中引入经验回放机制主要是为了缓解以下哪个问题? HAN-PRE-6-2-01 单选题选项 A. 连续轨迹样本高度相关导致训练不稳定 B. 在线网络更新导致回归目标漂移 C. 探索率过低导致策略陷入局部最优 D. 奖励尺度过大导致梯度爆炸
展开参考答案与解析 平台答案: A
平台解析: 连续交互得到的轨迹样本时间相关性强,经验回放通过随机采样小批量样本打破样本相关性,同时提升数据利用率。
知识点: DQN:经验回放(experience replay)
DQN训练时采用的损失函数形式是? HAN-PRE-6-2-02 单选题选项 A. 多分类交叉熵损失 B. 均方误差损失,即TD目标与在线网络输出Q值的平方误差期望 C. 铰链损失 D. 对比损失
展开参考答案与解析 平台答案: B
平台解析: DQN将动作价值学习建模为回归问题,最小化TD目标与在线网络预测Q值之间的均方误差。
知识点: DQN:值函数网络逼近
下列关于DQN经验回放机制的说法,正确的有? HAN-PRE-6-2-03 多选题选项 A. 可以降低连续交互轨迹样本的时序相关性 B. 能够提升样本利用率,同一条经验可被多次抽取用于训练 C. 可以让训练样本完全满足独立同分布假设 D. 回放池容量设置过小,会失去样本去相关和多样状态覆盖的作用
展开参考答案与解析 平台答案: ABD
平台解析: 经验回放通过随机存取样本来打破时序相关性、复用样本,但无法让样本达到严格独立同分布;回放池容量不足会导致样本多样性差、去相关效果弱,影响训练稳定性。
知识点: DQN:经验回放(experience replay)
下列关于DQN中经验回放机制的说法,正确的有? HAN-PRE-6-2-04 多选题选项 A. 将交互得到的转移样本存入回放缓冲区 B. 训练时从回放池随机抽取小批量样本 C. 可以降低连续轨迹样本的时间相关性 D. 能够让同一条经验样本被多次利用,提升数据效率
展开参考答案与解析 平台答案: ABCD
平台解析: 经验回放将交互样本存入回放池,训练时随机抽样小批量,既可以降低连续样本的时间相关性,又能重复利用样本提升数据效率,四个描述均正确。
知识点: DQN:经验回放(experience replay)
在DQN中,如果直接使用持续更新的在线网络计算TD自举目标,会导致回归目标随参数更新同步漂移,引发训练不稳定。 HAN-PRE-6-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 在线网络每次参数更新都会改变输出的Q值,若用其计算自举目标,会导致回归目标持续变化,这正是DQN引入独立目标网络要解决的核心问题。
知识点: DQN:目标网络(target network)
朱睦晨 · 课前小测 · KP6-2 · 原第 6 题 · 答案与解析 来源资料答案: 对
来源资料解析: 在线网络每次参数更新都会改变输出的Q值,若用其计算自举目标,会导致回归目标持续变化,这正是DQN引入独立目标网络要解决的核心问题。
知识点: DQN:目标网络(target network)
在设备维修决策应用中,如果状态空间较小且完全离散,使用DQN配合经验回放和目标网络一定比使用传统Q-learning表格法收敛更快且效果更好。 HAN-PRE-6-2-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 虽然DQN在高维状态空间中具有不可替代的优势,但在状态空间较小且完全离散的情况下,传统Q-learning表格法可以直接精确记录每个状态-动作对的Q值,不存在函数逼近误差。而DQN引入神经网络会带来近似误差,且需要调整更多超参数(如网络结构、学习率、回放缓冲区大小、目标网络同步周期等)。在小规模问题中,Q-learning表格法往往收敛更稳定、实现更简单,DQN并不“一定”更好。方法的选择应取决于状态规模和样本条件。
知识点: Q-learning更新规则
Actor-Critic架构中引入Critic价值网络的核心作用是? HAN-PRE-6-3-01 单选题选项 A. 完全消除策略梯度估计的偏差 B. 构造优势估计,降低策略梯度估计的方差 C. 直接输出最优策略,无需参数更新 D. 替代Actor网络完成动作选择
展开参考答案与解析 平台答案: B
平台解析: Critic价值网络通过估计状态价值构造优势函数,可在引入小幅偏差的前提下显著降低策略梯度估计的方差,提升训练稳定性;它无法完全消除偏差,也不能替代Actor完成动作选择。
知识点: Actor-Critic架构、Critic(价值网络)
PPO训练过程中对优势函数进行零均值、单位方差的批次归一化,主要目的是? HAN-PRE-6-3-02 单选题选项 A. 提高优势估计的无偏性 B. 稳定训练过程,应对优势尺度波动大的问题 C. 增加策略的熵,避免探索不足 D. 减少奖励被钻空子的风险
展开参考答案与解析 平台答案: B
平台解析: 优势的尺度会随奖励设计变化且批次内波动较大,对其做归一化处理可以提高训练稳定性。
知识点: PPO:裁剪目标(clipped objective)
下列关于强化学习中偏差与方差权衡的描述,正确的有? HAN-PRE-6-3-03 多选题选项 A. 使用整局蒙特卡洛回报的REINFORCE方法梯度估计无偏,但方差较大 B. 基于一步TD误差的Actor-Critic方法在偏差和方差上实现折中,偏差小、方差也较小 C. 自举(利用后继状态的价值估计)通常会引入一定偏差,但可以降低估计方差 D. 引入价值函数估计优势的方法可以在不引入任何偏差的情况下将方差降至0
展开参考答案与解析 平台答案: ABC
平台解析: 蒙特卡洛方法无偏但方差大;自举的TD类方法会引入小幅偏差但显著降低方差,Actor-Critic实现了二者的折中;不存在能完全无偏且零方差的梯度估计方法。
知识点: 策略梯度定理.、Actor-Critic架构
朱睦晨 · 课前小测 · KP6-3 · 原第 4 题 · 答案与解析 来源资料答案: ABC
来源资料解析: 蒙特卡洛方法无偏但方差大;自举的TD类方法会引入小幅偏差但显著降低方差,Actor-Critic实现了二者的折中;不存在能完全无偏且零方差的梯度估计方法。
知识点: 策略梯度定理.;Actor-Critic架构
下列关于Actor-Critic单步更新特点的描述,正确的有? HAN-PRE-6-3-04 多选题选项 A. 每采集一步转移样本(s,a,r,s')就可以进行更新,无需等待完整回合结束 B. 同一条转移样本计算得到的TD误差可同时用于更新Critic和Actor C. 更新Actor时使用优势估计对策略梯度进行加权 D. 必须收集完整回合的所有回报才能开始参数更新
展开参考答案与解析 平台答案: ABC
平台解析: Actor-Critic支持单步更新,每获得一步转移即可计算TD误差,同时用于更新Critic价值网络和作为优势估计加权更新Actor策略网络,无需等待完整回合结束,这是它相比REINFORCE的重要优势。
知识点: Actor-Critic架构
PPO的裁剪目标通过限制新旧策略的概率比范围,避免单次更新中策略变化幅度过大,提升训练稳定性。 HAN-PRE-6-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 裁剪目标对新旧策略的概率比进行截断,将策略更新幅度约束在合理范围内,防止策略突变导致训练崩溃,是PPO保障稳定性的核心设计。
知识点: PPO:裁剪目标(clipped objective)
朱睦晨 · 课前小测 · KP6-3 · 原第 6 题 · 答案与解析 来源资料答案: 对
来源资料解析: 裁剪目标对新旧策略的概率比进行截断,将策略更新幅度约束在合理范围内,防止策略突变导致训练崩溃,是PPO保障稳定性的核心设计。
知识点: PPO:裁剪目标(clipped objective)
Actor-Critic方法中,每个时间步采集到转移样本后就可以计算TD误差进行更新,不需要等待整个回合结束。 HAN-PRE-6-3-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: Actor-Critic支持单步时序差分更新,每获得一步交互数据即可计算TD误差,同时更新两个网络,无需等待完整回合结束。
知识点: Actor-Critic架构
在贝叶斯神经网络预测方差分解公式 Var(y|x,D)=E_w[{{\sigma}_w(x)}^2]+Var_w[{\mu}_w(x)] 中,代表认知不确定性的是? HAN-PRE-6-4-01 单选题选项 A. 第一项 E_w[{{\sigma}_w(x)}^2] B. 第二项 Var_w[{\mu}_w(x)] C. 两项都是 D. 两项都不是
展开参考答案与解析 平台答案: B
平台解析: 贝叶斯神经网络预测方差分解公式中,第一项对应偶然不确定性,第二项对应认知不确定性。
知识点: 偶然不确定性(aleatoric)、认知不确定性(epistemic)、贝叶斯神经网络(权重分布)
贝叶斯神经网络多次前向计算得到的预测样本离散程度,主要可以表征什么? HAN-PRE-6-4-02 单选题选项 A. 数据固有噪声的大小 B. 模型参数的不确定性(认知不确定性) C. 数据集的标签错误率 D. 模型的训练收敛速度
展开参考答案与解析 平台答案: B
平台解析: 多组权重采样下预测结果的离散程度,反映了权重参数的波动,对应认知不确定性的大小。
知识点: 认知不确定性(epistemic)、贝叶斯神经网络(权重分布)
贝叶斯神经网络无法直接求解精确权重后验的原因包括? HAN-PRE-6-4-03 多选题选项 A. 深度神经网络的权重参数量维度极高,高维联合后验分布难以精确表示 B. 贝叶斯公式中后验的归一化常数需要对所有权重可能取值做高维积分,难以解析或数值求解 C. 深度神经网络的激活函数都是非线性的,无法用于概率建模 D. 训练数据量过大,导致后验计算的内存不足
展开参考答案与解析 平台答案: AB
平台解析: BNN精确后验不可解的核心原因是权重维度极高导致联合后验难以表示,且归一化常数的高维积分无法有效计算;非线性激活不影响概率建模,内存问题不是本质原因。
知识点: 变分推断思想
以下关于贝叶斯神经网络预测的说法,正确的有? HAN-PRE-6-4-04 多选题选项 A. 预测均值可以作为点预测结果使用 B. 预测样本的离散程度可以表征模型参数的不确定性 C. 数据稀疏区域的离散程度需要结合验证结果共同判断 D. 贝叶斯神经网络输出的结果不存在任何不确定性
展开参考答案与解析 平台答案: ABC
平台解析: 贝叶斯神经网络的核心作用就是量化预测不确定性,D错误;其余选项均符合贝叶斯神经网络预测的性质。
知识点: 贝叶斯神经网络(权重分布)
贝叶斯神经网络中采用变分推断可以得到精确的权重后验分布,不存在任何近似误差。 HAN-PRE-6-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 变分推断是近似推断方法,用简单分布近似真实后验,存在近似误差,无法得到精确后验。
知识点: 变分推断思想
传统确定性神经网络的权重是固定值,而贝叶斯神经网络将权重建模为概率分布。 HAN-PRE-6-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 贝叶斯神经网络的核心特征就是对权重引入分布建模,而非使用固定点估计的权重。
知识点: 贝叶斯神经网络(权重分布)
某场景训练数据仅为数百条的中小规模,可接受一定的核函数调参成本,优先选择的UQ方法是? HAN-PRE-6-5-01 单选题选项 A. MC Dropout B. 深度集成 C. 分位数回归 D. 高斯过程
展开参考答案与解析 平台答案: D
平台解析: 高斯过程的最适场景为中小规模数据,需要选择核函数并完成训练;其余方法均不匹配中小数据+核调参的场景特征。
知识点: 高斯过程速览
若需要在已有训练好的点预测模型基础上,以最低的改造成本快速添加不确定性区间输出,优先选择? HAN-PRE-6-5-02 单选题选项 A. MC Dropout B. 深度集成 C. 分位数回归 D. 高斯过程
展开参考答案与解析 平台答案: A
平台解析: MC Dropout改造成本较低,无需重新训练大量模型或大幅修改网络结构,适合快速构建预测区间的场景。
知识点: MC Dropout
某航天器遥测数据分析项目中,工程师计划使用深度集成(Deep Ensemble)进行推力预测及不确定性量化。关于该方法在实际工程中的特性,以下说法正确的有? HAN-PRE-6-5-03 多选题选项 A. 训练阶段需要独立初始化并训练 M 个模型,计算和存储开销是单模型的 M 倍 B. 推理阶段只需运行其中表现最好的 1 个模型即可获得可靠的不确定性估计 C. 通过成员模型预测均值的方差可以有效捕捉认知不确定性 D. 相比MC Dropout,深度集成通常被视为不确定性量化领域更稳健的性能基线
展开参考答案与解析 平台答案: ACD
平台解析: 深度集成需要训练 M 个具有不同随机初始化的模型,因此训练时间和存储空间均成倍增加(A正确)。推理时必须运行所有 M 个模型并聚合其结果才能量化不确定性,仅用单个模型退化为点预测(B错误)。成员模型之间的分歧(均值的方差)反映了模型对当前输入的知识盲区,即认知不确定性(C正确)。大量实证研究表明,深度集成在各类基准测试中往往表现出比MC Dropout等其他近似贝叶斯方法更优越和稳健的校准性能,常被用作强基线(D正确)。
知识点: 深度集成(deep ensemble)
某金融风控系统需要为贷款违约概率预测模型增加不确定性量化功能。项目约束条件如下:(1)必须在 2 天内完成改造上线;(2) 现有的点预测 MLP 模型性能优异,不允许推翻重训;(3) 推理时延要求宽松。基于这些约束,以下哪些方法是可行且合理的候选方案?(至少有两个正确答案) HAN-PRE-6-5-04 多选题选项 A. 在现有 MLP 的隐藏层插入 Dropout,使用 MC Dropout 进行推理 B. 废弃现有模型,重新训练 5 个不同初始化的 MLP 构建深度集成 C. 冻结现有 MLP 的特征提取层,仅在最后一层之上接一个高斯过程回归器 D. 将输出层改为双头输出,使用 Pinball Loss 重新训练整个网络实现分位数回归
展开参考答案与解析 平台答案: AC
平台解析: 根据约束 (2) “不允许推翻重训”,选项 B(重新训练 5 个模型)和选项 D(改变输出层并使用新损失函数重新训练整个网络)均违反了该约束。选项 A 的 MC Dropout 只需插入 Dropout 层,无需重新训练主干网络(或仅需极少微调),符合快速改造的要求;选项 C 采用特征提取+GP 的级联方式,冻结预训练特征提取器,仅在小规模特征空间上训练 GP,既保留了原模型性能又满足了改造时间要求。
MC Dropout开展不确定性估计时,需要在推理阶段关闭Dropout层,仅通过训练阶段的权重随机性得到预测分布。 HAN-PRE-6-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: MC Dropout需要在推理阶段保持Dropout层开启,通过多次随机前向传播得到预测样本集,进而估计不确定性。
知识点: MC Dropout
只要选择了合适的UQ方法,就不需要额外做校准和覆盖率验证,可以直接交付使用。 HAN-PRE-6-5-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 无论选择哪种UQ方法,交付前都必须验证覆盖率、区间宽度和校准性,确保区间预测的可靠性。
知识点: MC Dropout、深度集成(deep ensemble)、分位数回归(UQ用法)、高斯过程速览
采用PINN求解ODE/PDE问题时,自动微分技术可用于完成以下哪些计算? HAN-PRE-6-6-01 多选题选项 A. 计算网络输出 u 对时间输入 t 的一阶导数 \frac{\mathrm{d}u}{\mathrm{d}t} B. 计算网络输出 u 对空间输入 x 的高阶偏导数 C. 为构造控制方程残差项提供导数计算支持 D. 直接推导得到ODE/PDE的解析解
展开参考答案与解析 平台答案: ABC
平台解析: 自动微分用于高效计算网络输出对输入的各阶导数,是构造微分方程残差的核心技术,但无法直接推导得到方程的解析解。
知识点: 自动微分(automatic differentiation)、求解PDE/ODE
可靠性场景下可引入PINN的物理知识常见形式包含以下哪些? HAN-PRE-6-6-02 多选题选项 A. 描述退化规律的ODE/PDE微分方程 B. 能量/质量守恒类守恒律 C. 初始健康状态、失效阈值等边界/初始条件 D. 无维修时健康指数只降不升的单调性要求
展开参考答案与解析 平台答案: ABCD
平台解析: 四类均为PINN可引入的典型物理知识形式,此外还包括参数取值范围类约束。
PINN只能用于求解已知全部参数的PDE/ODE正问题,无法在稀疏观测下反演方程中的未知参数(如退化系数 k )。 HAN-PRE-6-6-03 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 根据知识点,PINN既可以用于方程已知的正问题求解,也可以在稀疏观测下进行参数反演。
知识点: 求解PDE/ODE
物理信息神经网络(PINN)的核心思想是将微分控制方程的残差纳入损失函数,使神经网络在拟合数据的同时满足物理规律。 HAN-PRE-6-6-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 符合PINN的基本定义:将方程残差加入损失,同时拟合数据与物理约束。
知识点: 控制方程写入损失、物理残差项
当已知退化过程的ODE形式但仅存在稀疏观测数据时,以下哪种方法最适合同时实现方程求解与参数反演? HAN-PRE-6-6-05 单选题选项 A. 普通全连接神经网络仅拟合数据 B. 物理信息神经网络(PINN) C. 线性回归 D. K-means聚类
展开参考答案与解析 平台答案: B
平台解析: PINN可在稀疏观测场景下,同时利用数据拟合损失和物理残差损失,实现PDE/ODE求解与未知物理参数的反演,降低对标注数据量的需求。
知识点: 求解PDE/ODE
针对一阶衰减ODE \frac{du}{dt}=-ku ,采用PINN求解时,若神经网络输出为 \hat{u}(t) ,下列哪个表达式是正确的方程物理残差? HAN-PRE-6-6-06 单选题选项 A. r = \hat{u}(t) - u_{\text{观测}}(t) B. r = \frac{\mathrm{d}\hat{u}}{\mathrm{d}t} + k\hat{u}(t) C. r = \frac{\mathrm{d}\hat{u}}{\mathrm{d}t} - k\hat{u}(t) D. r = \hat{u}(0) - u_0
展开参考答案与解析 平台答案: B
平台解析: 将方程移项为 \frac{du}{dt}+ku=0 ,代入网络输出得到残差为 \frac{\mathrm{d}\hat{u}}{\mathrm{d}t} + k\hat{u}(t) ;A是数据拟合项,D是初始条件残差,C的符号与原方程不符。
知识点: 控制方程写入损失、物理残差项
某关键设备的健康状态被划分为三档:良好( s_1 )、退化( s_2 )、临界( s_3 )。当设备处于退化状态 s_2 时,若选择“继续运行”动作,转移概率为 P(s_3|s_2, \text{运行}) = 0.6 ,P(s_2|s_2, \text{运行}) = 0.4 。这一转移概率分布本质上反映了什么? HAN-POST-6-1-01 单选题选项 A. 维修决策器在执行“继续运行”指令时的控制误差 B. 设备在特定工况下固有的物理退化规律与不确定性 C. 传感器对设备健康档位进行观测时的测量噪声 D. 折扣因子 \gamma 对远期状态分布造成的衰减效应
展开参考答案与解析 平台答案: B
平台解析: 转移概率 T(s'\mid s,a)=P(s'\mid s,a) 描述的是在状态 s 下采取动作 a 后,环境转移到下一状态 s' 的概率。它刻画的是环境本身的动态特性,即设备物理退化的客观规律及内在随机性。A选项错误地将环境动力学归因于智能体误差;C选项混淆了转移概率与部分可观测性中的观测概率;D选项中折扣因子影响的是回报计算而非状态转移本身。
知识点: 维修问题形式化示例
在设备视情维修的MDP建模中,下列选项属于动作集合 A 中元素的是? HAN-POST-6-1-02 单选题选项 A. 设备当前健康状态为良好 B. 对故障风险较高的设备执行更换操作 C. 设备从良好状态退化到临界状态的概率 D. 设备正常运行获得的产能收益
展开参考答案与解析 平台答案: B
平台解析: 动作集合是每个状态下智能体可选的操作,更换设备属于可选维修操作;A属于状态,C属于转移概率,D属于奖励。
知识点: MDP四元组:动作A、维修问题形式化示例
利用Bellman期望方程迭代计算设备状态价值时,若初始设定所有状态的 V_0(s) = 0 。已知“良好( s_1 )”状态下采取“继续运行( a_1 )”的即时奖励为 10 ,且有 0.8 的概率保持在 s_1 , 0.2 的概率转移到 s_2 。假设策略 \pi 在 s_1 下确定选择 a_1 , \gamma = 0.9 ,则经过一次Bellman更新后, V_1(s_1) 的值为: HAN-POST-6-1-03 单选题选项 A. 10 B. 9 C. 0 D. 18
展开参考答案与解析 平台答案: A
知识点: 回报与折扣因子、Bellman方程
某设备处于“退化( s_2 )”状态时,若选择“继续运行( a_1 )”动作,根据历史数据统计,其转移到“良好( s_1 )”、“退化( s_2 )”和“临界( s_3 )”的概率分别为 0.1 、 0.6 和 0.3 。这一组数值在MDP中属于哪个要素?它体现了什么性质? HAN-POST-6-1-04 单选题选项 A. 属于奖励函数 R ;体现了不同状态转移带来的即时经济差异 B. 属于转移概率 T ;体现了在给定状态和动作下,环境演化的随机性与马尔可夫性 C. 属于策略 \pi ;体现了智能体在退化状态下倾向于维持现状的保守决策逻辑 D. 属于值函数 V ;体现了从退化状态出发未来所有可能状态的期望累积回报
展开参考答案与解析 平台答案: B
平台解析: 题目给出的数值表示在执行特定动作后,系统向各个可能状态转移的概率分布,这正是转移概率 T(s'\mid s,a) 的定义。它刻画了环境动态变化的随机规律,且仅依赖当前状态和动作,不依赖更早的历史,符合马尔可夫性。A混淆了转移概率与奖励;C混淆了环境动力学与智能体策略;D混淆了转移概率与状态价值。
知识点: 维修问题形式化示例
在构建面向视情维修的MDP模型时,需要精确定义五要素 (S, A, P, R, \gamma) 。针对一台数控机床的主轴系统,下列哪些选项构成了该MDP模型中合理且必要的要素定义? HAN-POST-6-1-05 多选题选项 A. 状态空间 S 包含主轴振动幅度的离散化档位以及当前加工任务的负载等级 B. 动作空间 A 包含“维持现状”、“调整润滑参数”、“停机更换轴承”三个互斥操作 C. 转移概率 P(s'|s,a) 由机床制造商提供的历史故障统计数据与物理退化模型拟合得出 D. 奖励函数 R 仅由操作员每天的主观满意度评分构成,不包含任何经济成本核算
展开参考答案与解析 平台答案: ABC
平台解析: A选项正确,状态不仅应包含设备自身的健康指标(振动幅度),还应包含工况信息(负载等级),以实现视情决策。B选项正确,动作空间定义了智能体可以采取的具体维修或运行干预手段。C选项正确,转移概率需要依据客观的物理规律和历史数据来构建。D选项错误,奖励函数必须客观反映维修决策的经济效益或代价(如停机成本、备件费用、产量收益等),仅凭主观评分无法引导智能体学习到具有工程价值的策略。
知识点: 维修问题形式化示例
经验回放机制中,用于训练在线网络的小批量样本的获取方式是? HAN-POST-6-2-01 单选题选项 A. 严格按照交互时间顺序依次选取样本 B. 从回放缓冲区中随机抽样 C. 只选取奖励值最高的优质样本 D. 只选取最新交互得到的样本
展开参考答案与解析 平台答案: B
平台解析: 经验回放将交互样本存入回放池后,通过随机采样获取小批量样本,打破样本的时间相关性,提升训练稳定性。
知识点: DQN:经验回放(experience replay)
DQN与表格型Q-learning的核心区别之一是,DQN使用以下哪种结构来近似动作价值函数? HAN-POST-6-2-02 单选题选项 A. 二维Q值表 B. 神经网络 C. 分类决策树 D. 逻辑回归模型
展开参考答案与解析 平台答案: B
平台解析: DQN即深度Q网络,使用神经网络作为函数近似器拟合动作价值函数,替代传统表格型方法的Q值表。
知识点: DQN:值函数网络逼近
DQN引入经验回放机制主要缓解的核心问题是? HAN-POST-6-2-03 单选题选项 A. 奖励尺度失衡导致梯度爆炸 B. 连续轨迹样本高度相关,按时间顺序训练导致小批量样本独立性不足、训练不稳定 C. 目标值随在线网络更新持续漂移 D. 探索率衰减过快陷入局部最优
展开参考答案与解析 平台答案: B
平台解析: 智能体与环境交互得到的连续轨迹样本存在强时间相关性,经验回放通过随机采样小批量样本打破相关性,同时提升数据复用效率。选项C是目标网络解决的问题。
知识点: DQN:经验回放(experience replay)
DQN经验回放缓冲区中存储的经验转移元组通常不包含以下哪项内容? HAN-POST-6-2-04 单选题选项 A. 当前状态 s 与执行动作 a B. 即时奖励 r 与后继状态 s' C. 终止标记 d D. 当前策略的神经网络梯度
展开参考答案与解析 平台答案: D
平台解析: 经验回放存储的转移元组为 (s,a,r,s',d) ,分别对应当前状态、动作、即时奖励、后继状态、终止标记,不存储训练过程的梯度信息。
知识点: DQN:经验回放(experience replay)
DQN使用神经网络近似动作价值函数,因此可以直接处理连续状态空间的输入,无需枚举所有状态。 HAN-POST-6-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 神经网络函数近似可直接接收连续状态向量作为输入,在相似状态间共享统计信息,解决了表格方法无法处理大规模/连续状态空间的问题。
知识点: DQN:值函数网络逼近
Actor-Critic架构中引入价值函数构造优势估计的核心作用是? HAN-POST-6-3-01 单选题选项 A. 完全消除策略梯度估计的偏差 B. 降低策略梯度估计的方差,提升更新稳定性 C. 替代策略网络直接输出最优动作 D. 让智能体不需要探索即可直接收敛到最优策略
展开参考答案与解析 平台答案: B
平台解析: Actor-Critic引入价值函数构造优势估计,核心作用是降低策略梯度估计的方差,在偏差与方差之间取得较好折中;该方法无法完全消除估计偏差,也不能替代策略网络的动作生成功能。
知识点: 策略梯度定理.、Actor-Critic架构
PPO算法中引入裁剪目标(clipped objective)的核心目的是? HAN-POST-6-3-02 单选题选项 A. 提高策略更新的学习率 B. 限制单次策略更新的幅度,保障训练稳定性 C. 消除策略梯度的偏差 D. 减少采样的轨迹数量
展开参考答案与解析 平台答案: B
平台解析: PPO的裁剪目标通过限制新老策略的概率比范围,约束单次策略更新幅度,避免策略更新过大导致训练不稳定。
知识点: PPO:裁剪目标(clipped objective)
在Actor-Critic的单步更新流程中,Critic价值网络构造时序差分误差δₜ的正确公式是? HAN-POST-6-3-03 单选题选项 A. \delta_t = r_{t+1} + \gamma V(s_{t+1}) - V(s_t) B. \delta_t = r_{t+1} - V(s_t) C. \delta_t = V(s_{t+1}) - V(s_t) D. \delta_t = r_{t+1} + \gamma V(s_t) - V(s_{t+1})
展开参考答案与解析 平台答案: A
平台解析: Critic采用时序差分学习更新,一步TD误差的标准形式为 \delta_t = r_{t+1} + \gamma V(s_{t+1}) - V(s_t) ,利用即时奖励与后继状态价值估计构造更新信号。
知识点: Actor-Critic架构、Critic(价值网络)
Actor-Critic架构中,Critic(价值网络)的核心更新依据是? HAN-POST-6-3-04 单选题选项 A. 完整回合的蒙特卡洛回报 B. 时序差分误差 \delta_t = r_{t+1} + \gamma V(s_{t+1}) - V(s_t) C. 动作对数概率的策略梯度 D. 裁剪后的新旧策略概率比
展开参考答案与解析 平台答案: B
平台解析: Critic价值网络采用时序差分学习更新,通过一步TD误差调整状态价值估计;完整回合回报是REINFORCE算法的更新依据,对数概率加权是Actor的更新方式,概率比裁剪是PPO算法的专属机制。
知识点: Actor-Critic架构、Critic(价值网络)
PPO训练中,裁剪参数 \varepsilon 设置得越大越好,越大越能加快策略的收敛速度。 HAN-POST-6-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: PPO的裁剪参数 \varepsilon 过大时会失去对策略更新幅度的约束作用,容易引发训练不稳定; \varepsilon 过小则会限制学习效率,实践中通常从0.1~0.3区间选择初始值并动态调整。
知识点: PPO:裁剪目标(clipped objective)
下列选项中,不属于深度贝叶斯神经网络精确权重后验难以求解的原因是? HAN-POST-6-4-01 单选题选项 A. 网络权重参数维度极高 B. 贝叶斯公式分母的高维积分难以计算 C. 归一化常数无法高效解析或数值求解 D. 训练数据量过大导致计算溢出
展开参考答案与解析 平台答案: D
平台解析: 精确后验不可解的核心原因是权重参数维度高、贝叶斯公式归一化常数的高维积分难计算,与训练数据量过大无直接关联。
知识点: 贝叶斯神经网络(权重分布)、变分推断思想
以下关于变分推断的描述,正确的有? HAN-POST-6-4-02 多选题选项 A. 使用可优化的简单分布近似难以计算的真实后验分布 B. 将原本的后验推断问题转化为优化问题求解 C. 其核心思路和VAE中近似隐变量z后验的思路一致,只是研究对象换成了网络权重w D. 可以直接求解得到精确的权重后验分布
展开参考答案与解析 平台答案: ABC
平台解析: 变分推断是近似推断方法,无法得到精确后验,其余描述均符合变分推断的核心思想。
知识点: 变分推断思想
贝叶斯神经网络中采用变分推断可以得到精确的权重后验分布,不存在任何近似误差。 HAN-POST-6-4-03 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 变分推断是近似推断方法,用简单分布近似真实后验,存在近似误差,无法得到精确后验。
知识点: 变分推断思想
偶然不确定性可以通过不断增加训练数据量的方式完全消除。 HAN-POST-6-4-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 偶然不确定性是数据本身固有的噪声带来的,无法通过增加训练数据完全消除;认知不确定性可通过增加数据、优化模型降低。
知识点: 偶然不确定性(aleatoric)、认知不确定性(epistemic)
变分推断可以直接得到深度贝叶斯神经网络权重的精确后验分布,不需要近似。 HAN-POST-6-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 深度网络权重精确后验不可解,变分推断是用简单分布近似真实后验的近似推断方法,无法得到精确后验。
知识点: 变分推断思想
在对比 MC Dropout 和深度集成(Deep Ensemble)时,大量实证研究表明,在相同的计算预算下,深度集成通常能提供更高质量的预测区间。其主要原因是? HAN-POST-6-5-01 单选题选项 A. 深度集成不需要进行超参数调优 B. 深度集成通过在参数空间中探索多个独立的局部最优解,比 MC Dropout 的单模型变分近似能更好地捕捉后验分布的多样性 C. 深度集成的推理速度比 MC Dropout 更快 D. MC Dropout 无法计算认知不确定性
展开参考答案与解析 平台答案: B
平台解析: MC Dropout 本质上是对贝叶斯神经网络后验的一种变分近似,且受限于单一训练轨迹的局部最优附近;而深度集成通过不同的随机初始化独立训练多个模型,能够探索损失景观中相距较远的多个模式(Modes),从而更充分地捕捉认知不确定性。实证表明深度集成的区间质量和校准性通常优于 MC Dropout。深度集成需要更多超参数调优(排除 A);推理更慢(排除 C);MC Dropout 也能估计认知不确定性(排除 D)。
分位数回归用于不确定性量化时,构造预测区间的核心方式是? HAN-POST-6-5-02 单选题选项 A. 统计多次前向传播的结果方差 B. 计算多个独立模型的预测分歧 C. 直接估计条件分布的不同分位点 D. 通过核函数计算后验预测方差
展开参考答案与解析 平台答案: C
平台解析: 分位数回归通过调整输出头与对应损失函数,直接估计条件分布的不同分位点,以此构造预测区间,推理仅需一次前向传播。
知识点: 分位数回归(UQ用法)
无论选择哪一种实用不确定性量化方法,模型交付前不需要验证以下哪项指标? HAN-POST-6-5-03 单选题选项 A. 区间覆盖率 B. 区间宽度(尖锐度) C. 校准性 D. 训练阶段的GPU显存峰值
展开参考答案与解析 平台答案: D
平台解析: 所有UQ方法交付前都应验证覆盖率、区间宽度和校准性,训练显存峰值不属于UQ预测效果的必验交付指标。
知识点: MC Dropout、深度集成(deep ensemble)、分位数回归(UQ用法)、高斯过程速览
某工程师使用分位数回归预测风力发电功率,分别训练了 \tau = 0.1 和 \tau = 0.9 两个分位数模型以构建 80\% 预测区间。关于该方法生成的预测区间,以下说法正确的是? HAN-POST-6-5-04 单选题选项 A. 预测区间必定关于点预测值对称 B. 可以通过调整不同分位数的 \tau 值灵活生成非对称区间,适应偏态分布 C. 必须配合多次前向传播才能计算出区间的上下界 D. 分位数回归天然保证区间覆盖率严格等于 0.8 ,无需任何验证
展开参考答案与解析 平台答案: B
平台解析: 分位数回归通过最小化 Pinball Loss 直接估计条件分位数。由于它不假设误差服从对称分布(如高斯分布),因此能够自然地拟合偏态数据,生成非对称的预测区间,这是其显著优势。选项 A 错误,区间不必对称;选项 C 错误,分位数回归只需一次前向传播即可输出对应分位数;选项 D 错误,分位数回归提供的是边际覆盖率的渐近保证,实际应用中受限于模型容量和数据分布,交付前必须验证覆盖率。
MC Dropout进行不确定性估计时,推理阶段需要关闭Dropout层,和常规点预测模型的推理方式完全一致。 HAN-POST-6-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: MC Dropout推理时必须保持Dropout层开启,通过多次随机前向采样统计不确定性,不能关闭Dropout层。
知识点: MC Dropout
以下物理约束中,既可以选择作为软约束加入损失,也可以选择作为硬约束嵌入模型结构的有? HAN-POST-6-6-01 多选题选项 A. 退化系数 k>0 的参数范围要求 B. 无维修场景下健康指数单调不升的单调性要求 C. 退化速率ODE控制方程 D. 初始时刻健康值为100%的初始条件
展开参考答案与解析 平台答案: ABD
平台解析: 根据课程内容,初始/边界条件、参数范围、单调性要求可根据问题选择软约束或硬约束实现;微分方程、守恒律通常以残差形式作为软约束加入损失。
知识点: 软约束、硬约束
PINN训练时,仅需要拟合观测数据即可,不需要考虑物理方程的约束。 HAN-POST-6-6-02 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: PINN的核心是同时拟合观测数据与物理约束,将方程残差纳入损失函数是其区别于普通神经网络的关键特征。
知识点: 控制方程写入损失、物理残差项
PINN只能用于求解已知方程的PDE/ODE正问题,无法应用于参数反演类的反问题。 HAN-POST-6-6-03 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: PINN既可以用于方程已知的PDE/ODE正问题求解,也可支撑稀疏观测下的参数反演反问题。
知识点: 求解PDE/ODE
在PINN中,将物理约束作为软约束加入损失函数,可以保证模型在训练完成后100%严格满足该物理约束,不存在任何违反情况。 HAN-POST-6-6-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 软约束通过损失惩罚引导模型满足约束,无法保证严格满足;只有硬约束通过结构嵌入才能保证约束严格成立。
知识点: 软约束、硬约束
与传统数值微分(如有限差分)相比,PINN中使用自动微分计算方程残差的主要优势是? HAN-POST-6-6-05 单选题选项 A. 不需要离散化网格,且导数计算精度更高、截断误差更小 B. 计算量远小于所有其他微分方法,对高维问题完全无维度灾难 C. 不需要神经网络参与计算,可直接得到方程解析解 D. 只能计算一阶导数,无法支持高阶PDE求解
展开参考答案与解析 平台答案: A
平台解析: 自动微分基于计算图求导,无需网格离散,不存在有限差分的截断误差,精度更高;它仍有计算成本,依赖神经网络,且可计算高阶导数支持高阶PDE。
知识点: 自动微分(automatic differentiation)
某维修MDP中\gamma=0.9 ,某轨迹连续三步的即时奖励依次为10、10、-40,则该轨迹从初始时刻计算的三步折扣累计回报为? ZHU-PRE-6-1-02 单选题选项 A. 10 +0.9\times10 +0.9^2\times(-40) = -13.4 B. 10+10-40=-20 C. 0.9\times10 +0.9^2\times10 +0.9^3\times(-40) = -12.06 D. 10/0.9 +10/0.9^2 + (-40)/0.9^3 \approx -31.7
展开参考答案与解析 来源资料答案: A
来源资料解析: 折扣累计回报计算为R_0 + \gamma R_1 + \gamma^2 R_2 ,代入数值计算结果为10+9-32.4=-13.4。
知识点: 回报与折扣因子
在构建三档健康状态(良好 s_1 、退化 s_2 、临界 s_3 )的设备维修MDP模型时,以下关于转移概率矩阵 T 的性质描述,正确的有: ZHU-PRE-6-1-03 多选题选项 A. 对于任意状态 s 和动作 a ,必须满足 \sum_{s' \in S} T(s'|s, a) = 1 B. 若在“良好”状态下执行“更换”动作,合理的转移概率应满足 T(s_1|s_1, a_3) = 1 ,其余为 0 C. 转移概率矩阵的数值可以通过分析设备历史运维日志中的状态跳变频率来进行经验估计 D. 转移概率 T(s'|s,a) 的取值会受到所选奖励函数 R(s,a,s') 大小的直接影响
展开参考答案与解析 来源资料答案: ABC
来源资料解析: A正确,转移概率表示条件概率分布,对所有可能的后继状态求和必须为 1 。B正确,“更换”意味着换上新设备,下一时刻必然回到“良好”状态,这是一个确定性转移。C正确,在未知环境动力学的情况下,利用历史数据统计频率是估计转移概率的常用方法。D错误,转移概率是客观物理规律,奖励函数是人为设定的优化目标,两者相互独立,奖励大小不能改变物理转移规律。
知识点: 维修问题形式化示例
下列关于MDP中折扣回报的说法,正确的有? ZHU-PRE-6-1-04 多选题选项 A. 引入折扣因子可以避免无限时域下累计回报发散的问题 B. 折扣因子越接近1,策略越倾向于选择长期收益更高的动作 C. 折扣因子为0时,智能体只关注即时奖励,完全不考虑后续回报 D. 远期奖励的权重随时间步增加呈线性增长
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 远期奖励的权重随时间步按\gamma^t 指数衰减,并非线性增长,选项D错误;其余选项均符合折扣回报的性质。
知识点: 回报与折扣因子
在视情维修MDP中,转移概率 P(s'|s,a) 是由智能体(维修决策器)内部的神经网络结构决定的,因此可以通过修改网络层数来随意改变设备从退化状态向临界状态转移的概率。 ZHU-PRE-6-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 转移概率 P(s'|s,a) 刻画的是环境本身的动力学特性,即设备在特定动作下的客观物理退化规律。它是MDP环境的一部分,不以智能体的内部结构或意志为转移。智能体只能通过学习去适应和利用这些概率,而不能通过修改自身网络结构来改变物理世界的客观规律。
知识点: 维修问题形式化示例
若某维修MDP的折扣因子\gamma=0.1 ,说明该决策场景下决策者更看重长期收益,对短期成本不敏感。 ZHU-PRE-6-1-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 折扣因子取值越小,远期回报的权重越低,说明决策者越看重短期回报,对长期收益的关注度越低。
知识点: 回报与折扣因子
关于DQN中目标网络的参数更新方式,下列说法正确的是? ZHU-PRE-6-2-01 单选题选项 A. 每个小批量训练步都和在线网络同步更新 B. 每经过C 步整体复制在线网络的参数,两次同步间保持冻结 C. 训练全程参数固定永不更新 D. 随机从回放池采样参数更新
展开参考答案与解析 来源资料答案: B
来源资料解析: 目标网络参数每C 步从在线网络整体复制,两次同步间隔内参数冻结,用于计算固定的TD目标,提升训练稳定性。
知识点: DQN:目标网络(target network)
DQN中引入独立目标网络的核心作用是? ZHU-PRE-6-2-02 单选题选项 A. 降低连续轨迹样本的时间相关性 B. 解决在线网络计算TD目标时的目标值漂移问题,提升训练稳定性 C. 增大智能体的探索率 D. 实现奖励尺度的自动归一化
展开参考答案与解析 来源资料答案: B
来源资料解析: 若使用在线网络计算自举目标,每次参数更新都会改变回归目标造成目标漂移,目标网络通过冻结参数在固定周期内计算稳定的TD目标,解决该问题;A是经验回放的作用。
知识点: DQN:目标网络(target network)
下列关于表格型Q-learning的TD目标,说法正确的有? ZHU-PRE-6-2-03 多选题选项 A. 包含当前转移获得的即时奖励r B. 包含折扣因子\gamma 与下一状态最优动作价值的乘积项 C. 当转移到终止状态时,不需要添加后继状态的价值项 D. TD目标完全使用真实回报计算,不依赖当前的价值估计
展开参考答案与解析 来源资料答案: ABC
来源资料解析: TD目标使用自举方式构造,包含当前的价值估计,并非完全使用真实回报;其余选项均符合TD目标的定义。
知识点: 时序差分(TD)学习;Q-learning更新规则
相较于表格型Q-learning,DQN对原有方法的扩展与改动包括? ZHU-PRE-6-2-04 多选题选项 A. 使用神经网络作为动作价值函数的近似器,替代离散存储的Q表 B. 引入经验回放机制打破连续样本的时间相关性 C. 引入独立的目标网络计算稳定的TD目标 D. 将时序差分更新规则替换为策略梯度更新规则
展开参考答案与解析 来源资料答案: ABC
来源资料解析: DQN在Q-learning基础上,用神经网络近似Q函数,加入经验回放和目标网络提升训练稳定性,核心更新逻辑仍基于时序差分目标,属于价值-based方法,未使用策略梯度更新。
知识点: DQN:值函数网络逼近;DQN:经验回放(experience replay);DQN:目标网络(target network)
时序差分(TD)学习中的TD误差 \delta_t 如果持续为正数,表明当前值函数对状态价值的估计偏高,需要通过梯度下降不断降低该状态的Q值或V值。 ZHU-PRE-6-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: TD误差 \delta_t = r_{t+1} + \gamma V(s_{t+1}) - V(s_t) 表示实际观测到的回报加上下一步预期与当前估计之间的差值。如果 \delta_t 持续为正,说明 r_{t+1} + \gamma V(s_{t+1}) > V(s_t) ,即实际的期望收益大于当前的估计值,意味着当前值函数对该状态的估计偏低(过于保守)。此时更新规则会增加该状态的V值或Q值,而非降低。
知识点: 时序差分(TD)学习
在Actor-Critic架构中,Critic(价值网络)的核心功能是? ZHU-PRE-6-3-01 单选题选项 A. 输出动作分布 B. 直接优化策略参数 C. 估计状态价值,用于构造优势估计 D. 与环境交互获取回报
展开参考答案与解析 来源资料答案: C
来源资料解析: Critic价值网络V(s) 负责估计状态价值,用于构造优势估计,可有效降低策略梯度估计的方差。
知识点: Critic(价值网络)
在Actor-Critic的单步更新流程中,关于时序差分误差δ的用途,下列说法正确的是? ZHU-PRE-6-3-02 单选题选项 A. 仅用于更新Critic价值网络,不参与Actor策略网络更新 B. 仅用于更新Actor策略网络,不参与Critic价值网络更新 C. 既可以作为更新信号更新Critic价值网络,也可以作为优势估计更新Actor策略网络 D. 仅用于计算折扣回报,不直接参与两个网络的参数更新
展开参考答案与解析 来源资料答案: C
来源资料解析: Actor-Critic单步更新中,同一条转移样本计算得到的TD误差δ一方面用于更新Critic的价值估计,另一方面可直接作为优势估计,用于加权更新Actor的策略参数。
知识点: Actor-Critic架构
下列关于强化学习方法偏差与方差特性的描述,正确的有? ZHU-PRE-6-3-03 多选题选项 A. 使用整局回报的REINFORCE方法无偏但方差大 B. Actor-Critic方法用TD误差作为优势时,实现了小偏差、小方差的折中 C. 单步TD学习方法方差小但存在偏差 D. 引入自举(利用后继状态的价值估计)通常会引入偏差但能降低方差
展开参考答案与解析 来源资料答案: ABCD
来源资料解析: 四类描述均符合强化学习中偏差与方差权衡的相关结论,GAE可进一步通过权衡多步回报与价值估计控制偏差方差平衡。
知识点: 策略梯度定理.;Actor-Critic架构
直接优化参数化策略的策略梯度方法是连续动作场景下的主流适用方法之一。 ZHU-PRE-6-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 策略梯度方法不预先计算每个动作的价值,直接优化参数化策略,是连续动作场景的主要适用方法。
知识点: 策略梯度定理.
贝叶斯神经网络进行预测时,从权重近似后验采样多组权重对同一输入多次前向计算,以下哪个结果可作为点预测值? ZHU-PRE-6-4-01 单选题选项 A. 多次预测结果的均值 B. 多次预测结果的方差 C. 多次预测结果的最大值 D. 多次预测结果的最小值
展开参考答案与解析 来源资料答案: A
来源资料解析: 贝叶斯神经网络多次前向预测的均值可作为最终点预测结果,预测结果的离散程度可表征参数不确定性。
知识点: 贝叶斯神经网络(权重分布)
贝叶斯神经网络中采用变分推断求解权重后验的根本原因是? ZHU-PRE-6-4-02 单选题选项 A. 真实权重后验的维度太低,直接采样效率过高 B. 深度网络权重维度极高且后验归一化常数难以计算,精确后验不可解 C. 变分推断可以得到精确的真实后验分布,不存在近似误差 D. 变分推断不需要优化任何参数,计算成本远低于精确推断
展开参考答案与解析 来源资料答案: B
来源资料解析: 深度BNN精确后验不可解的核心原因是权重参数维度极高,高维联合后验难以精确表示,且贝叶斯公式分母的高维积分难以解析或数值求解,因此采用变分推断将推断问题转化为优化问题。
知识点: 变分推断思想
贝叶斯神经网络的预测方差由以下哪些部分组成? ZHU-PRE-6-4-03 多选题选项 A. 偶然不确定性对应项 B. 认知不确定性对应项 C. 训练轮次带来的误差项 D. 硬件计算带来的误差项
展开参考答案与解析 来源资料答案: AB
来源资料解析: 贝叶斯神经网络预测方差可分解为偶然不确定性项和认知不确定性项两部分。
知识点: 偶然不确定性(aleatoric);认知不确定性(epistemic);贝叶斯神经网络(权重分布)
下列关于偶然不确定性与认知不确定性的说法,正确的有? ZHU-PRE-6-4-04 多选题选项 A. 偶然不确定性来源于数据本身的固有随机性 B. 认知不确定性来源于模型对对应场景的知识不足 C. 增加训练数据量可以降低偶然不确定性 D. 增加对应场景的训练数据量可以降低认知不确定性
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 偶然不确定性是数据固有噪声,无法通过增加训练数据消除;认知不确定性源于模型知识不足,可通过补充对应数据降低。
知识点: 偶然不确定性(aleatoric);认知不确定性(epistemic)
贝叶斯神经网络将网络权重建模为概率分布,而非传统神经网络中的确定性点值。 ZHU-PRE-6-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 贝叶斯神经网络的核心建模特点就是将权重表示为概率分布,以此实现不确定性量化。
知识点: 贝叶斯神经网络(权重分布)
偶然不确定性是数据本身固有的噪声带来的不确定性,即使收集无限多的训练数据也无法完全消除。 ZHU-PRE-6-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 偶然不确定性来源于数据固有随机性,无法通过增加训练数据消除。
知识点: 偶然不确定性(aleatoric)
某医疗器械研发团队拥有约 800 条高质量临床试验数据,希望构建一个药物剂量-疗效预测模型,并要求模型不仅能给出预测值,还能提供具有严谨概率解释的不确定性度量。最适合该场景的方法是? ZHU-PRE-6-5-01 单选题选项 A. 深度集成 B. MC Dropout C. 高斯过程回归 D. 分位数回归
展开参考答案与解析 来源资料答案: C
来源资料解析: 高斯过程(GP)通过先验协方差函数(核函数)直接在函数空间上定义分布,能提供具有严密贝叶斯概率解释的均值和方差。GP的计算瓶颈在于对 N \times N 协方差矩阵求逆,复杂度为 O(N^3) ,因此最适用于中小规模数据集(如本题的 800 条)。深度集成和 MC Dropout 更适合大规模数据和深度学习框架;分位数回归提供的是区间而非完整的后验概率分布。
下列关于四种实用UQ方法区间质量的描述,符合课程结论的是? ZHU-PRE-6-5-02 单选题选项 A. MC Dropout输出的区间通常偏保守(过宽),覆盖率天然达标 B. 深度集成的区间质量中至高,但交付前仍需开展校准验证 C. 分位数回归输出的区间天然对称,适配同方差场景 D. 高斯过程的区间质量仅由数据量决定,与核函数选择无关
展开参考答案与解析 来源资料答案: B
来源资料解析: 根据课程内容,MC Dropout区间常偏窄,分位数回归区间不对称性强,高斯过程区间质量取决于核函数与数据质量,只有深度集成的描述符合结论。
评价不确定性量化方法输出的区间质量时,需要核心关注以下哪些维度? ZHU-PRE-6-5-03 多选题选项 A. 区间覆盖率 B. 区间宽度(尖锐度) C. 校准性 D. 模型的参数量大小
展开参考答案与解析 来源资料答案: ABC
来源资料解析: UQ区间质量需要从覆盖率、区间宽度、校准性三个核心维度评价,模型参数量不属于区间预测效果的直接评价维度。
知识点: MC Dropout;深度集成(deep ensemble);分位数回归(UQ用法);高斯过程速览
在评估一个用于气温预测的不确定性量化模型时,为了全面衡量其实用性,应当考察以下哪些指标或图表?(至少有两个正确答案) ZHU-PRE-6-5-04 多选题选项 A. 预测区间的经验覆盖率(Empirical Coverage)是否接近标称置信水平 B. 预测区间的平均宽度(Mean Interval Width),越窄越好(前提是覆盖率达标) C. 可靠性图(Calibration Curve),观察预测置信度与实际频率的对齐程度 D. 仅观察点预测的均方误差(MSE)即可判断不确定性估计的好坏
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 评估 UQ 模型需要综合考量覆盖率和区间宽度(Sharpness)。选项 A 确保模型没有欠覆盖;选项 B 确保在保证覆盖率的前提下,区间尽可能紧凑以提供有用信息;选项 C 用于诊断模型在不同置信水平下的校准情况。选项 D 错误,点预测的 MSE 只能反映中心趋势的准确性,无法反映模型对不确定性的刻画能力(例如一个方差极大的模型可能有不错的均值预测,但其不确定性估计毫无价值)。
深度集成方法的训练与存储成本会随集成的模型数量M增长,因此更适合计算预算充足的场景。 ZHU-PRE-6-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 课程明确指出深度集成的训练与存储成本约随集成规模M增长,其最适场景为计算预算充足的稳健基线。
知识点: 深度集成(deep ensemble)
对于一个已经训练完毕且内部不含 Dropout 层的残差网络(ResNet),若要将其改造为支持 MC Dropout 的 UQ 模型,可以直接在推理阶段对输入添加高斯噪声来替代 Dropout 的随机掩码机制,从而获得等效的认知不确定性估计。 ZHU-PRE-6-5-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: MC Dropout 的理论基础在于训练时将 Dropout 解释为变分推断的近似,推理时保持 Dropout 开启相当于从近似后验分布中采样。如果在没有 Dropout 层的网络上仅在输入端添加高斯噪声,这属于输入扰动(Input Perturbation)技术,它主要探测模型对输入变化的敏感度,并不能等效于对网络权重的后验采样,因此无法提供理论上等价的认知不确定性估计。要使用 MC Dropout,必须在网络结构中显式插入 Dropout层并重新训练。
知识点: MC Dropout
PINN的典型损失函数一般包含以下哪些组成部分? ZHU-PRE-6-6-01 多选题选项 A. 衡量网络输出与观测数据偏差的数据项 B. 衡量物理方程满足程度的物理残差项 C. 衡量边界/初始条件拟合程度的边界项 D. 用于随机初始化网络参数的初始化项
展开参考答案与解析 来源资料答案: ABC
来源资料解析: PINN典型损失由数据项、带权重的物理残差项、边界项构成,分别对应拟合观测、满足物理方程、满足边界初始条件的训练目标。
以下关于PINN中物理残差计算的说法,正确的有? ZHU-PRE-6-6-02 多选题选项 A. 物理残差计算需要获取网络输出对输入的导数 B. 自动微分是计算残差所需导数的核心工具 C. 残差越接近0说明网络输出对物理方程的满足程度越高 D. 物理残差不需要参与反向传播过程
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 物理残差是损失函数的重要组成部分,需要参与反向传播更新网络参数,其余选项表述均正确。
知识点: 物理残差项;自动微分(automatic differentiation)
PINN训练时只需要拟合观测数据,不需要考虑已知的物理控制方程。 ZHU-PRE-6-6-03 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: PINN的核心是同时拟合观测数据与满足物理约束,需要将控制方程残差纳入损失函数共同训练。
知识点: 控制方程写入损失;物理残差项
PINN中计算物理残差所需的导数,既可以通过自动微分得到,也完全可以用数值差分替代且效果完全一致。 ZHU-PRE-6-6-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 自动微分是PINN计算导数的核心工具,数值差分存在精度低、计算量大等问题,无法完全替代自动微分。
知识点: 自动微分(automatic differentiation)
PINN的总损失函数通常表示为 L = L_{\text{data}} + \lambda_1 L_{\text{physics}} + \lambda_2 L_{\text{bc}} 。关于各项的数据来源与物理意义,下列分析正确的是: ZHU-PRE-6-6-05 单选题选项 A. L_{\text{physics}} 需要依赖实验传感器采集的真实状态数据来计算 B. L_{\text{data}} 中的采样点必须与 L_{\text{physics}} 中的配置点完全重合 C. L_{\text{physics}} 的配置点可以随机采样于求解域内部,不需要对应的真实观测标签 D. L_{\text{bc}} 仅在反演问题中存在,正问题中无需考虑边界条件
展开参考答案与解析 来源资料答案: C
来源资料解析: L_{\text{physics}} 是物理残差损失,其计算仅依赖于控制方程本身和配置点的坐标,通过在求解域内随机或准随机采样即可获得,不需要该点处的真实物理量观测值(即无监督),因此C正确、A错误。L_{\text{data}} 依赖实际观测数据,其数据点位置由测量决定,不必与配置点重合,B错误。无论是正问题还是反演问题,只要PDE/ODE存在边界或初始条件,都需要 L_{\text{bc}} 来约束解的唯一性,D错误。
知识点: 物理残差项
PINN训练中,若某一批配点上的物理残差平均值趋近于0,通常说明? ZHU-PRE-6-6-06 单选题选项 A. 神经网络在该批点上的输出已经较好满足对应的微分控制方程 B. 模型已经完全过拟合观测数据 C. 自动微分计算出现了数值溢出错误 D. 边界条件一定被精确满足
展开参考答案与解析 来源资料答案: A
来源资料解析: 物理残差衡量网络输出对控制方程的满足程度,残差趋近于0说明在这些配点上输出较好符合微分方程;残差为0不代表过拟合、计算错误,也不能直接说明边界条件被满足。
知识点: 物理残差项
在评估两种不同的视情维修策略 \pi_1 (保守型:频繁检查与小修)和 \pi_2 (激进型:仅在临界状态大修)时,发现 \pi_1 的单步平均即时奖励低于 \pi_2 ,但在 \gamma = 0.99 的条件下,\pi_1 的状态价值函数 V^{\pi_1}(s) 却普遍高于 V^{\pi_2}(s) 。对此现象最合理的综合分析是? ZHU-POST-6-1-01 单选题选项 A. \pi_1 策略由于频繁操作导致系统崩溃,其高价值是计算错误 B. 高折扣因子使得长期收益占据主导,\pi_1 有效避免了设备进入极低价值的故障状态,其长期节省的巨大代价超过了短期的频繁维护成本 C. \pi_2 策略的转移概率矩阵中存在负数,导致累计回报异常 D. 状态价值函数的大小完全由即时奖励决定,与折扣因子无关
展开参考答案与解析 来源资料答案: B
来源资料解析: 当\gamma 接近1 时,智能体高度关注长期累计回报。虽然\pi_1 每次维护都有即时成本(降低了单步奖励),但它保持了设备的高健康度,避免了灾难性故障带来的巨大长期负回报。\pi_2 虽然短期成本低,但容易让设备陷入恶劣状态。在长视距(高\gamma )下,避免重大损失的长期收益远超短期维护成本。A、C选项属于无端臆测;D选项违背了值函数的定义。
知识点: 回报与折扣因子
MDP框架下智能体与环境的交互闭环包含以下哪些环节? ZHU-POST-6-1-02 多选题选项 A. 智能体观察当前的环境状态 B. 智能体根据状态选择并执行动作 C. 环境返回即时奖励并转移到新的状态 D. 智能体直接修改环境固有的状态转移规律
展开参考答案与解析 来源资料答案: ABC
来源资料解析: MDP交互闭环包含观察状态、执行动作、接收反馈(奖励+新状态)、循环四个核心环节,环境的转移规律是系统固有属性,智能体无法直接修改。
知识点: 维修问题形式化示例
如果决策者更看重设备运行的短期收益,应该将折扣因子\gamma 设置为更接近1的数值。 ZHU-POST-6-1-03 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: \gamma 越小近期回报权重越高,看重短期收益时应将\gamma 设置为更接近0的数值;\gamma 接近1时更看重长期回报。
知识点: 回报与折扣因子
MDP中的状态值函数计算仅需要考虑当前的即时奖励,不需要考虑未来的长期回报。 ZHU-POST-6-1-04 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: MDP的决策目标是最大化长期累计回报,值函数的计算需要结合折扣因子衡量未来的长期回报,并非仅考虑即时奖励。
知识点: 值函数
Bellman方程是MDP中开展值函数递推计算的核心依据。 ZHU-POST-6-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 明确MDP各要素后,可依据Bellman方程开展值函数的递推计算,求解最优策略。
知识点: Bellman方程
相比表格型Q-learning,DQN采用神经网络做值函数逼近的核心优势是? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-2-01 单选题选项 A. 具备严格的全局收敛保证 B. 可直接处理连续/高维状态空间,通过参数共享实现状态泛化 C. 无需任何探索即可学习到最优策略 D. 可以完全消除Q值的估计偏差
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
当智能体交互到达真正终止状态(终止标记d=1 )时,DQN中对应的TD目标y 应为? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-2-02 单选题选项 A. y=r+\gamma(1-d)\max_{a'}Q(s',a';\theta^-) B. y=r C. y=0 D. y=\gamma\max_{a'}Q(s',a';\theta^-)
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于DQN目标网络同步周期C 的说法,正确的有? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-2-03 多选题选项 A. 同步过于频繁会削弱目标网络稳定训练的作用 B. 同步过慢会导致使用滞后的目标价值估计 C. C 的取值可从数百到数千步,结合验证回报和损失曲线调整 D. C 必须固定为1,即每步都同步才能保证收敛
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于时序差分(TD)学习的说法,正确的有? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-2-04 多选题选项 A. TD学习不需要等待完整回合结束,每步交互后即可更新价值估计 B. TD目标采用自举方式构造,包含对后继状态的价值估计 C. TD更新是Bellman递推关系的采样估计 D. TD目标完全由真实累计回报构成,不存在估计偏差
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
DQN的经验回放机制要求必须严格按照样本采集的时间顺序依次送入网络训练,不能打乱顺序。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-2-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
PPO算法中引入裁剪目标(clipped objective)的核心目的是下列哪一项? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-3-01 单选题选项 A. 完全消除策略梯度估计的偏差 B. 限制单次策略更新的幅度,提升训练稳定性 C. 替代价值网络的功能,无需估计状态价值 D. 使算法变为异策略,可无限复用旧数据
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
PPO训练中如果将熵奖励系数设为0,最可能引发的问题是? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-3-02 单选题选项 A. 优势函数尺度过大导致训练震荡 B. 策略分布过早收窄,智能体探索不足 C. 策略更新步长过大无法收敛 D. 价值网络过拟合历史样本
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于PPO算法训练流程的描述,正确的有? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-3-03 多选题选项 A. 使用旧策略采样一批轨迹数据 B. 可通过GAE估计优势函数以权衡偏差与方差 C. 基于裁剪目标进行多轮小批量参数更新 D. 采样的数据可以长期重复使用,无需重新采样
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于PPO裁剪目标与训练要点的说法,正确的有哪些? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-3-04 多选题选项 A. 裁剪目标通过限制新旧策略的概率比范围,约束单次策略更新幅度 B. 训练中可对批次内的优势估计做零均值单位方差标准化,提升稳定性 C. 裁剪参数ε设置越大越好,可加快策略学习速度 D. PPO训练包含策略网络、价值网络以及概率比裁剪机制三个核心组件
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
在Actor-Critic架构中,Actor策略网络负责估计状态价值,Critic价值网络负责输出动作与环境交互。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-3-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
某团队用贝叶斯神经网络做航空发动机剩余寿命预测,对预测方差做分解得到公式 \operatorname{Var}(y|x,\mathcal D)=E_w[\sigma_w(x)^2]+\operatorname{Var}_w[\mu_w(x)] ,下列说法正确的是? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-4-01 单选题选项 A. E_w[\sigma_w(x)^2] 对应认知不确定性,可通过增加训练数据完全消除 B. \operatorname{Var}_w[\mu_w(x)] 对应偶然不确定性,由数据本身噪声决定无法消除 C. E_w[\sigma_w(x)^2] 对应偶然不确定性,即使收集无穷多训练数据也无法完全消除 D. \operatorname{Var}_w[\mu_w(x)] 对应偶然不确定性,可通过提升模型容量完全消除
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
在工业设备故障预警任务中,下列哪种操作最适合用于降低模型的认知不确定性? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-4-02 单选题选项 A. 更换精度更高的传感器,降低采集数据的测量噪声 B. 针对故障样本稀缺的工况,补充采集该工况下的设备运行数据 C. 对输入特征做归一化处理,消除特征量纲差异 D. 增大模型输出的噪声项方差,提升预测区间的覆盖率
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列哪种场景下的不确定性主要属于偶然不确定性? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-4-03 单选题选项 A. 训练数据未覆盖的极端工况下的预测偏差 B. 传感器测量值本身带有的随机噪声 C. 模型训练轮次不足导致的预测波动 D. 权重初始化不同带来的预测差异
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
贝叶斯神经网络中使用变分推断的核心目的是? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-4-04 单选题选项 A. 提升网络的拟合速度 B. 近似求解难以精确计算的权重后验分布 C. 减少训练所需的数据量 D. 消除数据中的固有噪声
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
偶然不确定性是由模型对参数的认知不足导致的,可以通过无限增加训练数据将其降为0。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-4-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
无论选择哪一种实用不确定性量化方法,模型交付前不需要验证以下哪项指标? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-5-01 单选题选项 A. 区间覆盖率 B. 区间宽度(尖锐度) C. 校准性 D. 训练阶段的GPU显存峰值
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
某边缘计算设备算力极度受限,要求不确定性量化方案的推理延迟严格控制在单次前向传播的时间内,且不允许在设备上存储多个大模型权重。以下哪种方案是唯一可行的? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-5-02 单选题选项 A. 包含5 个成员模型的深度集成 B. 采样50 次的MC Dropout C. 训练时优化分位数损失、推理时单次输出的分位数回归网络 D. 基于历史数据拟合的高斯过程
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
MC Dropout方法在推理阶段生成不确定性估计时,需要执行多少次前向传播来得到随机采样的预测结果? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-5-03 单选题选项 A. 仅1次 B. T次(T为随机采样次数) C. M次(M为集成模型数量) D. 与模型训练轮次相同的次数
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
在评估不确定性量化模型时,绘制了可靠性图(Reliability Diagram /校准曲线)。若理想校准曲线上的一点坐标为(0.90,0.75) ,其中横轴为模型预测的置信度,纵轴为实际观测到的准确率,这说明模型存在什么问题? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-5-04 单选题选项 A. 模型处于完美校准状态 B. 模型过度自信(Overconfident),预测区间可能偏窄 C. 模型不够自信(Underconfident),预测区间可能过宽 D. 模型的区间宽度为零
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
分位数回归在推理阶段只需要进行一次前向传播即可直接输出预测区间的上下界,这使其在对推理时延要求极其苛刻的实时控制系统中比需要多次采样的MC Dropout更具工程优势。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-5-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
在物理信息神经网络(PINN)训练中,用于衡量神经网络输出对微分方程满足程度的损失项通常被称为? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-6-01 单选题选项 A. 数据拟合项 B. 物理残差项 C. 正则化项 D. 边界硬约束项
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
以下哪种物理约束最适合作为硬约束直接嵌入PINN模型? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-6-02 单选题选项 A. 复杂三维结构的热传导PDE方程 B. 初始时刻设备健康指数为100%的确定初始条件 C. 含未知待反演参数的退化ODE D. 材料内部随位置变化的应力分布规律
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
除了在方程已知时求解PDE/ODE,PINN还可在以下哪种场景发挥作用? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-6-03 单选题选项 A. 处理完全无物理机理的纯数据分类任务 B. 稀疏观测下的方程参数反演 C. 替代所有传统数值求解方法 D. 不需要任何观测数据即可完成训练
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
针对退化速率方程 \frac{du}{dt}=-ku 构建PINN时,对应的物理残差项计算式应为? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-6-04 单选题选项 A. u-u_{\text{观测}} B. \frac{du}{dt}+ku C. k-k_{\text{真值}} D. u(0)-1
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
针对退化常微分方程 \frac{\mathrm{d}u}{\mathrm{d}t}=-ku 建模,采用PINN求解时,该方程对应的物理残差项核心计算逻辑是? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-6-6-05 单选题选项 A. 计算网络预测值u 与实际观测u 的差值 B. 计算自动微分得到的 \frac{\mathrm{d}u}{\mathrm{d}t} 与 -ku 的差值 C. 计算初始时刻u 与1的差值 D. 计算k 的取值与0的差值
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
第七讲公开课:模型为何需要置信、物理一致性与解释性检验?
展开参考答案与解析 高准确率不能完整反映监测系统是否可信,还应检查置信度是否校准、输出是否满足适用的物理规律、解释是否忠实于模型。
可把置信、物理一致性和解释性定义为检验事件,在明确数据集、阈值和分母的条件下计算联合通过比例。准确率既可作为可信子集上的效用,也可明确加入第四项检验,但必须说明所用定义。
不同检验通常相关,不能未经独立性论证直接将各项通过率相乘作为联合可信概率。可信评价还应与使用工况和失效处置要求结合。
来源:
第七讲 第110, 136页。页码为文件物理页序或幻灯片序号。
第七讲公开课:AK-MCS的基本思想是什么?
展开参考答案与解析 AK-MCS把Kriging代理模型、主动学习与Monte Carlo可靠性分析结合起来。
(1)先选择少量试验点,调用真实模型并建立Kriging代理。
(2)在大量候选样本上用代理预测,通过学习函数选择极限状态附近、分类不确定性较大的点。
(3)对选中点进行真实模型计算,扩充试验设计并重新训练代理。
(4)重复上述过程,直到满足精度停止条件或计算预算。
该方法用便宜的代理预测减少昂贵模型调用,但失效概率的精度仍取决于极限状态覆盖、代理质量和停止规则。
来源:
第七讲 第89, 90, 91, 92, 93, 94, 95, 96页。页码为文件物理页序或幻灯片序号。
同一固定评估集有100条样本,其中80条通过信心检查;这80条中60条再通过物理一致性检查;这60条中45条再通过解释性检查。按三项同时通过定义可信度,求经验通过率并写条件概率链。
展开参考答案与解析 条件概率链为
P(C\cap S\cap E)=P(C)P(S\mid C)P(E\mid C,S).
经验通过率为
\frac{80}{100}\times\frac{60}{80}\times\frac{45}{60}=0.45,
即
45\% 。
三个比例的分母不同,来自嵌套子集。该公式不要求检查相互独立;不能把三个全体边际通过率随意相乘,也不能把该指标当作设备存活概率。
从规定工况的输入分布独立直接抽样,真实仿真模型运行10000次,其中12次进入预定义失效域。求普通Monte Carlo失效概率估计。若换代理模型,全局RMSE很小能否直接断言失效概率准确?
展开参考答案与解析
\widehat p_f=\frac{12}{10000}=0.0012=0.12\%.
不能仅凭全局RMSE判定;还要验证极限状态边界附近安全/失效分类、输入分布覆盖和失效概率估计的不确定性。
本题限定普通直接抽样;若采用重要性抽样等方案需按其估计器计算。12次失效是有限样本证据,不代表失效概率精确已知。
交叉注意力中Q 为3\times4 、K 为5\times4 、V 为5\times2 ,忽略批维与多头,\operatorname{Attention}(Q,K,V) 的输出形状是? B14 单选(含维度计算)选项 A. 3\times5 B. 5\times2 C. 3\times2 D. 4\times2
展开参考答案与解析 C
QK^{\mathsf T} 得到3\times5 权重分数,逐行归一化后乘5\times2 的V ,输出3\times2 。
缩放点积注意力中的标准缩放因子是什么? B15 单选选项 A. 除以序列长度n B. 除以键向量维度的平方根\sqrt{d_k} C. 除以值向量维度d_v D. 除以注意力头数h
展开参考答案与解析 B
在近似独立、方差相近的分量假设下,点积方差随d_k 增长。除以\sqrt{d_k} 控制数值尺度,减轻softmax饱和;它不保证训练必然稳定。
不含位置编码、位置相关偏置或因果掩码的全局自注意力,对输入token同时置换时,哪项正确? B16 单选选项 A. 输出逐位置数值始终完全不变 B. 输出会按相同方式置换,具有排列等变性 C. 模型自然知道绝对时间先后 D. 必然无法计算注意力
展开参考答案与解析 B
等变表示输出随输入排列同步变化。该算子本身不编码顺序;若再做对称池化,序列级结果可具有排列不变性。
关于Transformer的FFN与LayerNorm,哪项正确? B17 单选选项 A. FFN负责跨位置混合信息,注意力只逐位置计算 B. 同层FFN在每个位置使用不同参数 C. 本课LayerNorm必须用整个批次的均值 D. 同层FFN逐位置共享参数;LayerNorm通常按每个token的特征维归一化
展开参考答案与解析 D
跨位置交互由注意力完成。FFN共享位置间参数;课程所用LN不依赖批量统计。不同Transformer层通常各有自己的参数。
原始编码器—解码器Transformer的交叉注意力中,Q 与K 、V 通常分别来自哪里? B18 单选选项 A. Q 来自解码器,K 和V 来自编码器输出 B. Q 来自编码器,K 和V 必须是标签 C. Q 、K 、V 必须是同一矩阵 D. Q 来自未来真实答案,K 和V 来自当前输出
展开参考答案与解析 A
解码器用当前表示查询编码器提供的输入上下文。因果自注意力和交叉注意力是不同子层;查询来自解码器不代表允许读取未来答案。
关于BERT与GPT的典型预训练目标,哪项正确? B19 单选选项 A. BERT必须逐词单向生成,GPT采用双向MLM B. 自监督学习不需要任何监督目标 C. BERT用双向上下文做掩码恢复,GPT按前缀做下一词元预测 D. 预训练后就无需验证目标域负迁移
展开参考答案与解析 C
自监督目标由数据本身构造。两类目标对应不同上下文使用方式,迁到下游仍需检查域差异。
一个4096\times4096 权重矩阵采用LoRA秩r=8 ,冻结原权重、只训练两个低秩矩阵且忽略偏置,新增可训练参数是多少? B20 单选(含计算)选项 A. 16{,}777{,}216 B. 65{,}536 C. 32{,}768 D. 8{,}192
展开参考答案与解析 B
r(d_{\mathrm{in}}+d_{\mathrm{out}})=8\times(4096+4096)=65{,}536,
占原权重
0.390625\% 。这是该矩阵的可训练参数比例,不是整模型显存比例或推理加速倍数。
维修规程更新频繁,需要答案可追溯。下列区分哪项正确? B21 单选选项 A. ICL每次都会更新模型权重 B. LoRA微调能自动同步以后发布的规程 C. RAG只要检索到文件就保证引用正确 D. ICL靠上下文示例,微调改参数,常见RAG在推理时提供检索资料
展开参考答案与解析 D
动态知识适合维护可更新资料库并检索,仍要校验来源版本、检索相关性和回答忠实度。ICL本身不训练权重。
关于SFT、RLHF/PPO和DPO,哪项正确? B22 单选选项 A. 奖励模型偏好分越高,回答就必然事实正确 B. SFT通常用指令—示范,偏好对齐用比较/排序;DPO可直接用偏好对优化而不显式训练奖励模型 C. DPO必须在每轮运行在线PPO D. PPO中的价值网络与奖励模型一定是同一个网络
展开参考答案与解析 B
课程区分示范数据与偏好数据。偏好对齐改善偏好目标,不构成事实正确性的保证;PPO的价值函数用于优势估计,角色与奖励评分不同。
关于token与BPE,哪项正确? B23 单选选项 A. 任意语言中一个token都等于一个单词 B. BPE反复合并频繁出现的相邻符号对,token可能是子词;具体切分依赖词表 C. token数恒等于字符数 D. BPE能保证从未出现过的技术术语有正确语义
展开参考答案与解析 B
词元可为子词、字符或其他片段,不固定对应自然语言单词。切分方法解决表示编码问题,不保证模型掌握术语事实。
单查询q=[1,0] ,键k_1=[1,0] 、k_2=[0,1] ,值v_1=10 、v_2=20 ,d_k=2 。使用\operatorname{softmax}\!\left(qK^{\mathsf T}/\sqrt{d_k}\right) ,计算两个权重和输出;再假定k_2 对应未来位置、被因果掩码禁止,输出怎样变化?
展开参考答案与解析 未加掩码:分数\left[\frac1{\sqrt2},0\right] ,权重约[0.66976,0.33024] ,输出约13.3024 。加掩码:分数\left[\frac1{\sqrt2},-\infty\right] ,权重[1,0] ,输出10。
先缩放再softmax,禁止项在归一化之前屏蔽;只在softmax后把一个权重清零而不重新归一化会破坏行和为1。
RGB图像224\times224 ,使用不重叠16\times16 patch,无填充。每个patch线性映射到768维,并加1个CLS token。求patch数、展开维度、编码器输入形状;若保持patch大小,把图像改为448\times448 ,含CLS的注意力矩阵元素数约增大几倍?
展开参考答案与解析 patch数14^2=196 ;每块展开16\times16\times3=768 维;忽略批维时输入为197\times768 。边长448的图像有28^2=784 块,加CLS为785个token;每头权重矩阵从197^2 变为785^2 ,比例为
\frac{785^2}{197^2}=\frac{616225}{38809}\approx15.88.
即约15.88倍。
图像边长翻倍使patch数约4倍,完整注意力矩阵元素数约16倍;若忽略CLS则恰为16倍。这里比较注意力矩阵大小,不把整个网络总算量一概说成同一倍率。
设计一个回答设备故障码和最新规程的维修RAG助手。写出主要流程,并给出检索端、生成端和验收的关键要求。
展开参考答案与解析 流程:文档清洗/分块→嵌入与索引→查询检索(可混合关键词与向量并重排序)→将证据纳入提示→带来源生成。检索端控制权限、版本、召回与相关性;生成端限定证据、核验引用,区分原文事实与推断,证据不足时拒答/转人工。验收覆盖检索命中率、引用正确率、答案忠实度、拒答恰当率、端到端有用性。
引用格式存在不等于引用支持结论;流畅回答也不等于事实正确。知识库更新与模型参数更新是不同过程。
在缩放点积注意力计算中,将查询与键的点积结果除以 \sqrt{d_k} 的核心作用是? HAN-PRE-8-1-01 单选题选项 A. 提升点积计算的运算速度 B. 避免点积方差随维度增大导致softmax梯度饱和 C. 强制注意力权重之和为1 D. 减少值向量的维度冗余
展开参考答案与解析 平台答案: B
平台解析: 根据缩放点积注意力的设计原理,除以 \sqrt{d_k} 是为了避免独立同方差近似下点积方差随维度增大,防止softmax进入梯度极小的饱和区,保证训练稳定性。
知识点: 注意力权重计算(缩放点积)
无掩码条件下的自注意力机制中,查询Q、键K、值V的来源是() HAN-PRE-8-1-02 单选题选项 A. Q来自当前序列,K和V来自其他序列 B. Q、K、V均来自同一输入序列 C. K来自当前序列,Q和V来自其他序列 D. V来自当前序列,Q和K来自其他序列
展开参考答案与解析 平台答案: B
平台解析: 无掩码条件下,自注意力的Q、K、V均来自同一序列,每个位置可聚合全部可见位置的信息;交叉注意力才使用不同来源的查询序列与键值序列。
知识点: 自注意力(self-attention)
下列关于缩放点积注意力中掩码机制的说法,正确的有() HAN-PRE-8-1-03 多选题选项 A. 填充掩码可以阻止模型读取无效的填充位置 B. 因果掩码可以阻止当前位置读取未来时刻的信息 C. 掩码方向或广播维度错误可能造成信息泄漏 D. 若某查询对应的整行键全部被屏蔽,softmax仍能输出合法的概率分布
展开参考答案与解析 平台答案: ABC
平台解析: 填充掩码阻止读取无效位置,因果掩码阻止读取未来信息,掩码设置错误会导致信息泄漏;若一整行全部被屏蔽,softmax没有合法概率分布,需要提前处理。
知识点: 注意力权重计算(缩放点积)
下列关于缩放点积注意力中掩码机制的说法,正确的有() HAN-PRE-8-1-04 多选题选项 A. 填充掩码的作用是阻止模型读取无效的填充位置 B. 因果掩码的作用是阻止当前位置读取未来时刻的信息 C. 掩码设置时若广播维度错误可能造成信息泄漏 D. 即使某查询对应的所有键都被屏蔽,softmax仍能输出合法的概率分布
展开参考答案与解析 平台答案: ABC
平台解析: 若某一查询对应的整行全部被屏蔽,softmax无法得到合法概率分布,需要提前处理该查询;其余选项均符合掩码机制的相关描述。
知识点: 注意力权重计算(缩放点积)
注意力机制中,Q、K、V是输入经过可训练的线性投影矩阵变换得到的,不是输入的直接复制。 HAN-PRE-8-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 输入经三组线性投影得到Q、K、V,三个投影矩阵由训练学习得到,不是输入的直接复制,且序列所有位置共用同一套投影矩阵。
知识点: 查询Q(Query)、键K(Key)、值V(Value)
自注意力和交叉注意力的核心区别是,自注意力的Q、K、V均来自同一输入序列,而交叉注意力的查询序列与键值序列来源不同。 HAN-PRE-8-1-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 自注意力的查询、键和值均由同一输入序列生成,在序列内部聚合信息;交叉注意力使用不同来源的查询序列与键值序列。
知识点: 自注意力(self-attention)
Transformer编码器结构中,多头自注意力模块之后连接的FFN层(前馈网络)通常的结构是? HAN-PRE-8-2-01 单选题选项 A. 两层线性变换,中间夹非线性激活函数 B. 单层线性变换无激活函数 C. 三层卷积结构 D. 循环神经网络结构
展开参考答案与解析 平台答案: A
平台解析: 标准Transformer的FFN由两层线性层组成,中间使用GELU/ReLU等非线性激活,对每个token的特征独立做非线性变换。
知识点: 前馈网络(FFN)层
下列现象中,不属于标准Transformer长序列瓶颈典型表现的是? HAN-PRE-8-2-02 单选题选项 A. 序列长度增加时,模型显存占用快速上升 B. 长序列输入下,模型推理速度显著下降 C. 当输入序列长度超过训练时的最大长度时,模型完全无法输出结果 D. 长序列下注意力矩阵的计算开销随长度呈二次方增长
展开参考答案与解析 平台答案: C
平台解析: 长序列瓶颈核心是二次方复杂度带来的计算、内存开销激增,通常输入长度超过训练长度时模型仍可输出,仅性能可能下降,不属于长序列瓶颈的典型表现。
知识点: 长序列瓶颈
下列关于Transformer中FFN层与Layer Norm的作用描述,正确的有? HAN-PRE-8-2-03 多选题选项 A. FFN可以对自注意力层聚合得到的跨token特征做非线性变换,提升模型的表达能力 B. Layer Norm可以将每个样本的特征归一化到稳定分布,缓解深度模型训练中的梯度消失/爆炸问题 C. FFN的跨token信息交互能力是自注意力层的重要补充,可捕获长距离依赖 D. Layer Norm沿batch维度做归一化,统计量受batch大小影响较大
展开参考答案与解析 平台答案: AB
平台解析: FFN为逐位置非线性变换,无跨token交互能力,无法捕获长距离依赖;Layer Norm沿特征维度归一化,不受batch大小影响,可稳定训练过程;FFN负责对自注意力输出的特征做非线性映射以提升表达能力。
知识点: 前馈网络(FFN)层、层归一化(layer norm)
下列关于ViT的分块(patch)设计思想,描述正确的有? HAN-PRE-8-2-04 多选题选项 A. 将输入二维图像拆分为互不重叠的固定大小图像块 B. 每个图像块经过线性映射得到对应的patch嵌入向量 C. 需要为每个patch嵌入加入位置编码,保留图像块的位置信息 D. 相同图像尺寸下,patch的尺寸越大,最终得到的输入序列长度越长
展开参考答案与解析 平台答案: ABC
平台解析: 相同图像尺寸下,patch尺寸越大,拆分得到的patch数量越少,输入序列长度越短,D选项描述错误,其余选项均符合ViT分块思想的设计。
知识点: ViT分块(patch)思想
ViT模型中patch尺寸越小,得到的token数量越少,自注意力计算量越低,越适合处理长序列可靠性信号。 HAN-PRE-8-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: patch尺寸越小,相同输入下切分得到的token数量越多,自注意力二次方计算量越大,长序列处理的算力开销越高。
知识点: ViT分块(patch)思想
Transformer的编码器和解码器结构中,都包含前馈网络(FFN)层与层归一化结构。 HAN-PRE-8-2-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 编码器和解码器的每个层都包含逐位置FFN子层,且所有子层均搭配残差连接与层归一化结构。
知识点: 编码器(encoder)结构、解码器(decoder)结构、前馈网络(FFN)层、层归一化(layer norm)
在设备维修日志挖掘任务中,原始文本为“更换轴承后振动幅值恢复正常”。若使用BERT进行掩码语言建模(MLM)预训练,将“轴承”替换为 [\mathrm{MASK}] ,模型在预测该位置的词元时,其注意力机制能够利用的上下文信息是: HAN-PRE-8-3-01 单选题选项 A. 仅能利用“更换”这一左侧上下文信息 B. 仅能利用“后振动幅值恢复正常”这一右侧上下文信息 C. 同时利用“更换”和“后振动幅值恢复正常”的双向上下文信息 D. 按照从左到右的顺序逐步利用所有已生成的词元信息
展开参考答案与解析 平台答案: C
平台解析: BERT属于编码器型Transformer架构,其掩码语言建模(MLM)的核心特征是利用双向上下文。当“轴承”被遮挡为 [\mathrm{MASK}] 时,模型在计算该位置的表示时,注意力机制可以同时关注到左侧的“更换”和右侧的“后振动幅值恢复正常”,从而通过完整的语境恢复被遮挡的词元。选项A和B描述的是单向上下文,选项D描述的是GPT类自回归模型的生成机制。
知识点: BERT类掩码语言模型(MLM)
下列选项中,不属于三类常见自监督任务的是() HAN-PRE-8-3-02 单选题选项 A. 遮挡部分输入,根据剩余上下文重构被遮挡的内容 B. 根据历史序列信息,预测下一个词元或下一时间窗的内容 C. 使用人工标注的故障类别标签,训练端到端故障分类器 D. 通过对比损失,让同一样本不同增强视图的表示接近、不同样本的表示分离
展开参考答案与解析 平台答案: C
平台解析: 三类常见自监督任务为掩码重构、自回归预测、对比学习,三类任务的监督信号均由数据自动构造;使用人工标签训练分类器属于传统监督学习范畴,因此C正确。
知识点: 预训练—微调的迁移学习本质
朱睦晨 · 课前小测 · KP8-3 · 原第 2 题 · 答案与解析 来源资料答案: C
来源资料解析: 三类常见自监督任务为掩码重构、自回归预测、对比学习,三类任务的监督信号均由数据自动构造;使用人工标签训练分类器属于传统监督学习范畴,因此C正确。
知识点: 预训练—微调的迁移学习本质
某团队将一个在通用英文新闻语料(源域)上预训练的模型,迁移到中文数控机床报警日志的分类任务(目标域)上。在评估参数迁移效果时,发现模型表现极差甚至不如随机初始化的模型。为了排查是否发生了负迁移,工程师应当重点检查以下哪些方面? HAN-PRE-8-3-03 多选题选项 A. 源域与目标域在词汇表构成、语法结构和领域知识上的分布差异程度 B. 预训练模型的网络层数是否超过了目标域任务所需的理论上限 C. 微调时学习率的设置是否过大,导致预训练参数被迅速破坏 D. 目标域的标注数据量是否足够支撑全参数解冻的微调策略
展开参考答案与解析 平台答案: ACD
平台解析: 负迁移的发生通常与源域和目标域的分布差异(选项A)、微调超参数不当导致预训练知识被覆盖(选项C),以及目标域数据量不足以支撑复杂参数的调整(选项D)密切相关。选项B中“网络层数超过理论上限”并不是引发负迁移的核心原因,深层网络通常可以通过冻结部分层来适配,层数多本身不直接导致负迁移。
知识点: 预训练—微调的迁移学习本质
下列关于微调策略选择的说法,正确的有() HAN-PRE-8-3-04 多选题选项 A. 目标域标注极少时,可先冻结编码器仅训练任务头,通过线性探针检验预训练表示质量 B. 目标域标注量增加后,可采用逐层解冻的方式微调,同时监控验证集性能变化 C. 目标域标注充足时可开展全量微调,但仍需配合正则化与早停策略防止过拟合 D. 无论采用哪种微调方式,超参数选择都必须在验证集完成,测试集仅用于最终一次性能评价
展开参考答案与解析 平台答案: ABCD
平台解析: 四个选项均符合课程中不同标注规模下的微调策略规范,以及验证集、测试集的使用原则。
知识点: 预训练—微调的迁移学习本质
在基于GPT架构的自回归语言模型中,为了使模型在预测当前传感器状态时能更准确地捕捉周期性规律,可以在因果掩码矩阵中手动将对角线以上的元素设为 1 ,允许模型在训练时查看未来的数据点。 HAN-PRE-8-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: GPT架构的核心在于严格的因果掩码(Causal Masking),即注意力矩阵必须是下三角矩阵,确保预测当前时刻时绝对不可见未来的信息。如果在训练中允许查看未来数据,不仅破坏了自回归建模的前提,还会导致在实际在线推理时因无法获取未来数据而产生严重的 train-test mismatch(训练测试不一致),这种做法是错误的。
知识点: GPT类自回归模型(AR)
在预训练—微调范式中,只要源域(如通用语料)的数据量足够大,无论目标域(如特定设备故障诊断)与源域的分布差异有多大,参数迁移都一定能提升目标域任务的性能,不会发生负迁移。 HAN-PRE-8-3-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 负迁移的发生主要取决于源域与目标域之间的相关性和分布差异。即使源域数据量极大,如果其学到的特征表示与目标域的任务逻辑相悖(例如通用闲聊语料与严谨的工业控制指令),强行迁移预训练参数反而会干扰目标域的学习,导致性能下降。数据量大并不能免疫负迁移风险。
知识点: 预训练—微调的迁移学习本质
下列关于词元(token)与自然语言词汇的差异、BPE分词逻辑的说法,正确的是? HAN-PRE-8-4-01 单选题选项 A. BPE词元表中的所有token都对应具有独立语义的完整自然词汇 B. token粒度越细,相同文本对应的序列长度越短,模型推理速度越快 C. 相同原始文本采用不同分词器处理,得到的token序列长度与内容可能存在显著差异 D. 词元化仅在模型预训练阶段使用,下游领域微调时不需要做词元化处理
展开参考答案与解析 平台答案: C
平台解析: BPE会将罕见词拆分为子词甚至单字符token,并非所有token都对应完整词汇;token粒度越细序列长度越长,推理开销越高;微调阶段必须使用与预训练一致的分词器处理输入;不同分词器的切分逻辑存在差异,分词结果可能显著不同。
知识点: 词元化(tokenization)
RLHF(基于人类反馈的强化学习)流程中,PPO算法的核心作用是? HAN-PRE-8-4-02 单选题选项 A. 对原始文本做词元化切分 B. 基于奖励模型的反馈优化大语言模型策略,实现人类偏好对齐 C. 压缩模型参数量,提升推理速度 D. 自动生成大规模预训练语料
展开参考答案与解析 平台答案: B
平台解析: RLHF中PPO(近端策略优化)作为强化学习算法,利用训练好的奖励模型给出的偏好得分,迭代优化语言模型,让模型输出更符合人类偏好。
知识点: RLHF对齐(呼应KP6-3)
在 BPE(Byte Pair Encoding)词元化过程中,下列关于其特性和行为的描述,正确的有哪些? HAN-PRE-8-4-03 多选题选项 A. BPE 能够缓解未登录词(OOV)问题,因为未知词可以被拆分为已知子词 B. BPE 的最终词表大小是由算法自动决定的,无需人工预先指定 C. BPE 的合并过程是基于训练语料中相邻符号对的频率统计进行的 D. 对于同一段英文文本,不同的 BPE 词表大小会导致切分出的 token 序列不同
展开参考答案与解析 平台答案: ACD
平台解析: A 正确,子词切分是解决 OOV 的有效手段;B 错误,BPE 需要预先设定合并次数或最终词表大小;C 正确,这是 BPE的核心迭代逻辑;D 正确,词表越大,平均 token 长度越长,切分结果随之改变。
知识点: 词元化(tokenization)
LoRA作为参数高效微调技术,相比全量微调具备以下哪些优势? HAN-PRE-8-4-04 多选题选项 A. 大幅降低可训练参数量,减少微调时的显存占用 B. 减少需要存储的优化器状态规模,降低训练资源门槛 C. 微调得到的LoRA权重文件体积小,便于多场景切换部署 D. 合并权重后推理无额外计算开销
展开参考答案与解析 平台答案: ABCD
平台解析: LoRA仅训练低秩矩阵,可训练参数量极低,大幅降低显存与优化器存储开销,LoRA权重文件小,合并后推理和基座模型计算量一致。
知识点: 参数高效微调:LoRA
在 BPE 词元化算法中,如果一个长单词在训练语料中出现频率极高,它有可能被合并为一个单独的 token。 HAN-PRE-8-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: BPE 的合并规则完全基于相邻子串的频率。如果某个长单词出现频率极高,其内部的字符对会不断被优先合并,最终整个长单词可能被压缩为一个单一的 token。
知识点: 词元化(tokenization)
大语言模型的涌现能力在参数量很小的模型上也能稳定观测到,和模型规模没有关联。 HAN-PRE-8-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 涌现能力是模型规模突破临界阈值后才会出现的能力,小模型通常不具备这类复杂能力。
知识点: 涌现能力(emergence)
在工业设备故障可靠性分析场景中,若要使用大模型准确推导复杂故障的根因链路,以下提示工程策略效果最优的是? HAN-PRE-8-5-01 单选题选项 A. 直接输入故障现象后提问“请给出该故障的根本原因” B. 在提示中明确要求“请逐步推理,先列出所有可能诱因,再逐一匹配故障特征排除干扰项,最终给出根因” C. 在提示中要求“请用不超过20字概括故障根因,输出尽可能简洁” D. 在提示中混入与本次故障无关的其他设备历史运维记录
展开参考答案与解析 平台答案: B
平台解析: 思维链提示通过引导模型逐步拆解推理过程,可显著提升复杂逻辑类任务(如故障根因分析)的输出准确性,其余选项要么未引导推理过程、要么限制输出长度、要么引入无关噪声,效果更差。
知识点: 提示工程(prompt engineering)、思维链(chain-of-thought)
将大语言模型应用于工业可靠性场景时,以下不属于其典型应用方向的是? HAN-PRE-8-5-02 单选题选项 A. 故障报告自动梳理与根因辅助分析 B. 运维规程智能问答 C. 传感器原始时序数据的高频实时采集 D. 可靠性设计方案的合规性校验
展开参考答案与解析 平台答案: C
平台解析: 传感器高频原始数据采集属于硬件采集层的功能范畴,不属于大语言模型在可靠性场景的典型应用方向。
知识点: LLM×可靠性
RAG技术可以解决大模型在可靠性应用中的哪些典型问题? HAN-PRE-8-5-03 多选题选项 A. 大模型知识过时,不了解最新发布的可靠性行业标准 B. 大模型编造不存在的故障案例、运维规程(幻觉问题) C. 大模型无法访问企业内部私有的设备历史运维档案 D. 大模型推理速度过慢无法满足实时性要求
展开参考答案与解析 平台答案: ABC
平台解析: RAG通过外挂可实时更新的知识库,可解决大模型知识陈旧、幻觉、无法访问私有数据的问题,但无法解决模型本身推理速度慢的问题。
知识点: 检索增强生成(RAG)、LLM×可靠性
朱睦晨 · 课前小测 · KP8-5 · 原第 3 题 · 答案与解析 来源资料答案: ABC
来源资料解析: RAG通过外挂可实时更新的知识库,可解决大模型知识陈旧、幻觉、无法访问私有数据的问题,但无法解决模型本身推理速度慢的问题。
知识点: 检索增强生成(RAG);LLM×可靠性
下列关于上下文学习(ICL)在可靠性场景应用的说法,正确的有? HAN-PRE-8-5-04 多选题选项 A. ICL不需要更新大模型的参数,即可快速适配不同装备的故障诊断任务 B. ICL的效果与提示中提供的示例质量、示例和当前任务的分布匹配度高度相关 C. ICL可以完全替代传统有监督模型训练流程,在任何可靠性场景下都能达到更优效果 D. 在ICL示例中加入故障诊断的完整推理过程,可结合思维链进一步提升复杂故障的诊断准确率
展开参考答案与解析 平台答案: ABD
平台解析: ICL属于免参数微调的大模型适配技术,效果受示例质量与分布匹配度影响,结合思维链可提升复杂推理任务的效果;ICL存在上下文窗口限制、效果不稳定等问题,无法完全替代有监督训练,也不存在全场景效果更优的结论。
知识点: 上下文学习(in-context learning)、思维链(chain-of-thought)、LLM×可靠性
在大模型应用于可靠性故障诊断的场景中,提示中提供的上下文学习示例数量越多,模型的诊断准确率一定会线性提升。 HAN-PRE-8-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 上下文学习的效果受示例质量、分布匹配度、上下文窗口容量等多因素影响,示例数量超过一定阈值后可能引入噪声、超出窗口限制,准确率不会随示例数量线性提升。
知识点: 上下文学习(in-context learning)、LLM×可靠性
时序基础模型由于是在大规模通用时序数据上预训练得到的,完全无法适配特定行业设备的可靠性监测任务,必须从零开始单独训练。 HAN-PRE-8-5-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 时序基础模型具备良好的跨场景迁移能力,仅需少量目标场景的监测数据做轻量适配,即可支撑特定设备的可靠性监测、故障预测等任务,无需从零开始训练。
知识点: 时序基础模型(time-series foundation model)
某提案拟验证“新推荐算法比基线算法更能提升用户点击率”。实验设计如下:在周一向所有用户推送基线算法结果,在周二向所有用户推送新算法结果,比较两天的总点击率。该实验设计最常见的致命问题是什么? HAN-PRE-8-6-01 单选题选项 A. 样本量不足,仅测试了两天 B. 存在严重的时间混淆变量,周一和周二的用户活跃度天然存在差异,无法将点击率变化归因于算法更替 C. 未采用双盲设计,用户知道算法发生了变化 D. 评价指标单一,不应只看点击率还应看停留时长
展开参考答案与解析 平台答案: B
平台解析: 本题考查提案终稿中实验设计的常见问题分析。该设计采用了“前后测”而非“随机对照”模式,且切换周期仅为天级别。在互联网场景中,工作日(周一)与休息日前夕(周二)的用户行为模式存在显著差异。因此,观察到的点击率变化完全可能是时间效应而非算法效应,导致因果推断失效。正确的做法应是A/B测试(随机分流)。A项虽有一定道理但非最致命的设计缺陷;C项推荐算法通常不需要对用户双盲;D项是指标优化建议,不掩盖实验设计本身的逻辑漏洞。
知识点: 提案终稿:实验设计常见问题
撰写可靠性机器学习方向的研究提案综述部分时,以下做法正确的是()。 HAN-PRE-8-6-02 单选题选项 A. 只罗列已发表文献的观点,不做梳理分类 B. 刻意贬低已有研究的价值以突出自身提案的优势 C. 按照技术演进脉络梳理现有研究,明确指出当前研究缺口 D. 大量引用与研究主题无关的高影响力文献凑字数
展开参考答案与解析 平台答案: C
平台解析: 综述撰写需系统梳理领域研究脉络,客观总结现有进展与不足,明确研究缺口,为自身提案提供立论依据。
知识点: 提案终稿:综述写法
下列属于可靠性机器学习实验设计典型错误的有? HAN-PRE-8-6-03 多选题选项 A. 实验基线选择不合理,仅选择弱基线对比,不与最新SOTA方法对比 B. 实验数据集单一,仅用合成数据集不使用工业真实数据集验证 C. 实验设置不透明,不说明数据划分方式、超参数设置等关键信息,结果不可复现 D. 设置充分的消融实验验证每个模块的作用
展开参考答案与解析 平台答案: ABC
平台解析: 基线选择不合理、数据集缺乏真实场景验证、实验不可复现均属于实验设计的常见问题,设置消融实验是规范的实验设计做法,D选项错误。
知识点: 提案终稿:实验设计常见问题
撰写可靠性机器学习研究提案的综述部分时,需要避免的常见问题有()。 HAN-PRE-8-6-04 多选题选项 A. 文献堆砌,缺乏对研究脉络的系统梳理 B. 客观评述现有研究的优势与不足 C. 刻意忽略与自身研究方向冲突的已有成果 D. 清晰指出现有研究存在的核心缺口
展开参考答案与解析 平台答案: AC
平台解析: 综述撰写需避免文献堆砌、选择性忽略对立研究成果等问题,客观梳理进展、明确研究缺口是综述的正确写作要求。
知识点: 提案终稿:综述写法
可靠性机器学习实验设计中,仅使用无噪声的合成数据集开展验证、不设置工业真实场景测试,得到的实验结论泛化性不足,缺乏实际参考价值。 HAN-PRE-8-6-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 合成数据与工业真实数据的分布差异较大,仅用合成数据验证无法证明方法在实际场景中的有效性,结论泛化性不足。
知识点: 提案终稿:实验设计常见问题
撰写研究提案的综述部分时,应当按照逻辑脉络对已有文献进行分类梳理,而非简单按发表时间顺序罗列文献。 HAN-PRE-8-6-06 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 综述的核心是系统梳理领域研究进展与脉络,分类梳理、总结规律与缺口是正确的写作方式,单纯罗列文献无法发挥综述的作用。
知识点: 提案终稿:综述写法
给定查询矩阵 Q\in R^{T_q\times d_k} 、键矩阵 K\in R^{T_k\times d_k} , QK^T 的输出形状为? HAN-POST-8-1-01 单选题选项 A. T_q\times d_k B. T_k\times d_k C. T_q\times T_k D. T_k\times T_q
展开参考答案与解析 平台答案: C
平台解析: Q为 T_q 行 d_k 列,K转置为 d_k 行 T_k 列,矩阵乘法输出形状为 T_q\times T_k ,对应每个查询与每个键的点积分数。
知识点: 注意力权重计算(缩放点积)
缩放点积注意力计算中,将查询与键的点积除以 \sqrt{d_k} 的主要作用是() HAN-POST-8-1-02 单选题选项 A. 避免独立同方差近似下点积方差随维度增大,保障训练稳定性 B. 加快模型的收敛速度,减少训练轮次 C. 实现掩码功能,屏蔽无效位置信息 D. 对注意力权重进行归一化,使其和为1
展开参考答案与解析 平台答案: A
平台解析: 缩放点积注意力中除以 \sqrt{d_k} ,是为了避免独立同方差近似下点积方差随键维度 d_k 增大,保证训练过程稳定;softmax负责权重归一化,掩码由额外的掩码矩阵实现。
知识点: 注意力权重计算(缩放点积)
下列关于自注意力权重的说法,正确的是? HAN-POST-8-1-03 单选题选项 A. 注意力权重高的输入特征一定是对输出因果贡献最大的特征 B. 注意力权重完全等同于模型决策的特征重要性 C. 注意力权重是给定表示和参数下的加权系数,不等同于因果解释 D. 只要保持注意力权重不变,值向量的改变不会影响最终输出
展开参考答案与解析 平台答案: C
平台解析: 注意力权重是给定表示和参数下的加权系数,不自动等同于特征重要性或因果解释;改变值向量即使权重相近,输出仍可显著变化。
知识点: 自注意力(self-attention)、注意力权重计算(缩放点积)
相较于循环网络的递归信息传递路径,自注意力的核心特点是() HAN-POST-8-1-04 单选题选项 A. 任意两个时间位置可直接建立依赖关系,无需沿时间步递归传递 B. 只能按时间顺序逐点传递信息,无法建模长距离依赖 C. 位置之间的连接权重是固定的,无法随输入动态调整 D. 无法聚合当前位置自身的信息,只能依赖其他位置
展开参考答案与解析 平台答案: A
平台解析: 自注意力中任意两个时间位置可直接建立依赖关系,连接权重由当前输入动态计算,可聚合包括当前位置在内的全序列信息,与循环网络的递归传递路径有本质区别。
知识点: 自注意力(self-attention)
在研究Transformer的位置编码方案时,团队对比了可学习的绝对位置编码和基于正弦余弦函数的固定绝对位置编码。关于这两种方案在实际应用中的特性,以下判断正确的有哪些? HAN-POST-8-1-05 多选题选项 A. 两种方案的目的都是为了打破自注意力机制对输入序列的置换等变性 B. 可学习的位置编码能更好地适应训练数据中特定的位置模式,但泛化到更长序列的能力通常较弱 C. 正弦余弦固定位置编码由于具有线性偏移特性,理论上比可学习编码更容易外推到未见过的序列长度 D. 去掉位置编码后,自注意力机制依然能通过 Q 和 K 的点积隐式推断出词序信息
展开参考答案与解析 平台答案: ABC
平台解析: A正确,引入位置编码的根本原因就是纯自注意力对置换是等变的,无法区分顺序。B正确,可学习编码受限于训练时的最大长度。C正确,正弦余弦编码的设计初衷之一就是利用不同频率的波形使模型容易学习到相对位置的平移规律。D错误,没有位置编码时, Q 和 K 仅包含词义信息,打乱输入顺序只会导致输出同等打乱,无法隐式推断词序。
知识点: 位置编码(positional encoding)
在长序列设备退化趋势建模场景下,下列关于层归一化(Layer Norm)对长序列建模影响的描述,正确的是? HAN-POST-8-2-01 单选题选项 A. Layer Norm是沿序列长度维度做归一化,长序列下统计量估计误差会持续累积,加剧长序列瓶颈 B. Layer Norm是沿特征维度做归一化,其计算复杂度与序列长度成线性关系,不会引入二次方复杂度 C. Layer Norm的计算复杂度与序列长度成二次方关系,是长序列瓶颈的核心来源 D. 长序列场景下Layer Norm会完全失效,必须替换为批归一化(Batch Norm)才能正常训练
展开参考答案与解析 平台答案: B
平台解析: Layer Norm对每个样本的特征维度做归一化,计算量随序列长度线性增长,不是长序列二次方瓶颈的来源,长序列下仍可稳定工作,无需强制替换为Batch Norm。
知识点: 层归一化(layer norm)、长序列瓶颈
关于ViT的patch分块设计,以下说法正确的有? HAN-POST-8-2-02 多选题选项 A. patch尺寸越大,得到的token序列长度越短,自注意力的计算量越低 B. patch尺寸越小,保留的图像细节信息越多,对应的自注意力计算量越高 C. ViT的分块设计从根本上规避了自注意力的二次方复杂度问题 D. 分块得到的patch token需要添加位置编码,保留图像的空间位置信息
展开参考答案与解析 平台答案: ABD
平台解析: ViT的分块设计仅通过增大patch粒度缩短序列长度来降低计算量,并未从根本上改变自注意力的二次方复杂度特性。
知识点: ViT分块(patch)思想、计算复杂度(二次方)
针对标准Transformer处理可靠性监测长序列时的二次方复杂度瓶颈,以下可用于工程实践中缓解该问题的思路有? HAN-POST-8-2-03 多选题选项 A. 采用稀疏注意力机制,仅计算部分token对之间的注意力权重 B. 采用局部窗口注意力,限制每个token仅能关注窗口内的相邻token C. 增大FFN层的隐藏层维度,提升模型拟合能力 D. 对长序列做下采样或分块聚合,降低输入Transformer的序列长度
展开参考答案与解析 平台答案: ABD
平台解析: 增大FFN层维度会提升计算开销,无法缓解二次方复杂度带来的长序列瓶颈,其余选项均是常用的长序列优化思路。
知识点: 计算复杂度(二次方)、长序列瓶颈
Transformer中的FFN层可以实现不同token之间的全局信息交互,能够替代自注意力的作用。 HAN-POST-8-2-04 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: FFN是逐token独立计算的结构,不涉及token间的信息交互,无法替代自注意力的全局建模能力。
知识点: 前馈网络(FFN)层
Transformer中使用的层归一化(Layer Norm)是在批次维度上对特征做归一化,其效果受批次大小影响很大。 HAN-POST-8-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 层归一化是在单个样本的特征维度上做归一化,不受批次大小影响;在批次维度归一化、受批次大小影响的是批归一化(BN)。
知识点: 层归一化(layer norm)
下列关于预训练-微调范式中负迁移的说法,正确的是() HAN-POST-8-3-01 单选题选项 A. 只要增加微调训练的轮数,就一定可以解决负迁移问题 B. 源域预训练数据的规模越大,就越不可能发生负迁移 C. 若源域与目标域分布差异过大,迁移后模型性能相比不迁移基线出现下降,即为负迁移 D. 负迁移仅发生在全量微调场景,冻结编码器训练任务头时不会出现负迁移
展开参考答案与解析 平台答案: C
平台解析: 负迁移的核心定义是源域参数迁移到目标域后性能低于不迁移基线,域差异过大是核心成因;增加微调轮数无法解决负迁移,源数据规模大也不能避免负迁移,任何微调方式都可能出现负迁移,因此C正确。
知识点: 预训练—微调的迁移学习本质
在BERT的掩码语言建模(MLM)预训练中,假设输入序列长度为N ,随机遮挡比例约为 15\% 。关于该过程的监督信号来源,下列说法正确的是: HAN-POST-8-3-02 单选题选项 A. 需要人工标注被遮挡位置的正确词元类别作为监督信号 B. 监督信号由被遮挡词元本身提供,即利用未遮挡部分预测被遮挡的原始词元 C. 通过将两个不同句子拼接并判断是否相邻来构造监督信号 D. 利用模型上一轮迭代生成的伪标签作为当前轮次的监督信号
展开参考答案与解析 平台答案: B
平台解析: BERT的MLM属于自监督学习,其监督信号由数据本身自动构造,无需人工标签。具体而言,模型随机遮挡约 15\% 的token,并利用剩余的 85\% 未被遮挡的双向上下文来预测这些被遮挡的原始词元,因此监督信号就是被遮挡位置的原始词元本身。选项A违背了自监督学习无需人工标签的原则;选项C描述的是BERT的下一句预测(NSP)任务;选项D描述的是伪标签方法,而非标准MLM机制。
知识点: BERT类掩码语言模型(MLM)
预训练-微调范式中出现负迁移风险的核心原因是? HAN-POST-8-3-03 单选题选项 A. 预训练域与下游目标域的差异过大 B. 预训练阶段使用的数据量太大 C. 微调阶段设置的学习率过低 D. 目标域的标注数据量过多
展开参考答案与解析 平台答案: A
平台解析: 当预训练域和下游目标域差异过大时,预训练学到的知识无法适配目标域,会出现负迁移导致性能下降。
知识点: 预训练—微调的迁移学习本质
预训练-微调范式中,预训练阶段主要使用的数据类型是? HAN-POST-8-3-04 单选题选项 A. 大规模带人工标注的领域数据 B. 大规模无标注数据,搭配自监督构造任务 C. 少量带人工标签的目标域数据 D. 少量无标注的目标域数据
展开参考答案与解析 平台答案: B
平台解析: 预训练阶段在大规模无标注数据上通过自监督任务学习通用语义表示,为下游任务提供初始化参数。
知识点: 预训练—微调的迁移学习本质
在预训练—微调范式中,只要源域(如通用语料)的数据量足够大,无论目标域(如特定设备故障诊断)与源域的分布差异有多大,参数迁移都一定能提升目标域任务的性能,不会发生负迁移。 HAN-POST-8-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 错
平台解析: 负迁移的发生主要取决于源域与目标域之间的相关性和分布差异。即使源域数据量极大,如果其学到的特征表示与目标域的任务逻辑相悖(例如通用闲聊语料与严谨的工业控制指令),强行迁移预训练参数反而会干扰目标域的学习,导致性能下降。数据量大并不能免疫负迁移风险。
知识点: 预训练—微调的迁移学习本质
LoRA作为参数高效微调方法,其核心设计思路是? HAN-POST-8-4-01 单选题选项 A. 全量更新基座模型的所有参数 B. 冻结基座模型参数,仅训练注入的低秩矩阵参数 C. 仅微调模型的嵌入层参数,其余层全部冻结 D. 将基座模型参数量压缩为原来的10%再训练
展开参考答案与解析 平台答案: B
平台解析: LoRA通过冻结预训练基座模型权重,在注意力层注入可训练的低秩分解矩阵,大幅降低可训练参数量,实现高效领域适配。
知识点: 参数高效微调:LoRA
指令微调(SFT,有监督微调)阶段主要使用的数据形式是? HAN-POST-8-4-02 单选题选项 A. 无标注的大规模通用文本语料 B. “指令-输入-输出”形式的成对标注数据 C. 人类对模型不同回复的偏好排序数据 D. 用户的真实对话日志原始数据
展开参考答案与解析 平台答案: B
平台解析: 指令微调属于有监督训练,核心是使用构造好的指令对应输出的标注数据,让模型学习遵循人类指令完成任务。
知识点: 指令微调(instruction tuning)
RLHF(基于人类反馈的强化学习)流程中,PPO算法的核心作用是? HAN-POST-8-4-03 单选题选项 A. 训练奖励模型,使其能够对模型输出的人类偏好程度进行打分 B. 在约束模型输出与SFT模型分布偏差不过大的前提下,优化模型策略使其输出获得更高的奖励模型打分 C. 对原始输入文本进行词元化处理,统一模型输入格式 D. 压缩模型参数量,提升模型的推理速度
展开参考答案与解析 平台答案: B
平台解析: PPO是RLHF强化学习阶段的策略优化算法,通过KL散度惩罚约束模型与SFT模型的偏差,避免模型为追求高奖励生成无意义内容;奖励模型训练是RLHF的前置步骤,不属于PPO的功能。
知识点: RLHF对齐(呼应KP6-3)
朱睦晨 · 课后小测 · KP8-4 · 原第 2 题 · 答案与解析 来源资料答案: B
来源资料解析: PPO是RLHF强化学习阶段的策略优化算法,通过KL散度惩罚约束模型与SFT模型的偏差,避免模型为追求高奖励生成无意义内容;奖励模型训练是RLHF的前置步骤,不属于PPO的功能。
知识点: RLHF对齐(呼应KP6-3)
以下关于大语言模型中token(词元)与自然语言中“词”的差异描述,正确的是? HAN-POST-8-4-04 单选题选项 A. token完全等同于自然语言的词,二者一一对应 B. token可能是词的子片段、标点或单个字符,与词不存在严格一一对应关系 C. token的长度固定为2个汉字 D. token仅包含实词,不包含标点和虚词
展开参考答案与解析 平台答案: B
平台解析: 词元是大模型文本处理的基本单位,可对应子词、字符、标点等不同粒度的文本单元,和自然语言中的词不存在严格的一一映射关系。
知识点: 词元化(tokenization)
使用LoRA进行大模型微调时,基座模型的原始参数被冻结,仅训练新增的低秩矩阵分支,可大幅降低微调所需的显存和计算资源。 HAN-POST-8-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 冻结基座权重、仅训练低秩分支参数是LoRA实现参数高效微调的核心设计,可显著降低微调阶段的资源消耗。
知识点: 参数高效微调:LoRA
以下关于时序基础模型在可靠性领域应用的描述,正确的是? HAN-POST-8-5-01 单选题选项 A. 时序基础模型只能针对单台设备单独训练,无法跨设备迁移 B. 时序基础模型可利用海量通用时序数据预训练的通用表征,在少量目标设备故障数据下快速适配可靠性预测任务 C. 时序基础模型无法处理传感器采集的高频时序监测数据 D. 时序基础模型的预测精度一定低于针对单台设备定制的传统机器学习模型
展开参考答案与解析 平台答案: B
平台解析: 时序基础模型具备跨场景时序表征迁移能力,可在小样本下适配设备剩余寿命预测、异常检测等可靠性任务,其余选项均不符合时序基础模型的技术特性。
知识点: 时序基础模型(time-series foundation model)
对于新投运、故障样本极少的高端装备,使用时序基础模型开展剩余寿命预测的核心优势是? HAN-POST-8-5-02 单选题选项 A. 不需要任何目标装备的运行数据即可达到100%的预测精度 B. 可利用从海量跨领域时序数据中学到的通用设备退化模式,在目标装备故障样本极少的情况下完成有效适配 C. 可以直接处理非结构化的文本维护记录,不需要额外的文本编码模块 D. 模型参数量远小于传统时序模型,部署门槛极低
展开参考答案与解析 平台答案: B
平台解析: 时序基础模型通过大规模跨场景时序预训练学习到通用的时序演化、设备退化模式,可在目标场景样本极少的情况下实现有效迁移,适配小样本剩余寿命预测需求;零样本场景无法保证绝对精度,直接处理文本是多模态大模型的能力,且时序基础模型参数量通常远大于传统轻量时序模型。
知识点: 时序基础模型(time-series foundation model)、LLM×可靠性
在金融风控领域,传统机器学习模型(如随机森林)常被用于信用评分。近年来,有团队尝试用时序基础模型(time-series foundation model)替代传统模型来处理用户的交易流水记录以预测违约风险。从ML可靠性的角度评估这种替换,最需要警惕的风险是什么? HAN-POST-8-5-03 单选题选项 A. 时序基础模型无法处理数值型数据,只能处理文本数据 B. 时序基础模型由于参数量巨大且结构复杂,其决策过程的可解释性通常低于随机森林,这在强监管的金融领域可能带来合规风险 C. 时序基础模型在预测违约时一定会比随机森林消耗更多的计算资源,导致系统崩溃 D. 随机森林模型无法处理时间序列特征,因此在金融场景中完全不适用
展开参考答案与解析 平台答案: B
平台解析: 本题考查时序基础模型与ML自身可靠性(可解释性)的综合分析。A选项错误,时序基础模型专门设计用于处理数值型时间序列;C选项“一定会导致系统崩溃”表述过于夸张,计算成本虽高但可通过工程手段缓解;D选项错误,随机森林可以通过特征工程处理时序衍生特征。B选项正确,金融风控高度强调模型的可靠性和可解释性(如拒绝贷款需给出明确理由)。随机森林能提供特征重要性等直观解释,而大规模时序基础模型通常是“黑盒”,这种可解释性的丧失是将其应用于高风险、强监管领域时面临的核心可靠性挑战。
知识点: 时序基础模型(time-series foundation model)、ML自身的可靠性(速览)
将检索增强生成(RAG)技术应用于可靠性工程场景,可以带来哪些价值? HAN-POST-8-5-04 多选题选项 A. 引入企业内部权威的故障库、运维规范作为生成依据,减少模型幻觉 B. 支持实时更新可靠性知识库,无需重新训练模型即可同步最新的运维规则 C. 可以完全替代专业可靠性工程师完成所有故障分析工作 D. 能够为大模型输出的可靠性结论提供可溯源的参考依据
展开参考答案与解析 平台答案: ABD
平台解析: RAG可辅助可靠性工程师提升工作效率,但无法完全替代专业人员的判断,C选项错误;其余三项均是RAG在可靠性场景的核心应用价值。
知识点: 检索增强生成(RAG)
时序基础模型由于在大规模跨场景时序数据上预训练,在适配新的设备可靠性预测任务时,通常比从零开始训练的小模型需要更少的标注数据。 HAN-POST-8-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 时序基础模型具备通用时序表征能力,下游任务适配时仅需少量标注数据即可达到较好效果,小样本性能优于从零训练的传统时序模型。
知识点: 时序基础模型(time-series foundation model)
可靠性机器学习实验设计中,下列哪种指标选择方式是不合理的? HAN-POST-8-6-01 单选题选项 A. 故障诊断任务除了分类精度,还需报告召回率、F1值以及不同噪声水平下的鲁棒性指标 B. 剩余寿命预测任务除了RMSE,还需报告预测结果的Score指标以及不确定性量化效果 C. 所有可靠性任务都只使用分类精度作为唯一评价指标,不考虑任务特性 D. 模型部署相关实验需要报告推理速度、内存占用等落地性指标
展开参考答案与解析 平台答案: C
平台解析: 不同可靠性任务有专属的评价指标体系,仅用精度作为唯一指标属于实验设计的典型问题,其余选项均为合理的指标选择方式。
知识点: 提案终稿:实验设计常见问题
可靠性机器学习与通用机器学习的四环技术链范式最核心的差异是下列哪一项? HAN-POST-8-6-02 单选题选项 A. 前者必须使用深度学习模型,后者可以使用传统机器学习模型 B. 前者所有环节都需要围绕可靠性任务的专属需求(如小样本、高噪声、寿命分布适配)设计,后者以通用任务精度为核心目标 C. 前者不需要做数据预处理,后者必须做数据清洗 D. 前者的实验只需要看精度指标,后者需要看多个指标
展开参考答案与解析 平台答案: B
平台解析: 可靠性机器学习的技术链全环节都需要适配可靠性领域的专属特性,这是和通用机器学习范式的核心差异,其余选项表述均存在明显错误。
知识点: 四环技术链×方法范式全景复盘
关于可靠性机器学习提案的创新点,以下说法正确的是? HAN-POST-8-6-03 单选题选项 A. 创新点越多越好,哪怕每个创新点的实际贡献都很小 B. 创新点需要紧扣可靠性场景实际需求,解决现有方法在应用中的痛点 C. 只要使用了最新发布的大模型,就一定具备显著创新性 D. 创新点不需要和现有方法做区分,只要效果好就可以
展开参考答案与解析 平台答案: B
平台解析: 创新点需紧扣可靠性场景痛点,聚焦核心贡献,并非越多越好、越新越好,需要明确和现有方法的差异与价值。
知识点: 提案终稿:创新点论证
严谨的创新点论证需要包含下列哪些核心要素? HAN-POST-8-6-04 多选题选项 A. 明确说明创新点相对于现有研究的具体差异 B. 提供定量的实验结果支撑创新点的性能优势 C. 说明创新点对可靠性任务的适配价值与实际意义 D. 使用夸大性表述突出创新的颠覆性,不需要对比现有研究
展开参考答案与解析 平台答案: ABC
平台解析: 创新点论证需要明确差异、有定量支撑、说明场景价值,夸大表述且不做对比属于不严谨的论证方式,D选项错误。
知识点: 提案终稿:创新点论证
在利用创新矩阵寻找选题机会时,如果发现某个交叉单元格已有大量高质量文献覆盖,研究者可以通过改变矩阵的划分粒度(例如将“深度学习”细化为“Transformer变体”)来重新定义矩阵,从而在原有拥挤区域中发现新的微观空白区。 HAN-POST-8-6-05 判断题选项 A. 对 B. 错
展开参考答案与解析 平台答案: 对
平台解析: 本题考查创新矩阵的动态运用与综合分析。创新矩阵的维度并非一成不变。当宏观层面饱和时,通过降维或细化颗粒度(如将宽泛的技术类别拆解为具体的子架构或超参数设定),可以重构矩阵,揭示出更深层次的未被充分探索的细分空白区,这是一种合法且常用的选题推演策略。
知识点: 创新矩阵空白区=选题机会
朱睦晨 · 课前小测 · KP8-6 · 原第 5 题 · 答案与解析 来源资料答案: 对
来源资料解析: 本题考查创新矩阵的动态运用与综合分析。创新矩阵的维度并非一成不变。当宏观层面饱和时,通过降维或细化颗粒度(如将宽泛的技术类别拆解为具体的子架构或超参数设定),可以重构矩阵,揭示出更深层次的未被充分探索的细分空白区,这是一种合法且常用的选题推演策略。
知识点: 创新矩阵空白区=选题机会
从图结构视角看,无掩码自注意力等价于在哪类图结构上进行注意力聚合? ZHU-PRE-8-1-01 单选题选项 A. 每个节点仅连接相邻位置节点的链式图 B. 任意位置节点之间都建立连接的完全图 C. 仅连接当前位置与首个位置的星形图 D. 没有任何连接的孤立节点图
展开参考答案与解析 来源资料答案: B
来源资料解析: 自注意力等价于完全图上的注意力聚合,每个时刻作为节点,任意位置之间都建立连接,连接权重由输入动态计算。
知识点: 自注意力(self-attention)
注意力机制中,查询Q、键K、值V的生成方式是() ZHU-PRE-8-1-02 单选题选项 A. 输入经三组不同的可训练线性投影矩阵映射得到 B. 是输入序列的直接复制,不需要任何投影变换 C. 完全由位置编码直接生成,与输入内容无关 D. 由多头注意力的输出投影反向计算得到
展开参考答案与解析 来源资料答案: A
来源资料解析: 输入经三组线性投影分别得到Q、K、V,对应的投影矩阵由训练学习得到,序列所有位置共用同一套投影矩阵,并非输入的直接复制。
知识点: 查询Q(Query);键K(Key);值V(Value)
下列属于缩放点积注意力核心计算步骤的有? ZHU-PRE-8-1-03 多选题选项 A. 计算查询Q与键K的点积得到匹配分数 B. 将点积分数除以\sqrt{d_k} 进行缩放 C. 对缩放后的分数添加掩码(若有)后经softmax归一化得到注意力权重 D. 用归一化后的权重对值V进行加权求和得到输出
展开参考答案与解析 来源资料答案: ABCD
来源资料解析: 缩放点积注意力遵循“评分-缩放-掩码-归一化-加权求和”的计算流程,四个选项均为其核心计算步骤。
知识点: 注意力权重计算(缩放点积)
下列要素中,属于缩放点积注意力计算组成部分的有() ZHU-PRE-8-1-04 多选题选项 A. 查询矩阵Q B. 键矩阵K C. 值矩阵V D. 掩码矩阵M
展开参考答案与解析 来源资料答案: ABCD
来源资料解析: 缩放点积注意力公式为\text{Attn}(Q,K,V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}+M\right)V ,包含查询Q、键K、值V以及可广播的掩码矩阵M,可实现填充屏蔽、因果屏蔽等功能。
知识点: 查询Q(Query);键K(Key);值V(Value);注意力权重计算(缩放点积)
自注意力本身具有天然的顺序感知能力,不加入位置编码也能区分不同排列的同一组序列元素。 ZHU-PRE-8-1-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 没有位置表示时,自注意力对输入位置置换等变,无法区分序列顺序,必须引入位置编码等位置表示方法。
知识点: 位置编码(positional encoding)
缩放点积注意力中,如果掩码设置错误导致未来位置未被屏蔽,会造成信息泄漏,即使模型正常收敛也可能存在效果问题。 ZHU-PRE-8-1-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 掩码方向或广播维度错误会造成信息泄漏,模型仍可能正常收敛,但会影响实际效果。
知识点: 注意力权重计算(缩放点积)
下列关于Transformer编码器与解码器结构差异的描述,正确的是? ZHU-PRE-8-2-01 单选题选项 A. 编码器中存在交叉注意力子层,解码器中不存在交叉注意力子层 B. 编码器的自注意力层无因果掩码,解码器的第一层自注意力带有因果掩码以屏蔽未来信息 C. 编码器不含FFN层,解码器每个子层后都配有FFN层 D. 编码器使用Pre-LN结构,解码器使用Post-LN结构
展开参考答案与解析 来源资料答案: B
来源资料解析: 编码器无因果掩码可实现双向注意力,解码器第一层自注意力带因果掩码;交叉注意力仅存在于解码器中,编码器和解码器都包含FFN层,LN结构可根据设计选择,不是二者固有结构差异。
知识点: 编码器(encoder)结构;解码器(decoder)结构
在剩余使用寿命(RUL)预测的Seq2Seq可靠性建模任务中,若误将Transformer解码器的掩码多头自注意力层替换为编码器所用的普通多头自注意力层,会直接导致以下哪种问题? ZHU-PRE-8-2-02 单选题选项 A. 训练阶段可以观测到未来时刻的退化特征,引发标签泄露,模型泛化能力严重下降 B. 模型无法接收编码器输出的交叉注意力信息,完全无法提取输入序列特征 C. 前馈网络层计算量翻倍,推理速度下降50% D. 层归一化失效,训练过程出现梯度消失
展开参考答案与解析 来源资料答案: A
来源资料解析: 解码器掩码自注意力的核心作用是通过上三角掩码屏蔽未来位置信息,替换为普通自注意力后未来信息会泄露,引发标签泄露问题;交叉注意力层为独立结构,不会因此直接失效。
知识点: 编码器(encoder)结构;解码器(decoder)结构
下列关于标准Transformer长序列瓶颈的描述,正确的有? ZHU-PRE-8-2-03 多选题选项 A. 瓶颈根源来自自注意力计算的O(n^2) 时间与空间复杂度 B. 序列长度越长,自注意力计算的显存占用增长越快 C. 长序列瓶颈会限制Transformer在长周期设备可靠性监测场景的应用 D. 层归一化是造成长序列瓶颈的核心原因
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 长序列瓶颈的核心来源是自注意力的二次方复杂度,随序列长度增长计算和显存开销激增,限制了其在长时序可靠性监测等场景的应用;层归一化的复杂度是线性的,不是瓶颈来源。
知识点: 计算复杂度(二次方);长序列瓶颈
将ViT分块思想应用于工业设备可靠性诊断任务时,下列说法正确的有? ZHU-PRE-8-2-04 多选题选项 A. patch尺寸过大可能丢失局部细微故障特征,降低诊断准确率 B. patch尺寸过小会导致输出序列长度过长,增大注意力的计算开销 C. 分块后需要为每个patch添加位置编码,保留输入的空间/时序位置信息 D. 切分得到的patch块可以直接送入FFN层,不需要做线性嵌入映射
展开参考答案与解析 来源资料答案: ABC
来源资料解析: ViT中切分得到的patch需要先经过线性嵌入映射到模型指定的隐藏层维度,才能送入Transformer结构,因此D选项错误。
知识点: ViT分块(patch)思想;计算复杂度(二次方)
ViT模型中的Patch分块操作,本质上是将二维图像数据转换为类似自然语言序列的token序列,以适配Transformer的序列建模结构。 ZHU-PRE-8-2-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: ViT通过分块将图像转换为Patch token序列,和NLP中的词token结构对齐,从而可以复用Transformer的序列建模能力。
知识点: ViT分块(patch)思想
Transformer的编码器结构中包含掩码自注意力层,用于训练时防止未来信息泄露。 ZHU-PRE-8-2-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 掩码自注意力层是解码器自回归结构特有的组件,编码器中不存在掩码设计,可全局关注所有输入token。
知识点: 编码器(encoder)结构;解码器(decoder)结构
某工程师试图将一个在“消费电子产品客服对话”语料(源域)上预训练的GPT模型,直接微调用于“核电站反应堆控制指令生成”(目标域)。由于两个领域的词汇分布、安全约束和逻辑严密性要求存在本质差异,微调后模型频繁生成危险指令。从预训练—微调范式的角度分析,最根本的原因是? ZHU-PRE-8-3-01 单选题选项 A. GPT模型不支持微调操作,只能用于零样本推理 B. 源域与目标域的数据分布差异过大,导致了严重的负迁移 C. 消费电子语料的数据量小于核电语料的数据量 D. 解码器架构无法处理包含专业术语的文本序列
展开参考答案与解析 来源资料答案: B
来源资料解析: 预训练-微调范式的成功前提是源域和目标域之间存在一定的共性,使得参数迁移能够带来增益。当源域(日常客服对话)与目标域(高安全性要求的核电控制指令)在分布、逻辑和安全约束上存在巨大鸿沟时,预训练模型学到的语言模式不仅无益反而有害,引发负迁移。选项A和D是对GPT架构的错误认知;选项C的数据量大小不是导致生成危险指令的根本原因。
知识点: 预训练—微调的迁移学习本质
在将预训练的Transformer模型微调应用于工业文本处理时,针对不同的下游任务,需要选择不同的任务头(Task Head)和参数更新策略。以下搭配合理的有哪些? ZHU-PRE-8-3-03 多选题选项 A. 任务:判断整篇维修报告的情感倾向(正面/负面);策略:使用 `[CLS]` 词元的输出接入整句分类头 B. 任务:提取报警日志中的具体故障部件名称(序列标注);策略:使用每个词元的输出接入逐词元任务头 C. 任务:目标域仅有20条标注数据;策略:解冻所有Transformer层并以较大学习率进行端到端训练 D. 任务:目标域有十万条标注数据且与源域分布相近;策略:解冻大部分或全部预训练层进行全量微调
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 选项A正确,情感分类是序列级任务,适合用整句分类头;选项B正确,命名实体提取是词元级任务,适合用逐词元任务头;选项D正确,数据量大且分布相近时,全量微调能充分发挥模型容量。选项C错误,在仅有20条数据的情况下解冻所有层并用大学习率训练,必然导致严重的过拟合和灾难性遗忘,应采用冻结底层或使用小学习率的策略。
知识点: 预训练—微调的迁移学习本质
下列关于自监督信号、伪标签、人工标签的说法,错误的有() ZHU-PRE-8-3-04 多选题选项 A. 自监督学习的监督信号由原始数据自动构造,不需要人工类别标签参与 B. 伪标签的监督信号是从原始数据中直接生成的,不需要已有模型参与预测 C. 自监督学习可以完全替代人工标注,不需要关注目标域的数据质量和测试集标签 D. 伪标签和自监督信号本质相同,都完全不需要人工参与标签生成过程
展开参考答案与解析 来源资料答案: BCD
来源资料解析: A选项表述正确;伪标签来自已有模型的预测,并非直接从原始数据生成,与自监督信号本质不同;自监督仅降低人工标签依赖,不能替代目标域数据质量管控与测试验证,因此BCD为错误表述。
知识点: 预训练—微调的迁移学习本质
自监督学习的监督信号需要大量人工标注才能构造,无法从数据本身自动生成。 ZHU-PRE-8-3-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 自监督学习的监督信号由数据本身自动构造,无需人工标注,可充分利用大规模无标注数据进行训练。
知识点: BERT类掩码语言模型(MLM);GPT类自回归模型(AR)
预训练-微调范式属于参数迁移的一种,预训练得到的权重可作为下游任务的初始化参数。 ZHU-PRE-8-3-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 预训练-微调是典型的参数迁移范式,预训练学到的通用表示通过参数初始化的方式迁移到下游任务。
知识点: 预训练—微调的迁移学习本质
以下关于大语言模型缩放定律适用边界的描述,正确的是? ZHU-PRE-8-4-01 单选题选项 A. 只要无限增加参数量、数据量和计算量,模型性能就会一直线性提升 B. 缩放定律的成立前提是训练数据质量达标、模型结构与训练流程合理,且未达到性能饱和区 C. 缩放定律仅适用于参数量小于1B的小模型 D. 缩放定律与训练数据质量无关,仅由参数量决定性能
展开参考答案与解析 来源资料答案: B
来源资料解析: 缩放定律并非无限生效,其成立依赖合格的数据质量、合理的模型与训练设计,当要素投入到一定程度后性能会进入饱和区,无法持续线性提升。
知识点: 缩放定律(scaling law)
下列关于指令微调核心阶段(SFT,有监督微调)的数据形式与训练目标,说法正确的是? ZHU-PRE-8-4-02 单选题选项 A. SFT数据与预训练数据形式完全一致,仅需要大规模无标注通用文本即可完成训练 B. SFT数据通常由“指令-输入-输出”的配对样本构成,目标是教会模型遵循指令生成符合要求的回复 C. SFT阶段不需要任何领域相关数据,仅用通用指令数据即可完成所有场景的领域适配 D. SFT训练完成后模型就已经完全与人类偏好对齐,不需要后续的对齐步骤
展开参考答案与解析 来源资料答案: B
来源资料解析: SFT是监督训练范式,需要指令-回复配对数据,与无标注的预训练数据有本质区别;SFT仅能让模型获得基础指令遵循能力,后续仍需偏好对齐,领域适配通常需要加入领域指令数据。
知识点: 指令微调(instruction tuning)
某团队计划使用 RLHF 对其 SFT 后的医疗大模型进行对齐。在构建偏好数据集时,他们需要收集针对同一指令的多个回复并进行排序。关于此过程及 PPO 的作用,下列说法正确的有哪些? ZHU-PRE-8-4-03 多选题选项 A. 偏好数据的形式通常为 (x, y_w, y_l) ,其中 y_w 是被认为优于 y_l 的回复 B. 奖励模型(Reward Model)的训练目标是学习人类对回复质量的偏好排序 C. PPO 算法在更新策略模型时,会引入 KL 散度惩罚项以防止模型过度偏离 SFT 初始策略 D. PPO 训练过程中,奖励模型会被同步更新以适应策略模型的变化
展开参考答案与解析 来源资料答案: ABC
来源资料解析: A 正确,这是标准的偏好数据格式;B 正确,奖励模型通过 Bradley-Terry 等模型拟合偏好排序;C 正确,KL 惩罚项是 PPO在 RLHF 中防止 reward hacking和灾难性遗忘的关键设计;D错误,标准 RLHF 流程中,奖励模型在 PPO 训练前已训练完毕并冻结,不会在 PPO 过程中同步更新。
知识点: RLHF对齐(呼应KP6-3)
朱睦晨 · 课后小测 · KP8-4 · 原第 4 题 · 答案与解析 来源资料答案: ABC
来源资料解析: A 正确,这是标准的偏好数据格式;B 正确,奖励模型通过 Bradley-Terry 等模型拟合偏好排序;C 正确,KL 惩罚项是 PPO在 RLHF 中防止 reward hacking和灾难性遗忘的关键设计;D错误,标准 RLHF 流程中,奖励模型在 PPO 训练前已训练完毕并冻结,不会在 PPO 过程中同步更新。
知识点: RLHF对齐(呼应KP6-3)
下列关于预训练、SFT(指令微调)、RLHF三个阶段的数据形式与训练目标,说法正确的有哪些? ZHU-PRE-8-4-04 多选题选项 A. 预训练阶段使用大规模无标注纯文本数据,训练目标是预测下一个词元,获得基础语言建模能力 B. SFT阶段使用“指令-输出”的配对标注数据,训练目标是让模型学会遵循指令生成对应回复 C. RLHF阶段的奖励模型训练需要使用人类对不同模型输出的偏好排序标注数据 D. PPO强化学习阶段不需要任何约束,可以任意调整模型参数让输出获得最高奖励分数,不需要考虑与原模型的偏差
展开参考答案与解析 来源资料答案: ABC
来源资料解析: PPO训练阶段会加入KL散度惩罚,约束模型输出分布与SFT模型的偏差不会过大,避免模型为了追求高奖励生成无意义内容;其余选项均符合三个阶段的核心特征。
知识点: 指令微调(instruction tuning);RLHF对齐(呼应KP6-3)
涌现能力是指大语言模型在经过指令微调(Instruction Tuning)后,突然具备了在预训练阶段未曾见过的全新知识。 ZHU-PRE-8-4-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 涌现能力主要指在预训练阶段,随着模型规模(参数量、数据量、计算量)的增加,模型在特定任务上的性能发生非连续的突变式提升。它是预训练规模扩大的产物,而非指令微调带来的新知识。指令微调的作用是激发和对齐这些已有能力,而非创造涌现本身。
知识点: 涌现能力(emergence);指令微调(instruction tuning)
大语言模型的涌现能力指的是模型经过指令微调后突然获得遵循人类指令的能力,与模型规模大小没有关联。 ZHU-PRE-8-4-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 涌现能力的核心前提是模型规模突破特定阈值,与规模高度相关,小模型即使经过指令微调也无法获得大规模模型的涌现能力。
知识点: 涌现能力(emergence)
某企业希望利用大语言模型为其内部员工提供基于最新公司规章制度的问答服务。这些规章制度每月更新,且回答必须严格依据最新文档,不能出现虚构内容。在综合考虑部署成本与回答可靠性的前提下,以下哪种技术方案最为合适? ZHU-PRE-8-5-01 单选题选项 A. 将所有历史版本的规章制度作为提示词的一部分,通过提示工程(prompt engineering)要求模型仅使用最新信息作答 B. 采用检索增强生成(RAG),将最新规章制度存入外部知识库,每次查询时检索相关片段作为上下文输入模型 C. 使用上下文学习(in-context learning),在提示中给出几个基于旧规章的问答示例,引导模型模仿格式输出 D. 对基础大语言模型进行全量参数微调,将最新规章制度融入模型权重中以提升其内在知识准确性
展开参考答案与解析 来源资料答案: B
来源资料解析: 本题考查RAG与提示工程、上下文学习及微调在具体场景下的适用性辨析。公司规章制度每月更新且要求严格准确,A选项将所有历史版本放入提示词会导致上下文窗口溢出且容易引发模型混淆新旧信息;C选项的上下文学习无法保证模型掌握未在示例中体现的最新规则;D选项的全量微调成本高且难以应对每月频繁更新,同时存在灾难性遗忘风险。B选项的RAG技术通过外挂知识库解耦了知识存储与模型推理,只需更新知识库即可获取最新信息,且检索到的具体片段能有效降低幻觉,兼顾了成本与可靠性。
知识点: 提示工程(prompt engineering);上下文学习(in-context learning);检索增强生成(RAG);LLM×可靠性
在可靠性领域的量化风险评估任务中,需要模型输出精确的数值化风险值同时给出严谨推导逻辑,下列哪种思维链变体的适配性最优? ZHU-PRE-8-5-02 单选题选项 A. 零样本思维链,仅在提示末尾添加“请一步一步思考”的引导语 B. 少样本思维链,提供3个带文字推导过程的风险评估示例 C. 程序辅助思维链,引导模型编写可执行的计算代码完成量化计算,同时输出推导逻辑 D. 自一致性思维链,多次采样推理结果后选择出现频率最高的答案
展开参考答案与解析 来源资料答案: C
来源资料解析: 量化风险评估涉及大量数值计算,程序辅助思维链通过生成可执行代码完成计算,可大幅提升量化结果的准确性,适配数值类可靠性评估需求;其余思维链变体在数值计算准确性上均弱于程序辅助思维链。
知识点: 思维链(chain-of-thought);LLM×可靠性
下列属于机器学习自身可靠性核心研究维度的有? ZHU-PRE-8-5-04 多选题选项 A. 模型面对分布外输入、对抗扰动时的鲁棒性 B. 模型训练数据存在样本偏差导致的系统性预测偏差、公平性问题 C. 模型部署阶段的硬件算力压缩与推理速度优化 D. 高风险可靠性场景下模型决策逻辑的可解释性与输出结果的可复现性
展开参考答案与解析 来源资料答案: ABD
来源资料解析: ML自身可靠性核心关注模型本身的鲁棒性、公平性、可解释性、可复现性、安全性等固有属性;算力与速度优化属于性能优化范畴,不属于可靠性研究维度。
知识点: ML自身的可靠性(速览)
在提示工程中,针对同一个复杂逻辑问题,仅提供最终答案的“标准提示”与提供详细推理步骤的“思维链提示”相比,后者通常能促使模型展现出更高的推理可靠性,尤其是在涉及多步数学计算的场景中。 ZHU-PRE-8-5-05 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 本题考查思维链相对于标准提示的优势。大量实证研究(如Wei et al., 2022)表明,对于需要多步推理的复杂任务(如算术、常识推理、符号操作),标准提示要求模型直接跨越巨大的计算鸿沟,极易出错;而思维链提示通过展示中间推理步骤,引导模型将大问题拆解为小问题,显著提高了最终答案的准确率和推理过程的可靠性。该说法正确。
知识点: 提示工程(prompt engineering);思维链(chain-of-thought)
使用上下文学习让大模型适配企业内部的可靠性评估规则时,必须对大模型进行全参数微调才能生效。 ZHU-PRE-8-5-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 错
来源资料解析: 上下文学习的核心特性就是无需更新模型参数,仅通过提示内的示例、规则说明即可让模型遵循指定要求完成任务。
知识点: 上下文学习(in-context learning)
可靠性机器学习实验设计中,下列哪种做法会导致实验结论缺乏可信度? ZHU-PRE-8-6-01 单选题选项 A. 采用多个跨场景的工业真实数据集开展验证,设置多组消融实验 B. 测试集与训练集存在随机泄露,且仅用单一合成数据集验证性能 C. 选取领域内公认的SOTA方法作为对比基线 D. 对实验结果做多次重复取平均值,报告结果的置信区间
展开参考答案与解析 来源资料答案: B
来源资料解析: 数据泄露、仅用合成数据集验证属于实验设计的典型问题,会导致结论不可信,其余选项均为规范的实验设计做法。
知识点: 提案终稿:实验设计常见问题
可靠性机器学习四环技术链从问题适配到落地验证的核心范式链路是下列哪一项? ZHU-PRE-8-6-02 单选题选项 A. 故障特征提取-数据采集清洗-可靠性建模-剩余寿命预测 B. 数据全链路治理-特征工程适配-可靠性专属模型构建-全场景泛化验证 C. 公开数据集下载-通用模型微调-精度指标计算-论文撰写 D. 故障机理分析-传感器选型-硬件部署-运维迭代
展开参考答案与解析 来源资料答案: B
来源资料解析: 可靠性机器学习四环技术链核心是覆盖适配领域特性的全流程方法范式,B选项为正确链路,其余选项要么环节顺序错误,要么属于通用机器学习或硬件落地流程,不符合可靠性专属方法范式逻辑。
知识点: 四环技术链×方法范式全景复盘
某研究者构建了“干预手段(药物/心理/运动)”与“目标人群(青少年/中年/老年)”的抑郁症治疗创新矩阵。发现“运动×老年”单元格文献极少。为了科学地将此空白区转化为研究提案的选题,研究者需要进行以下哪些综合分析步骤? ZHU-PRE-8-6-03 多选题选项 A. 调研老年人生理机能特点,分析运动干预在该人群中实施的潜在风险与依从性障碍 B. 检查是否存在相近概念的文献(如“体力活动”替代“运动”),确认该空白是否为检索词偏差导致的假象 C. 结合老年人抑郁的病理机制,推演运动干预可能起效的生理学或心理学通路 D. 直接跳过可行性分析,因为只要矩阵中是空白就代表具有最高优先级的创新价值
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 本题考查将创新矩阵空白区转化为选题的多步推理过程。空白区只是起点,必须经过严格论证。A项评估了实施的现实约束(依从性、风险);B项排除了由于术语差异导致的“伪空白”;C项为选题提供了理论支撑和机制假设,确保研究有科学价值。D项是典型的学术误区,空白可能是因为不可行或无意义,必须经过可行性与价值论证才能确立选题。
知识点: 创新矩阵空白区=选题机会
以下哪些属于可靠性机器学习提案实验设计中的常见问题? ZHU-PRE-8-6-04 多选题选项 A. 训练集与测试集划分不规范,存在数据泄露问题 B. 仅汇报最优结果,不汇报结果的均值与方差,无法体现方法稳定性 C. 缺少和领域内主流基准方法的对比实验,无法说明方法优越性 D. 设置消融实验验证各个模块的独立贡献
展开参考答案与解析 来源资料答案: ABC
来源资料解析: 设置消融实验是规范的实验设计,其余三个选项均为可靠性机器学习实验设计中高频出现的不规范问题。
知识点: 提案终稿:实验设计常见问题
可靠性机器学习实验设计中,为了贴近工业现场实际情况,需要在实验中加入不同强度的噪声干扰,测试模型的鲁棒性。 ZHU-PRE-8-6-06 判断题选项 A. 对 B. 错
展开参考答案与解析 来源资料答案: 对
来源资料解析: 工业现场采集的监测数据普遍存在噪声干扰,加入噪声鲁棒性测试是符合实际需求的规范实验设计。
知识点: 提案终稿:实验设计常见问题
如果自注意力模型不加入任何位置表示,会出现的问题是( ) 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-1-01 单选题选项 A. 模型无法处理变长序列输入 B. 自注意力对输入位置置换等变,无法区分序列顺序 C. 模型计算复杂度会随序列长度平方增长 D. 无法实现多个位置的信息聚合
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
如果不引入位置编码等位置表示机制,自注意力模型的特性是( ) 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-1-02 单选题选项 A. 对输入位置置换等变,无法区分序列顺序 B. 完全无法处理长度超过训练集的序列 C. 计算复杂度会随序列长度指数上升 D. 不能实现批次并行计算
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
从图结构视角看,无掩码自注意力等价于在哪类图结构上进行注意力聚合? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-1-03 单选题选项 A. 每个节点仅连接相邻位置节点的链式图 B. 任意位置节点之间都建立连接的完全图 C. 仅连接当前位置与首个位置的星形图 D. 没有任何连接的孤立节点图
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
在无掩码自注意力中,某个位置生成新的上下文表示时,只能聚合该位置之前的历史位置信息,不能包含当前位置自身的信息。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-1-04 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
缩放点积注意力计算中,除以\sqrt{d_k} 的主要作用是避免点积方差随键维度d_k 增大而增大,稳定训练过程。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-1-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
若使用ViT处理尺寸为224×224的设备红外热成像图开展可靠性缺陷识别,设置patch尺寸为16×16,则分块后得到的patch序列长度为? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-2-01 单选题选项 A. 196 B. 256 C. 14 D. 224
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于Transformer编码器与解码器结构差异的描述,正确的是? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-2-02 单选题选项 A. 编码器中存在交叉注意力子层,解码器中不存在交叉注意力子层 B. 编码器的自注意力层无因果掩码,解码器的第一层自注意力带有因果掩码以屏蔽未来信息 C. 编码器不含FFN层,解码器每个子层后都配有FFN层 D. 编码器使用Pre-LN结构,解码器使用Post-LN结构
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于标准Transformer长序列瓶颈的描述,正确的有? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-2-03 多选题选项 A. 瓶颈根源来自自注意力计算的O(n^2) 时间与空间复杂度 B. 序列长度越长,自注意力计算的显存占用增长越快 C. 长序列瓶颈会限制Transformer在长周期设备可靠性监测场景的应用 D. 层归一化是造成长序列瓶颈的核心原因
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
在可靠性机器学习的Transformer模型训练与部署中,层归一化的实践价值包括? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-2-04 多选题选项 A. 缓解深层网络训练中的梯度消失、梯度爆炸问题 B. 对齐特征分布,加速模型训练收敛速度 C. 从根本上消除自注意力的二次方计算复杂度,解决长序列瓶颈 D. 提升模型对输入噪声扰动的鲁棒性,助力可靠性泛化性能提升
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
ViT将图像分割为固定大小patch的核心目的之一,是将二维图像转换为类似自然语言token的序列形式,适配Transformer的序列输入要求。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-2-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列选项中,不属于三类常见自监督任务的是( ) 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-3-01 单选题选项 A. 遮挡部分输入,根据剩余上下文重构被遮挡的内容 B. 根据历史序列信息,预测下一个词元或下一时间窗的内容 C. 使用人工标注的故障类别标签,训练端到端故障分类器 D. 通过对比损失,让同一样本不同增强视图的表示接近、不同样本的表示分离
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于自监督学习相关概念的说法,正确的是( ) 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-3-02 单选题选项 A. 自监督学习的监督信号来自已有训练模型的预测结果,不需要人工参与标注 B. 伪标签是从原始数据中自动构造生成的,不需要依赖已有模型输出 C. 可靠性场景中应用自监督学习可以完全替代人工标注的测试集验证环节 D. 掩码建模通常仅针对被遮挡部分计算重构目标,与普通自编码器重构完整输入的目标存在差异
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
某工厂计划开发一个基于历史维修记录自动生成故障诊断报告的系统。在基础架构选择上,最合适的预训练模型类型及其原因是: 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-3-03 单选题选项 A. BERT类模型,因为其双向上下文能更准确地理解长文本中的部件关联关系 B. GPT类模型,因为其自回归目标与逐字生成报告的推理过程天然一致 C. BERT类模型,因为掩码重构任务自动构造的监督信号更适合生成长文本 D. GPT类模型,因为其因果掩码允许在生成当前词时同时参考未来的上下文
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
关于预训练模型在下游任务中的微调过程,以下说法正确的有: 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-3-04 多选题选项 A. 微调的本质是将预训练阶段学到的通用参数作为初始点,在下游任务的少量带标签数据上进行梯度更新 B. 为了保证效果,微调时的学习率通常应设置得比从头预训练时更大,以便快速跳出局部最优 C. 源域(预训练数据)与目标域(微调数据)的相似度越高,预训练权重带来的正向迁移收益通常越明显 D. 评估微调效果时,只需关注模型在训练集上的损失是否下降,无需设立独立的验证集
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列关于微调策略选择的说法,正确的有( ) 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-3-05 多选题选项 A. 目标域标注极少时,可先冻结编码器仅训练任务头,通过线性探针检验预训练表示质量 B. 目标域标注量增加后,可采用逐层解冻的方式微调,同时监控验证集性能变化 C. 目标域标注充足时可开展全量微调,但仍需配合正则化与早停策略防止过拟合 D. 无论采用哪种微调方式,超参数选择都必须在验证集完成,测试集仅用于最终一次性能评价
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
大语言模型缩放定律(Scaling Law)的核心三要素不包含以下哪一项? ZHU-POST-8-4-01 单选题选项 A. 模型参数量 B. 训练数据量 C. 训练计算量 D. 模型部署的硬件数量
展开参考答案与解析 来源资料答案: D
来源资料解析: 缩放定律核心三要素为模型参数量、训练数据规模、训练计算量,描述模型性能随三要素规模化的幂律变化规律,部署硬件数不属于核心三要素。
知识点: 缩放定律(scaling law)
BPE(字节对编码)作为常用的词元化算法,其核心合并逻辑是? ZHU-POST-8-4-03 单选题选项 A. 优先合并语料中出现频率最高的相邻字节/字符对 B. 优先合并长度最长的词语 C. 按照词性顺序依次合并语素 D. 随机选择相邻字符对进行合并
展开参考答案与解析 来源资料答案: A
来源资料解析: BPE算法从最小字符单元开始,迭代合并训练语料中出现频次最高的相邻字节对,最终得到词元表。
知识点: 词元化(tokenization)
以下关于大语言模型缩放规律与涌现能力的关系描述,正确的有? ZHU-POST-8-4-05 多选题选项 A. 缩放定律描述了规模增长和性能提升的可预测趋势 B. 涌现能力通常是规模增长到一定阈值后出现的、相对于小模型外推不可预测的能力 C. 只要模型参数量足够大,不需要任何训练数据也能获得涌现能力 D. 缩放定律的成立是涌现能力出现的重要基础
展开参考答案与解析 来源资料答案: ABD
来源资料解析: 规模三要素的匹配增长是模型性能提升的基础,涌现能力是规模突破阈值后的典型现象,模型能力必须通过数据训练获得,无数据无法产生能力。
知识点: 缩放定律(scaling law);涌现能力(emergence)
在可靠性分析场景中,以下属于有效提示工程实践的有? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-5-01 多选题选项 A. 明确告知模型需要遵循的可靠性分析标准编号与核心要求 B. 明确指定输出的格式(如故障树结构、风险等级字段) C. 尽可能模糊任务要求,给模型最大的自由发挥空间 D. 对复杂任务进行拆解,分步骤引导模型完成分析
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
大语言模型的上下文学习能力需要通过微调更新模型参数才能实现。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-5-02 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
检索增强生成(RAG)技术通过将外部知识作为上下文提供给大语言模型,能够从根本上彻底消除大语言模型产生“幻觉(Hallucination)”的可能性。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-5-03 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
使用上下文学习让大模型适配企业内部的可靠性评估规则时,必须对大模型进行全参数微调才能生效。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-5-04 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
时序基础模型由于是在大规模通用时序数据上预训练得到的,完全无法适配特定行业设备的可靠性监测任务,必须从零开始单独训练。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-5-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
下列哪种写法属于可靠性机器学习提案综述部分的典型错误? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-6-01 单选题选项 A. 按照“可靠性问题演进-机器学习方法适配脉络-现有研究局限”的逻辑组织内容 B. 对不同流派的方法做分类梳理,客观评述其优劣势 C. 简单堆砌文献列表,不对文献做分类梳理和评述,也不提炼研究缺口 D. 客观指出现有研究在工业场景落地中存在的共性瓶颈
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
撰写可靠性机器学习方向的研究提案综述部分时,以下做法正确的是( )。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-6-02 单选题选项 A. 只罗列已发表文献的观点,不做梳理分类 B. 刻意贬低已有研究的价值以突出自身提案的优势 C. 按照技术演进脉络梳理现有研究,明确指出当前研究缺口 D. 大量引用与研究主题无关的高影响力文献凑字数
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
在四环技术链的“模型构建与训练”环节,可靠性场景相较于通用机器学习场景最特殊的需求是? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-6-03 单选题选项 A. 追求最高的预测准确率即可 B. 需要考虑小样本、数据不平衡、失效样本稀缺等可靠性特有数据特性 C. 必须使用Transformer类大模型结构 D. 无需考虑模型的可解释性
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
撰写可靠性机器学习研究提案的综述部分时,需要避免的常见问题有哪些? 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-6-04 多选题选项 A. 文献梳理缺乏逻辑脉络,简单堆砌文献 B. 刻意回避与本研究方案相关的已有研究成果 C. 对现有研究的不足分析空泛,未聚焦到具体问题 D. 按技术路径分类梳理相关研究并明确研究缺口
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
创新矩阵中识别出的所有方法-场景交叉空白区都具备同等的学术价值与应用价值,均可作为优质选题。 原资料未提供答案。可自行练习,本题不参与自动评分。
ZHU-POST-8-6-05 判断题选项 A. 对 B. 错
查看无答案说明与来源 来源资料答案: 未提供答案
原资料记载:平台未显示(该小测尚未提交)。本题保留题干与选项,不代填答案,不计入自动评分。
超星小测按账号资料、课前/课后、KP 小节、原题号及原文件逐项标明来源;内容和答案按所下载资料保留,未替无答案题生成答案。相同题目可能有多条来源及不同解析,均可展开查看。多选题全部选对才计分;无答案题及已标记歧义题不计分。HTML与公式可单文件离线使用,回查来源文件需保留资料文件夹。原 v3 和原始资料未修改。
公式排版组件与许可 本文件内嵌 KaTeX 0.19.1 及所需字体,用于离线公式排版。KaTeX 官方说明
The MIT License (MIT)
Copyright (c) 2013-2020 Khan Academy and other contributors
Permission is hereby granted, free of charge, to any person obtaining a copy
of this software and associated documentation files (the "Software"), to deal
in the Software without restriction, including without limitation the rights
to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
copies of the Software, and to permit persons to whom the Software is
furnished to do so, subject to the following conditions:
The above copyright notice and this permission notice shall be included in all
copies or substantial portions of the Software.
THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
SOFTWARE.