echo's Blog

神经网络中偶然不确定性和认知不确定性

一、不确定性的定义及重要性 在神经网络中,不确定性指模型对预测结果的置信程度,反映了模型对输入数据的未知性或不可预测性。不确定性估计在以下场景中至关重要: • 安全关键系统(如自动驾驶、医疗诊断) • 主动学习(选择信息量最大的样本进行标注) • 对抗样本检测(识别异常输入) • 模型可靠性评估(防

Administrator 发布于 2025-03-31

重参数化技巧(Reparameterization Trick)

1. 问题背景 在生成模型(如VAE)中,潜在变量 z 通常从参数化分布(如高斯分布 z \sim \mathcal{N}(\mu, \sigma^2) )中采样。直接采样会导致梯度无法通过随机节点回传,因为**采样操作本身不可导**。 核心目标: 使分布参数(如均值\mu 和方差\sigma^2)

Administrator 发布于 2025-03-31