贝叶斯神经网络的极小极大性与可容许性

研究者分析了正态位置模型、二次损失下深层全连接 ReLU 贝叶斯神经网络（BNN）的决策规则，发现固定先验尺度对应的 Bayes 决策规则并非极小极大。对先验有效输出方差设置超先验，可得到边际密度为超调和平方根的决策规则，使其同时可容许且极小极大。研究还将结果扩展至 Kullback–Leibler 损失下的预测密度估计，并通过模拟验证。