仅给定由具有未知先验信息的高斯噪声扰动的二进制信号的观察,我如何估计最佳决策阈值?
(不,这不是作业问题)
具体来说,我正在考虑以下模型:是一个两态随机变量:
参数未知:.
如果我知道这些参数,则可以从这些参数中计算出最大后验对数似然阈值。本来想的是如何先估计参数才能达到阈值. 但我认为直接估计可能更稳健.
思考:对观测值进行归一化(减去样本均值并除以标准差)将参数空间缩小为 2 个维度:和.
仅给定由具有未知先验信息的高斯噪声扰动的二进制信号的观察,我如何估计最佳决策阈值?
(不,这不是作业问题)
具体来说,我正在考虑以下模型:是一个两态随机变量:
参数未知:.
如果我知道这些参数,则可以从这些参数中计算出最大后验对数似然阈值。本来想的是如何先估计参数才能达到阈值. 但我认为直接估计可能更稳健.
思考:对观测值进行归一化(减去样本均值并除以标准差)将参数空间缩小为 2 个维度:和.
我的直觉是,很难得出您期望找到的正确决策阈值:
根据您正在考虑的全球统计数据(样本平均值:; 标准偏差:更复杂的表达式,但我怀疑它会涉及日志)。
我会这样解决问题:
如果假设小可以制作
我提到这一点,因为请记住,决策阈值受除非足够高以允许两个类重叠。如果s 相距不止几个,类先验概率在决策过程中无话可说!
如果没有关于可以制作
总而言之,您有两个具有未知参数的分布和一个可能源自任一随机过程的测量。这通常被称为数据关联问题,并且在跟踪社区中非常普遍且被广泛研究。您可以考虑使用概率数据关联过滤器 (PDAF) 或多假设跟踪 (MHT) 算法。这应该为您提供每个分布的均值和方差的估计值。
或者,由于您的噪声是白噪声和高斯噪声,因此 ML、MAP 和 MMSE 都是等效的,并且可以通过最小化均方误差(成本函数)来找到,正如前面的响应所有效描述的那样。我会使用动态编程方法来找到成本函数的最小值。这应该比前面描述的 EM/聚类方法更简单(在计算上)。还有一点评论:PDAF 是递归的。鉴于简单的信号模型,它应该非常有效地工作,并且我期望它只是 EM 算法计算复杂度的一小部分。祝你好运,-B
1980 年代中期,Kittler 和 Illingworth 提出了一种算法,称为“最小误差阈值”,可以解决高斯分布的这个问题。最近 Mike Titterington(格拉斯哥大学)和 JH Xue(现就职于伦敦大学学院)已将其置于更正式的统计框架中,请参阅他们的联合期刊出版物。