假设我们有一个似然函数
所以第三个参数依赖于以使得它们不能分开。例如,假设
对于一些未知函数。由于我们无法合理地估计,因此我们希望将积分替换为单个参数来估计。不幸的是,由于积分对的依赖性,我们无法得出最大似然估计。
我有两个问题:
是否有任何众所周知的程序来克服这种情况?
如果我们只是“忽略”的依赖,会发生什么?所以我们改为考虑函数
并从中得出最大似然估计?他们还会保持一致吗?这种情况能说什么“好”吗?
假设我们有一个似然函数
所以第三个参数依赖于以使得它们不能分开。例如,假设
对于一些未知函数。由于我们无法合理地估计,因此我们希望将积分替换为单个参数来估计。不幸的是,由于积分对的依赖性,我们无法得出最大似然估计。
我有两个问题:
是否有任何众所周知的程序来克服这种情况?
如果我们只是“忽略”的依赖,会发生什么?所以我们改为考虑函数
并从中得出最大似然估计?他们还会保持一致吗?这种情况能说什么“好”吗?
为了处理最大似然估计,您必须以这样一种方式来表述您的问题,即未知参数有一个明确的允许值范围。在您的问题中,您需要为的每个可能值的允许值范围。为此,您需要考虑函数的允许范围。
例如,假设你有一些独立的函数,这个函数的范围不依赖于你的问题中的参数。然后你可以定义对于的每个允许值,你有部分最大化的可能性:
这告诉您,在允许的函数集上最大化似然函数与在相应的允许参数集上最大化似然函数相同。后者要求您指定的范围,然后,部分最大化似然取决于,因为它直接出现在似然函数中,也通过它对的允许范围的影响。
在您的问题中,您并不清楚允许的函数的范围(我假设这是一些真正的函数)。如果你对此不施加任何限制,你将有对于所有,这给出。在这种情况下,不存在参数依赖问题,因此这是一个普通的最大似然问题。
第1部分
您可以将建模为多项式吗?如果是这样,我相信您可以通过分析计算积分将变成封闭形式的表达式。一般来说,如果你能找到使积分解析可解的近似值,那么你就会回到普通的最大似然(根本没有)。
假设您对 g(s) 了解不多。但你必须知道一些事情!因此,先使用平均函数 F(s) 对其进行高斯过程。使用 stan 之类的工具,在 MCMC 绘图期间对函数进行采样,并在循环内执行数值积分。你可以看到我在这里尝试这个(见第 96 行)。现在它很慢,但它是一种在中估计和合并不确定性的方法。
如果你有一个复杂的非线性表达式,但不想走贝叶斯路线,你可以在最大似然例程中加入梯形规则之类的东西,但它也会很慢!
第2部分
为了甚至谈论参数之间的依赖关系,您必须采用贝叶斯观点,因为经典观点将所有参数都视为固定的未知量。如果您采用经典解释,那么我认为您可以将估计为常数。事实上,为什么不使用和的估计来深入了解呢?