这不是对您问题的完整答案，但我至少可以解释部分问题。由于您不提供数据，因此我无法重现您的结果。但是，很容易用其他数据证明同样的问题。我将使用 R 和 Weka 提供且易于访问的著名 iris 数据集。

虹膜数据也存在同样的问题。

library(CORElearn)
library(RWeka)
library(FSelector)
IG.CORElearn <- attrEval(Species ~ ., data=iris,  estimator = "InfGain")
IG.RWeka     <- InfoGainAttributeEval(Species ~ ., data=iris,)
IG.FSelector <- information.gain(Species ~ ., data=iris,)

IG.CORElearn
Sepal.Length  Sepal.Width Petal.Length  Petal.Width 
   0.5572327    0.2831260    0.9182958    0.9182958 

IG.RWeka 
Sepal.Length  Sepal.Width Petal.Length  Petal.Width 
   0.6982615    0.3855963    1.4180030    1.3784027 

IG.FSelector
             attr_importance
Sepal.Length       0.4521286
Sepal.Width        0.2672750
Petal.Length       0.9402853
Petal.Width        0.9554360

与您的示例一样，所有三个包都给出完全不同的结果。

第一个问题：单位（对数的底）

如果您查看information.gainFSelector 中的文档，您将看到以下参数说明：

unit
计算熵的单位（传递给熵）。默认为“日志”。

沿着这条线索，我们查看熵函数的描述并看到：

单位
测量熵的单位。默认值为“nats”（自然单位）。为了计算“位”中的熵，请设置 unit="log2"。

如果我们覆盖默认值并使用 unit="log2" 计算 IG，我们得到

IG.FSelector2 <- information.gain(Species ~ ., data=iris, unit="log2")
IG.FSelector2 
             attr_importance
Sepal.Length       0.6522837
Sepal.Width        0.3855963
Petal.Length       1.3565450
Petal.Width        1.3784027

请注意，现在 Information Gain 的值与 Sepal.Width 和 Petal.Width 的 RWeka 一致。部分差异只是对数使用了不同的底数。RWeka 使用基数 2（以比特为单位测量的熵）。默认情况下，FSelector 使用基数e，但允许您更改基数并获得一些相同的结果。从文档中可以看出，RWeka 和 CORElearn 都不允许您选择对数的底数。

但是几乎奇怪的是，一旦我们将 RWeka 和 FSelector 放在相同的单位中，它们会在两个变量上达成一致，但在其他两个变量上却不一致。还有其他事情正在发生。

添加到 [G5W 的答案][ https://datascience.stackexchange.com/a/16249/29575]中，FSelector（可能还有其他实现）在计算分数之前执行特征的离散化。

对于 FSelector，这是在文件 selector.info.gain.R 中完成的。您可以使用 来查看离散化FSelector:::discretize.all。此步骤会删除特征顺序改变的信息。