我从这篇博文中了解到自我监督学习:智能的暗物质
我们认为,自我监督学习 (SSL) 是在 AI 系统中构建此类背景知识和近似常识形式的最有前途的方法之一。
与自我监督学习竞争的其他最有希望的方法是什么?
我只知道知识库,但由于大规模自动化知识库构建的管理问题,我认为它不会有那么大的希望。
我从这篇博文中了解到自我监督学习:智能的暗物质
我们认为,自我监督学习 (SSL) 是在 AI 系统中构建此类背景知识和近似常识形式的最有前途的方法之一。
与自我监督学习竞争的其他最有希望的方法是什么?
我只知道知识库,但由于大规模自动化知识库构建的管理问题,我认为它不会有那么大的希望。
请注意,在知识表示和推理中,常识知识传统上表示为句子(在逻辑中)。例如,您可以存储在知识库中的一个可能的句子是
地球绕着太阳转。
这是常识知识(忽略这样一个事实,即在 1500 年代哥白尼和伽利略出现之前,过去并非如此)。编程语言 PROLOG 就是基于这种类型的知识、事实和演绎。
自监督学习 (SSL)已被用于学习数据的表示(这通常在自然语言处理的上下文中完成),但这些表示可能不是知识,因为我们可能不了解其中编码的内容表示或它们是否与我们的常识知识有关。
因此,能否使用 SSL 来获取/近似知识取决于您使用的知识的定义。
如果使用常识知识的传统定义,SSL通常不用于知识表示,但已经在知识图谱的上下文中使用(参见SelfLinKG方法),可以看作是知识的图形表示根据。因此,SSL 也可能有助于近似常识知识。
为了更直接地回答您的问题,我的印象是知识图很有前途,并且在实践中很有用。谷歌在其搜索引擎中使用它们(可能也在谷歌助手中)。例如,每当您搜索名人(例如,甘地)时,您应该会在右侧看到一个描述该名人某些详细信息的窗口。这是使用 Google 的知识图谱完成的。
目前,人们正在尝试开发技术来学习知识图中节点或关系的嵌入,目的是使用这些嵌入来发现新知识。这个领域被称为知识图谱嵌入(KGE)。我的另一个答案提供了更多详细信息(但您可以找到许多关于 KGE 的调查,例如在 Google Scholar 上)。
话虽如此,自人工智能早期以来,知识表示一直是一个大问题(例如,参见框架问题),并且在该领域(AFAIK)没有太大进展。大多数人现在都在关注神经网络,但用于神经网络的可解释人工智能技术可能会在知识表示中发挥作用。