如何生成对聊天的*明智*响应?

人工智能 人工智能设计 文本摘要
2021-10-25 20:59:36

我最近做了一个简单的 AI,它使用 Synaptic.js 对输入做出响应(尽管完全不相关且毫无意义)。不幸的是,这不是我正在寻找的文本生成类型。我正在寻找的是一种在单词之间建立联系并从中生成文本的方法。(最好也产生至少半明智的答案。)

这是 Raphiel 项目的一部分,可以在与该站点关联的房间中签出。我想知道的是我将使用什么图层组合来生成文本?

我被告知要避免使用基于检索的机器人。

我有发送和接收消息的方法,我只需要弄清楚哪种层组合是最好的。

除非我的数字有误,否则这将是 SE 的第二个 NN 聊天机器人。

1个回答

这似乎是使用编码器-解码器对的问题,例如在文本摘要中看到的那些(参见 Rush 等人的这篇论文:https ://arxiv.org/pdf/1509.00685.pdfï%C2%BC )。

您将需要以下层:

  • LSTM 层将给定的输入文本编码为嵌入

  • LSTM 对当前生成的输出进行分层,以将文本编码为嵌入

  • 一个密集的 soft-max 层,用于基于两个上下文 LSTM 编码器的输出概率地生成单词

请参阅 Jason Brownlee 的以下博客文章,其中概述了这种方法和其他方法,同时提供了实现细节和片段 ( https://machinelearningmastery.com/encoder-decoder-models-text-summarization-keras/ )!

另请注意,这将需要大量输入文本的训练示例和合理的响应。您也许可以从 Reddit 帖子中删除回复和评论作为开始?如果我误解了这个问题,请告诉我。