Question 1

遗传算法和神经网络真的会思考吗？

遗传算法和神经网络是截然不同的概念。两人都不以为然。

我知道那些可以玩游戏的人工智能程序和可以识别图片的神经网络。但他们真的在想吗

取决于你如何定义“思考”，但我说“不”。

他们像人类一样思考吗？

不。

他们有意识吗？

不。

还是他们只是遵守一堆代码？

是的。它是一台机器。一个程序。

大多数人意识到它非常不同的一个例子是生成文本（示例文本）的 RNN 的通用线程。他们可以生成语法正确的文本，但他们“忘记”了其中的任何演员。他们不连接电缆。

但是另一方面，你会说细菌会思考吗？一只蚂蚁？一个鼠标？一只狗？黑猩猩？我们会“思考”吗？边界到底在哪里——为什么？

Question 2

TL;DR忽略炒作，尽管结果有趣且有用，但当前系统（2018 年）与人类的“思维”相去甚远。“像一般生物一样思考和行动”的最先进技术还没有达到昆虫的复杂程度，尽管我们有例子狭窄的人工智能可以在智力游戏中击败世界上最好的人工智能。

措辞上的问题存在一些问题，它不是一个精确的问题，并且包含了许多人在讨论 AI 时所拥有的一些常见的模糊逻辑。但是，我认为这些情况经常发生，值得在这里解决：

但他们真的在思考吗。

定义“思考”。这不简单。

他们像人类一样思考吗？

我们并不完全了解或理解人类的思维方式。

他们有意识吗？

我们并不完全知道或理解什么是意识。

还是他们只是遵守一堆代码？

你只是在遵守“一堆代码”吗？没有理由怀疑人类拥有一种能够驱动思想的神奇“东西”。所有科学证据都表明人类是遵循物理和化学定律的复杂机器。然而，复杂程度如此之高，以至于大脑、思维和意识如何工作是一个非常难以解决的问题。我们缺乏知识也有可能掩盖了大脑或“思维”的某些未知属性，这意味着它不仅仅是应用物理和化学——但这种事情的证据为零。

例如，当一个人工智能学会玩吃豆人时，它是真的学会了不应该碰鬼，还是他们只是遵循一条机械路径，让他们赢得游戏？

这是一个有趣的问题，它不仅仅是一个简单的是/否答案：

学习不等于思考。我们期望一个智能实体在接收到新信息时能够学习。然而，只能学习的东西——它的唯一特点是它在获得经验时获得了一些绩效衡量——只是解决了智慧或思考意味着什么的一部分。

人类玩家从假设开始。像吃豆人这样的游戏呈现了一个简化的世界，它遵循我们已经熟悉的许多规则。在游戏中有一个空间（屏幕），其中适用距离规则。有些物体（吃豆子、墙壁、药丸、能量药丸、幽灵）具有连贯的形状和可识别的持久属性。对象持久化是一回事。游戏遵循熟悉的时间概念。所有这些事情至少最初对神经网络来说毫无意义。

神经网络泛化。深度学习成功的原因之一是神经网络可以在一定范围内学习诸如“避开鬼魂”之类的规则，或者在 DQN 中的典型代理的情况下，鬼魂越来越接近玩家表明保持静止或向鬼魂移动的价值较低，而向逃生路线移动的价值较高。不仅如此，深度神经网络很有可能会学习一种内部表示，该表示确实可以检测到幽灵并学习它们与动作类型之间的关联，这可以通过生成“热图”来检查神经元对图像不同区域的反应

神经网络需要比人类更多的经验才能学会玩好。这表明他们的学习方式不同。其中一些可能是由于人类与生俱来的知识转移到玩游戏。然而，在神经网络最终能够很好地泛化之前，典型的强化学习训练场景需要证明幽灵是危险的 100 倍。虽然人类会在几次遭遇后了解到这一点，也许只有一次。在这方面有很多研究，因为尽可能提高学习效率是一个重要目标。

神经网络过于直接和简单，无法拥有内部世界模型。原始概括与拥有您可能认为是“思考”的那种丰富的内部模型不同。训练后，神经网络是将像素的视野映射到值和/或动作的函数。没有内部“叙述”，即使该功能足以正确运行，它也不编码诸如空间、对象持久性、对象特征等概念，而且它绝对不会体验它们。

在某些方面，询问人工神经网络是否可以思考就像询问您的一小片视网膜或一小块脑组织（小于 1mm ^{3 ）是否可以思考。}或者，如果你的步行反射和与生俱来的平衡感算作思考。当前最先进的工作在计算机能力和复杂性方面都处于这种规模。

Question 3

这是一个非常有趣的问题，无法正确回答，因为我们对“思考”的含义缺乏共识或普遍有效的定义。我仍然会尝试对此发表我的拙见。

首先我想提一下，意识可能不是以二元方式存在（无论是否拥有它），而是以一种渐进的方式存在。

据我了解，神经网络所做的是学习映射，即从传感器输入空间到执行器输出空间的函数。如果神经网络在玩吃豆人，输入由游戏的像素组成，输出是代理在游戏中可以采取的动作。由于此过程在顺序会话中运行（即input $\rightarrow_{NN}$ output;input $\rightarrow_{NN}$ output等等）我不会认为神经网络是有意识的。

Douglas Hofstadter 在他的著作《哥德尔、埃舍尔、巴赫》中提出了一个有趣的方法。这本书的主要论点（在我的理解中）是，自我参照是（自我）意识的一个关键和必要的先决条件。

Answer 1

遗传算法和神经网络真的会思考吗？

遗传算法和神经网络是截然不同的概念。两人都不以为然。

我知道那些可以玩游戏的人工智能程序和可以识别图片的神经网络。但他们真的在想吗

取决于你如何定义“思考”，但我说“不”。

他们像人类一样思考吗？

不。

他们有意识吗？

不。

还是他们只是遵守一堆代码？

是的。它是一台机器。一个程序。

大多数人意识到它非常不同的一个例子是生成文本（示例文本）的 RNN 的通用线程。他们可以生成语法正确的文本，但他们“忘记”了其中的任何演员。他们不连接电缆。

但是另一方面，你会说细菌会思考吗？一只蚂蚁？一个鼠标？一只狗？黑猩猩？我们会“思考”吗？边界到底在哪里——为什么？

Answer 2

TL;DR忽略炒作，尽管结果有趣且有用，但当前系统（2018 年）与人类的“思维”相去甚远。“像一般生物一样思考和行动”的最先进技术还没有达到昆虫的复杂程度，尽管我们有例子狭窄的人工智能可以在智力游戏中击败世界上最好的人工智能。

措辞上的问题存在一些问题，它不是一个精确的问题，并且包含了许多人在讨论 AI 时所拥有的一些常见的模糊逻辑。但是，我认为这些情况经常发生，值得在这里解决：

但他们真的在思考吗。

定义“思考”。这不简单。

他们像人类一样思考吗？

我们并不完全了解或理解人类的思维方式。

他们有意识吗？

我们并不完全知道或理解什么是意识。

还是他们只是遵守一堆代码？

你只是在遵守“一堆代码”吗？没有理由怀疑人类拥有一种能够驱动思想的神奇“东西”。所有科学证据都表明人类是遵循物理和化学定律的复杂机器。然而，复杂程度如此之高，以至于大脑、思维和意识如何工作是一个非常难以解决的问题。我们缺乏知识也有可能掩盖了大脑或“思维”的某些未知属性，这意味着它不仅仅是应用物理和化学——但这种事情的证据为零。

例如，当一个人工智能学会玩吃豆人时，它是真的学会了不应该碰鬼，还是他们只是遵循一条机械路径，让他们赢得游戏？

这是一个有趣的问题，它不仅仅是一个简单的是/否答案：

学习不等于思考。我们期望一个智能实体在接收到新信息时能够学习。然而，只能学习的东西——它的唯一特点是它在获得经验时获得了一些绩效衡量——只是解决了智慧或思考意味着什么的一部分。

人类玩家从假设开始。像吃豆人这样的游戏呈现了一个简化的世界，它遵循我们已经熟悉的许多规则。在游戏中有一个空间（屏幕），其中适用距离规则。有些物体（吃豆子、墙壁、药丸、能量药丸、幽灵）具有连贯的形状和可识别的持久属性。对象持久化是一回事。游戏遵循熟悉的时间概念。所有这些事情至少最初对神经网络来说毫无意义。

神经网络泛化。深度学习成功的原因之一是神经网络可以在一定范围内学习诸如“避开鬼魂”之类的规则，或者在 DQN 中的典型代理的情况下，鬼魂越来越接近玩家表明保持静止或向鬼魂移动的价值较低，而向逃生路线移动的价值较高。不仅如此，深度神经网络很有可能会学习一种内部表示，该表示确实可以检测到幽灵并学习它们与动作类型之间的关联，这可以通过生成“热图”来检查神经元对图像不同区域的反应

神经网络需要比人类更多的经验才能学会玩好。这表明他们的学习方式不同。其中一些可能是由于人类与生俱来的知识转移到玩游戏。然而，在神经网络最终能够很好地泛化之前，典型的强化学习训练场景需要证明幽灵是危险的 100 倍。虽然人类会在几次遭遇后了解到这一点，也许只有一次。在这方面有很多研究，因为尽可能提高学习效率是一个重要目标。

神经网络过于直接和简单，无法拥有内部世界模型。原始概括与拥有您可能认为是“思考”的那种丰富的内部模型不同。训练后，神经网络是将像素的视野映射到值和/或动作的函数。没有内部“叙述”，即使该功能足以正确运行，它也不编码诸如空间、对象持久性、对象特征等概念，而且它绝对不会体验它们。

在某些方面，询问人工神经网络是否可以思考就像询问您的一小片视网膜或一小块脑组织（小于 1mm ^{3 ）是否可以思考。}或者，如果你的步行反射和与生俱来的平衡感算作思考。当前最先进的工作在计算机能力和复杂性方面都处于这种规模。

Answer 3

这是一个非常有趣的问题，无法正确回答，因为我们对“思考”的含义缺乏共识或普遍有效的定义。我仍然会尝试对此发表我的拙见。

首先我想提一下，意识可能不是以二元方式存在（无论是否拥有它），而是以一种渐进的方式存在。

据我了解，神经网络所做的是学习映射，即从传感器输入空间到执行器输出空间的函数。如果神经网络在玩吃豆人，输入由游戏的像素组成，输出是代理在游戏中可以采取的动作。由于此过程在顺序会话中运行（即input $\rightarrow_{NN}$ output;input $\rightarrow_{NN}$ output等等）我不会认为神经网络是有意识的。

Douglas Hofstadter 在他的著作《哥德尔、埃舍尔、巴赫》中提出了一个有趣的方法。这本书的主要论点（在我的理解中）是，自我参照是（自我）意识的一个关键和必要的先决条件。