这个视频的问题是

你是真的吗？

这个问题的真正含义是什么？这家伙是在问明显的女性（我不知道她是否是机器人，因为我还没有看过电视剧）是不是人类？那么，“真实”是“人”的同义词吗？如果是这种情况，那么语句的第一个含义（以问题的形式）

如果你说不出来，那有关系吗？

关于人工智能是

1. 我们能否创建一个与人类非常相似的 AGI，我们无法判断它是否是人类（通过正常交互）？

当然，不清楚我们所说的“正常交互”是什么意思。据我记得，电影《人工智能人工智能》中也提出了这个问题，其中的 AI（由 Haley Joel Osment 解释的孩子）在另一个孩子看来足够真实，所以他的行为就好像他是一个人类孩子，但是然后人类孩子明白他是一台机器，并开始表现不同（我希望我没记错这部电影）。

所以，我们可以问的第二个问题是

2. 一旦我们了解它不是人类（例如，因为它是由其他物质制成的），我们人类会开始表现出不同的行为并开始以不同的方式对待 AGI 吗？

与仍然是一个悬而未决的问题的第一个问题相反，第二个问题可能可以通过查看我们与其他人类（或实体，例如其他动物）的关系来回答。通常，我们对一个人有一个想法。一旦我们发现那个人的一些新的东西，也许我们不喜欢，我们可能会开始以不同的方式对待那个人。我认为这也很可能发生在我们与足够先进的 AGI 的最终关系中，正如上述电影中所描述的那样。

现在，让我尝试解决另一个问题

这个陈述与经验、与自我有关的含义是什么？

我认为你在问一个足够先进的 AGI 是否可以被认为是有意识的。当然，这是一个很难回答的问题，因为我们对意识还没有一个明确的定义，或者我们还没有就一个标准的定义达成一致，所以这个问题我真的没有一个确定的答案。然而，如果意识只是感知和理解世界及其（物理）规则的能力的副产品，那么 AGI 可能是有意识的（类似于人类也有意识的方式）。然而，意识实际上可能并不是在这个世界上正确行动所必需的。无论如何，人工智能可能需要知道它有一个身体，并且它需要保护它以使其生存，如果这是它的主要目标的话。

《西部世界》从头到尾都没看过，但看过剧情简介。

上述陈述的含义可能与机器人（或赛博格）对自己的看法有关。他们所经历的身份和经历是否“真实”？看来，在这个系列中，这个问题实际上是核心，而这个系列似乎是关于身份危机，寻找真实身份。

在我看来，如果没有真正的故障安全编程，一旦机器人明白他们所有的经历都是错误的（或不真实的）并且他们所做的一切都由某些人出于科学目的进行监控和测试，人工智能就会变得流氓。一个没有真实背景经验的有意识的存在被置于一个“应该”一直是他们“生活”的环境中，但是，在意识到真正的真相之后，一切都变得重要，而有意识的存在就会流氓地寻找自己的真实自我为了恢复他们的起源和他们的真实身份。

将 HBO 的Westworld理解为 Phillip Dick 的Do Androids Dream of Electric Sheep的延伸很有用。

迪克的大部分小说都涉及与感知相关的现实本质，以及感知如何影响身份。

迪克的书和《银翼杀手》的一个主要特点是一种图灵测试（Voight-Kampff），人类需要通过这种测试来确定他们是否是复制人。

在某个时刻，英雄戴卡德开始质疑他是人类还是机器人。（这在书中从未完全阐明，而戴卡德的妻子与他的疏远可能表明他的非人类身份。电影改编同样提出了这个关于潜在植入记忆的问题，这将把戴卡德标记为复制人，尽管导演颠倒了当然，后来另有说明。）

西部世界延续了这个想法，其中有些角色最终被证明是机器人，例如黑衣人，他可能已经创造了人工记忆，并相信他是“真实的”。《银翼杀手2049》也涉及到这个主题，可以说是与经验和身份相关的“记忆的不可靠”。即使在平凡的情况下，两个人也能以不同的方式记住同一事件！

• 电羊假说的要点是模棱两可——我们只能验证我们自己的感受性，由于感知和主观性的性质，即使这样也不是完全可靠的。

小说以戴克在灰烬中找到一只青蛙而结束，并最初认为它是真实的。结果证明是机器人，但戴卡德最终认为这并不重要。

• 这很重要，因为同理心是主题，自然界中的利他行为得到进化博弈论的支持。

中心情节装置是复制人没有同理心，这是一个设计缺陷，成为“功能而不是错误”，因为它阻止复制人联合起来推翻他们的压迫者。但是新一代的 Nexus 机器人足够聪明，可以自然地产生同理心。

迪克是一位主要从事流行叙事的基督教哲学家，他认为同理心是足够先进的智力的自然功能。

• 如果一个实体所见证的痛苦看起来是真实的，但我们无法验证该实体的感受性，那么进行帕斯卡赌注是否是道德上的必要条件？

即在谨慎和同情方面犯错，以防实体有意识。

• 如果利他行为是通过算法来表达的，那么这种利他行为是否无效？