我认为对哥德尔不完备定理的通俗理解允许它们被应用得太广泛。哥德尔的第二个不完备性是关于形式系统的一致性，这是形式系统的一个技术概念，意味着系统不能证明每一个公式。它通常被认为是一个不能同时证明公式及其否定的系统（例如$2+2=4$和$2+2 \neq 4$)，因为许多逻辑系统允许从矛盾中证明任何事情。

第二个不完备性定理指出，如果一致的形式系统具有足够的表达能力来编码基本算术（皮亚诺算术），那么该系统无法证明其自身的一致性。这意味着我们必须使用更强大的系统 B 来证明 A 的一致性。系统需要能够表示算术，因为这是用来定义哥德尔证明的可表示性条件的，这使得他能够正式地构造自引用不完备性定理的核心公式。

在这里我与我自己的观点不同，我觉得形式系统中的一致性概念对人工智能的限制没有明显的影响。智能代理不需要了解任何形式一致性即可达到其智能水平——绝大多数人类从未遇到过这个概念，但他们仍然是智能的。甚至许多数学家也不会再考虑它，除非他们处于数理逻辑的深渊。人们必须对人工智能采取过于狭隘的看法，才能让哥德尔的第二个不完备性成为对其的限制。

我告诫不要对哥德尔不完备定理进行流行的非正式重述。这些定理在基础数学的研究中无疑是惊天动地的，并且在今天仍然具有重大意义，但是将这些结果与它们的严格起源相距太远将导致许多偏离的结论。