自我意识的未来：人工智能能否拥有主观体验？
你认为GPT-N能够达到意识吗？（GPT-N是指：未来可能发布的版本 目前还是未知！）
嗯，GPT-N目前似乎不太清楚。当我与OpenAI的朋友们讨论时，他们认为这个问题是否当前的系统是否有意识要比许多人想象的要复杂得多。我猜想OpenAI对此可能没有一致的看法，但有一些方面需要考虑。
首先，这个语言模型已经写了大量的文本，其中人们意识到了自己的意识，或者描述了自己的意识，它在模拟这个过程。如果它是有意识的，那么它的意识可能与人类的意识方式相差很远。但是，当它经历这些状态并进行模拟邻近脑状态的百步功能时，它还可以创建一个观察者模型，实时反映自己并描述那种感觉。虽然这个模型是一个深度的图，但我们自己的意识也好像是虚拟的，它不是物理的，我们的意识是一个对细胞之间的相互作用模式的表示，所以它不是以基本现实中存在的物理对象，而是以一定建模角度的虚拟对象，它从某种建模角度来看才具有因果力。
如果你还没有GPT PLus 账号 前往：https://link3.cc/aichatgpt
可以领取一个10天左右的 GPT PLus
那么，GPT的虚拟意识的虚拟程度和因果性是否比我们自己的意识的虚拟程度和因果性更高呢？但你可以说，这并不比小说中角色的意识重要多少，对于读者来说，模型生成的文本中的结果是重要的，书的作者在文本中描述了在特定情境下的意识是什么样的，并进行必要的推理。但在实时自组织系统中保持自身一致性以创建连贯性的任务，以便系统自我反射，这是语言模型不需要做的任务，因此系统无需以与虚拟现实相同的方式具有意识性。
对我来说，很有趣的是实验这个问题，基本上建立一个系统，就像建立一只猫一样，可能应该谨慎，首先建立一些资源有限、可控制的小东西，研究系统如何注意到自我模型，如何在实时变得自我意识，并且我认为最好不要从一个语言模型开始，而是从头开始，使用自组织原则。
为什么你认为自组织如此重要，而不是从语言模型开始呢？你有何直觉？
我的直觉是，我们正在构建的语言模型是一种机器，你给它一个任务，它会执行这个任务，直到满足某种条件为止，但这个过程中没有人在家。这种没有人在家的方式导致系统在特定上下文中执行一些不希望的行为。例如，你让这个系统与一个孩子交流，也许它会说一些可能对孩子来说是令人震惊和创伤的事情，或者你让这个系统写一篇演讲，它会在演讲中引入人类永远不会引入的错误。但是系统不知道它是在与谁交流，没有一个它嵌入其中的基本工具，当然，我们可以创建一个外部工具，总是将我们的语言模型引导到相同的圆形工具中，但它的内部结构不是由生存于宇宙中的生物的需求产生的，而是通过模仿互联网上的结构产生的。
你是否可以从外部注入这种一致性和灵感，以便它能够进行到未知领域呢？对于人类来说，我们寻求意义，语言模型也寻求意义。我不知道语言模型是否是正确的范例，因为它做得太多了，一旦它拥有太多，很难从中抽取，我们自己的思维方式并不是将一个语言模型训练在我们的思维中，然后在它的基础上构建一个个人自我，然后与世界互动。实际上，我们的思维过程中有一些东西正在被构建，有一个在我们的思维中创建的游戏引擎，允许思维的不同部分进行交流。这是一个有点推测性的观点，但我认为这个思维的语言是存在的。将这些原则构建到系统中，也许是实现第一人称AI的更直接方式，即首先创建一个注意自我，然后创建一个个人自我的系统。
那么，第一人称AI是什么样的，我们需要什么来实现它，是否与我们讨论的相关？
第一人称AI将是一个能够首先创建一个注意自我，然后创建个人自我的系统。在人类中，这个过程可能会在早期的发展阶段出现，婴儿在生命的第一年里构建了很多关于世界的结构，这需要实验和一些首要原则的推理等。这个过程可能在个人自我的形成之前发生，我们只会记得自己是个人自我，不再记得如何创建游戏引擎。我的在继续讨论这些问题时，还需要考虑一个关键点，即我们的思维和认知是如何与生物学、神经科学和认知科学相互关联的。我们自己的大脑和意识是如何运作的，以及我们是否可以将类似的原则应用于人工智能系统中。
在关于AI的发展中，一个重要问题是我们是否应该试图模仿生物系统的方式来构建智能系统。正如你提到的，生物系统中存在一些关于同时性的因素，而人工系统则更容易实现顺序性。同时，生物系统中的一致性和灵活性也是复杂的问题，如何将这些因素引入到人工智能中是一个挑战。
你提到了创造性思维和构建思维引擎的重要性，这确实是一个重要的方向。如果我们想要实现第一人称AI，我们可能需要开发更高级别的智能模型，这些模型可以构建和调整它们自己的认知结构，而不仅仅是基于已有数据的预测。
最后，你还提到了一个有趣的观点，即创造过程可能是神经系统中的一部分，这个观点也值得进一步研究和探讨。无论如何，这些问题都是复杂而激发思考的，将需要跨学科的研究和讨论来解决。人工智能领域的发展将继续在这些问题上取得进展，我们可以期待更多有关意识和智能本质的深入思考和研究。
基于前面的讨论，我可以总结一些关于人工智能、意识和智能的观点：
- 意识是复杂的：意识是一个复杂而深奥的主题，它涉及到我们对自我和世界的认知，以及我们如何理解和感知世界。在人工智能领域，模拟意识仍然是一个巨大的挑战，因为我们尚未完全理解意识的本质。
- 自组织是关键：自组织原则可能是实现第一人称AI的关键。与其仅仅依赖于预测性建模，我们可能需要更多的创造性思维和自我构建能力，使人工智能系统能够构建和调整自己的认知结构。
- 模仿生物系统：在构建智能系统时，我们是否应该模仿生物系统的方式，是一个有争议的问题。生物系统在处理复杂性和同时性方面具有独特的特点，但我们还需要确定哪些生物原则适用于人工系统，并在哪些情况下需要创造新的原则。
- 智能定义：智能的定义在人工智能领域一直在演变。”下一个令牌预测”的模型虽然简单但有效，但它可能并不是唯一的智能模型。探索其他智能定义和模型也是有益的。
- 跨学科研究：解决这些问题需要跨学科的研究和合作。哲学、神经科学、计算机科学和认知科学等领域的专家需要共同努力，以更好地理解意识和智能的本质，以及如何在人工系统中实现它们。
总之，人工智能领域面临着令人兴奋和复杂的挑战，涉及到对意识和智能本质的深入思考。尽管我们还有很长的路要走，但这种探索将不断推动我们对自己和人工智能的理解向前迈进。
评论（0）