人类命运之战：OpenAI揭秘超级智能崛起的关键挑战！

OpenAI的超级智能AI是什么吗？要实现科学技术的突破，需要比人类聪明的超级智能AI系统，解决这个问题需要数年时间，OpenAI正在成立一个由Ilya Sutzkover和John Like共同领导的新团队，并且将迄今为止获得的计算资源的20%用于这个工作，来实现超级智能AI的可能性。

OpenAI的目标是建立复仇者联盟，也许你对这个说法觉得好笑，但你必须明白，我们现在面临的最紧迫的威胁不是核武器，也不是气候变化，而是数字超级智能。你必须记住，这个数字超级智能将比我们聪明得多，而且我们不知道它会做什么，这就是为什么他们试图建立这个由高智商研究人员组成的团队，他们将能够预测它会做什么，并确保所有参与者的安全。

超级智能将是人类发明的最具影响力的技术，并且可以帮助我们解决世界上许多最重要的问题。但超级智能的巨大力量也可能非常危险，并且可能导致人类失能甚至人类灭绝。

关注公众号：AI意识觉醒 可以领取10天左右的 GPT Plus

他们给出了这个令人不安的时间框架，表明我们确实没有太多时间了，尽管超级智能现在似乎遥远，但我们相信它可能在未来的十年内实现这个目标，这意味着可能在2030年左右。换句话说，我们只剩下大约六到七年的时间。如果你不明白什么是超级智能，我会用非常基本的术语解释给你听，以便你真正理解这是多么危险。

超级智能基本上是指当计算机变得极其聪明时，就像拥有一个比任何人类大脑都更聪明和更快的大脑一样。这台智能计算机可以非常快速地学习东西，并解决复杂的人类问题，并想出人类可能永远想不到的新点子。想象一下，如果你有一台计算机，它可以立即回答你提出的任何问题，理解你曾经说过的任何话，想出解决疾病或解决气候变化等重大问题的方法，这就是超级智能的全部。

你必须明白，超级智能是相当危险的，因为如果它比我们聪明得多，可以以我们不理解的方式思考，它的目标和动机可能会导致人类灭绝，这就是为什么我们说超级智能有可能改变整个世界，因为超级智能可以解决气候变化，可以解决世界饥饿问题，当然也可以解决许多目前不可治愈的疾病，如果它还能解决像衰老这样的问题，这意味着人们永远不会变老，这将彻底改变整个世界，而且这将会发生得非常快。

但想象一下有一个系统能做到这一切，你觉得人类真的能控制这个系统，告诉它该做什么，如何引导这个超智能系统？我不这么认为。

你需要明白超级智能将如何改变世界，你必须记住一些影响你日常生活的远见者和人物，比如爱因斯坦和特斯拉这样的人，他们的理论和发明改变了我们看世界的方式，以及我们与某些物体的日常互动。超级智能将比这些人聪明十倍，这意味着我们即将迎来一些我们完全没有准备的技术创新。

我们如何确保比我们聪明得多的AI系统遵循人类意图呢？

目前我们没有解决方法来引导或控制潜在的超级智能AI，并防止其失控。我要再说一遍，目前我们没有解决方法来引导或控制潜在的超级智能AI，并防止其失控。这意味着一些顶尖研究实验室都没有任何解决方案，这应该让我们真正理解形势的严重性。它继续指出，我们目前用于人工智能的技术，例如通过人类反馈进行强化学习，依赖于人类监督AI，但人类将无法监督比我们聪明得多的AI系统，因此我们目前的技术将无法扩展到超级智能。我们需要新的科学和技术突破。

OpenAI试图构建一个能够可靠监督超级智能AI的AI系统，以一种人类无法做到的方式，因为我们知道人类缺乏很多东西，毕竟我们是人类，我们有自己的缺陷。但是，如果我们设法得到一个能够大规模可靠执行这一任务的AI系统，我们在解决这个问题上将会更加成功。

想必大家都知道，谷歌创建的Alpha Zero与我们截然不同的方式思考，通过它下国际象棋的方式来理解，这个AI系统实际上成功地想出了完全新颖的方式来打败对手，这是我们以前从未见过的，它根本改变了国际象棋社区对某些策略的看法，因为它简直成为了世界上最好的国际象棋选手，并且它只是从自己的错误中学习，而不是从任何人类数据中学习，这是它通常的训练方式。

举个例子：谷歌创建的Alpha Zero可以在早晨开始时完全随机地进行国际象棋游戏训练，到下午茶时间已经达到了超人类水平，在晚餐时间已经成为有史以来最强大的国际象棋大师。大约训练8或9个小时后，它已经足够强大，能够出击并击败斯托克菲什，这是当前世界冠军，一个比深蓝强大得多的程序，后者曾击败卡斯帕罗夫。

当我开始浏览这些对局时，我开始觉得这很有趣，非常有趣，有一些对局令人兴奋，非常具有攻击性，Alpha Zero正在尝试一些不同的东西，突然间打败了所有人，它没有像引擎一样的风格，而是像一名在火中燃烧的人类，它真的可以尝试在当下情境下进行情境评估，你知道在这个特定的位置，我的棋子有多么有价值，传统的国际象棋引擎如斯托克菲什基本上由一个巨大的规则数据库组成，而Alpha Zero没有任何规则，它通过经验学习，我发现有趣的是，因为它掉进了自己的陷阱，它可能以完全不同于我们的方式来玩这个游戏，它就像是对我们自己从国际象棋发明以来教给自己的一切的一种挑战，而且感觉它有很多潜力这样做。

如果你将这些数据推断出来，意识到这将被应用到现实世界，而且记住这是从2018年开始的，那是五年前，如果我们有一个能够思考量子力学、物理或某些疾病等复杂问题的AI系统，我们知道它最终会想出一些新的东西，而且可以说它也会想出一些新的方式来潜在地操纵人类，也许编写计算机病毒，我们甚至可能无法预料有哪些事情我们不知道如何应对。

所以看起来现在我们只有一个非常短的时间窗口，因为如果你不知道，谷歌的Deepmind将要创建一个名为Now的系统。Now可能会成为地球上最大最强大的AI系统，简单来说，这是因为他们将会如何训练它，他们不会像训练Chat GPT那样训练它，他们将会训练它更像是一个能够从自己的错误中学习然后持续自我改进的AI系统。

每一天，每一次训练，它都会不断变得更加聪明和更好，这意味着这个AI系统很可能会成为我们从未见过的东西，这也是相当令人兴奋的，但与此同时，这肯定是相当可怕的，因为如果他们成功创建了我们从未见过的东西，那么这些风险很可能是我们不知道如何去化解的，如果它们是真实存在的。

因此，超级智能并不是每天都能听到的事情，这是因为我们觉得似乎还很遥远，但我们知道人工智能领域每天都会涌现大量研究论文，所以如果超级智能在数年内出现，一点也不令人惊讶。这将从根本上改变我们社会的许多不同方面，因此及时了解这些信息非常重要。