现在他获得了诺贝尔物理学奖，但他担心自己的发明有点太好了。

“我的预测是，人工智能将在20年内（也许在5年内）发展出超级智能，这是一个很大的风险，”杰弗里·辛顿(Geoffrey Hinton)说。

他是导致当今自学习语言模型（例如聊天GPT）的多项重大突破的幕后“黑手”科学家。今天，杰弗里·辛顿(Geoffrey Hinton)因其在人工智能领域的开创性发现，与美国人约翰·霍普菲尔德(John Hopfield)一起获得了诺贝尔物理学奖。

-我对我们所取得的成就感到非常自豪。这是一件了不起的事情。但我也很担心。我们能够保持控制吗？

现在他希望更多年轻有才华的研究人员获得资源来研究人工智能安全。

不要等待超级智能

-我们现在必须正确思考这些问题，我们等不及人工智能发展出超级智能。

人工智能是快速收集海量信息并进行相关分析和总结的专家。因此，超级智能机器可以发展成为可靠的助手，帮助我们做出明智的选择。但它也可以发展成其他东西。

-一个糟糕的情况是人工智能决定不再需要我们。如果不同的超级智能人工智能之间发生进化，这种情况就有可能发生。

杰弗里·辛顿(Geoffrey Hinton)想象超级人工智能可以控制数据中心，并开始制造更多自己的副本。这将导致人工智能模型相互竞争并对对手产生攻击性，并决定摆脱我们人类。

但如果将来情况变得如此糟糕，我们就不能关掉电源吗？

-许多人认为这只是拔掉电源线的问题。但事情并没有那么简单。杰弗里·辛顿(Geoffrey Hinton)表示，计算机会说服我们不要这样做。

产生许多尖锐论点的能力意味着未来的超级智能可能比我们更擅长辩论。

孩子们用枪指着我们

他将我们与未来人工智能的关系进行比较，就好像我们是两岁的孩子与成年人辩论一样。

-想象一下一些两岁的孩子拿着枪瞄准我们射击。我们可以很容易地说服一个两岁的孩子不要开枪。我们可以让他们相信他们离不开我们，我们可以用糖果来吸引他们整个星期。同样，人工智能会说服我们不要拔掉插头。

看看Geoffrey Hinton在12月1日星期日的SVT比赛和12月2日星期一20点SVT2的科学世界中控制AI的神经网络是如何发生的。

神经网络

神经网络是大脑的数字模型。

大脑由神经元（即神经细胞）组成，它们通过突触连接。

在神经网络中，神经元对应于所谓的节点。

程序员将这个模型转化为代码，我们就得到了思维大脑的计算机模拟。

约翰·霍普菲尔德(John Hopfield)因在20世纪80年代初开发了神经网络（现在称为霍普菲尔德网络）而获得诺贝尔物理学奖。这是当今人工智能革命的开始。

20世纪80年代中期，杰弗里·辛顿(Geoffrey Hinton)开发了神经网络并开发了所谓的玻尔兹曼机，他现在因此获得了诺贝尔奖。但神经网络真正取得突破还需要很多年的时间。