机器的社论社论部 7月26日下午，人工智能的教父杰弗里·欣顿（Geoffrey Hinton）与上海人工智能实验室兼首席科学家周·鲍恩（Zhou Bowen）教授进行了激烈的对话，以提供高密度的智慧，以推动欣顿前往上海的Hinton的Hinton与新Lunglai的旅程。 现年77岁的杰弗里·欣顿（Geoffrey Hinton）飞到海洋，第一次走到中国。当他进入该地区时，观众站着并排卵。观众将在几分钟之内举行电话。有一次，舞台上的客人在现场广播中不可见。在17分钟的对话中，两位科学家谈到了削减大型AI多模型，“主观体验”和“意识”，如何培训“良好”超级智能，AI和科学发现，以及对年轻科学家的建议。 与上海人工智能实验室主任周·鲍恩（Zhou Bowen）的对话是唯一的公开对话活动D科学削减研究人员关于欣顿前往中国的旅行。 Bago Ang Diyalogo，Nagbigay Si Zhou Bowen Ng Isang Pangunahing Talumpati sa ngalan nghai ng上海ng上海手工艺na情报实验室“无尽边境：Ang Agi在科学上的Ang Agi” Panloob-S1，NA可能多学科，多模式，Malalim na pag-iisip na kakayahan，多模式综合多学科，GROK4功能和其他封闭切割来源的模型。 以下是对话的整体文本。 周·鲍恩（Zhou Bowen）：杰夫（Jeff），这对我们所有人亲自对我们所有人来说都是非常荣幸的。我想问一个您之前在Linthis上提到的问题是GG，但我没有时间在今天早上在舞台上讨论 - 关于多模型的主观体验。您认为您可以证明，即使是多模式和语言模型现在也可以发展自己的主观体验。你能解释一下S详细？ 欣顿：我认为，关于他们有意识或主观经验的问题并不是一个可怕的问题，而是取决于您如何指定“主观经验”或“意识”。我们大多数人都有完全错误的理解这些概念的模型。因为人们可以正确使用单词，但对单词的工作方式完全虚假理论。 让我使用当天的实例 - 到一天的词汇来描述。考虑“水平”和“垂直”一词。卡拉米汉（Karamihan）人认为他们理解了自己的意思，但实际上他们的理解是错误的。让我证明这一点：假设我手中有很多小铝杆，它们会朝各个方向前进。我把它们扔在空中，他们滚动并跑了，然后我突然让时间站了起来。 在这个时空和时间上有许多铝棒。问题是：在垂直方向1度范围内的更多铝杆，还是水平方向1度范围的更多铝棒？ or相同的数字？几乎每个人都说“几乎”是因为他们对单词的工作方式的理解。实际上，沿水平方向的铝杆数在方向上死亡114倍。这是因为“垂直”是一个非常特殊的方向，而“水平”非常普通。但是人们不知道。 ISIT这个例子似乎与意识问题无关，但它表明我们对单词如何工作的理解可能是完全错误的。同样，几乎每个人都对诸如“主观经验”之类的术语具有强烈但完全错误的理论。这不是一个真正的科学问题，而是来自我们对精神状态的错误模型。我们有这些词用来描述精神状态的工作方式。在错误的模型中，我认为您会做出错误的预测。因此，我的观点是多模式聊天机器人现在有意识。 周·鲍恩（Zhou Bowen）：所以，这种声音对于许多在场的研究人员来说是令人惊讶的，但是我告诉你，我刚刚听到的frOM另一位加拿大科学家，在这次会议上，理查德·萨顿（Richard Sutton）在您面前发表了演讲，名为“欢迎来到经验时代”。我认为伊布（Ibhe）说，当我们用尽人类数据时，该模型可以从自己的经验中学到很多东西。您从另一个角度描述了代理或多模式LLM，不仅可以从经验中学习，而且可以发展自己的主观经验。因此，我不认为理查德（Richard）从当今的主观经验中学习了潜在的风险。您想谈谈吗？您认为真理或您的理论是，直到今天，代理商可能会知道主观的经历，它将在将来带来任何潜在的风险吗？ Hinton：实际上，例如，例如，大型语言模型从我们提供给它们的文档中学习。他们学会了猜测一个人会说的下一个单词。但是，一旦您拥有像机器人这样的世界特工，Maari就会从他们自己的经历中了解他们，我认为他们可以比我们学到更多的东西。它他们将有经验，但经验不是什么。而且体验不像一张图片，经验是您与某物之间的关系。 周·鲍恩（Zhou Bowen）：因此，几天前，当我们讨论削减Idais的风险时，您提到了一种可能降低未来AI风险的解决方案，这将找到一种训练AI分离目标的方法。例如，一种善良的AI，一个智能的AI。你有理论... 欣顿：我不是那个。我的意思是，您的AI既聪明又友善，但是如何训练它变得聪明以及如何训练它是不同的问题。您可能有一种使其成为善良和研究的技术，以使其成为明智之举。它将是同一AI，但是会有不同的技术。因此，即使各州不愿意共享使其明智的技术，各州也可以共享使其友好的技术。 周·鲍恩（Zhou Bowen）：我真的很喜欢这个主意。但是，我对这方面的距离有一些疑问。你认为那里有wi吗在一般的AI中，对AI友善吗？这些方法可以应用任何AI模型，任何智能级别？ 欣顿：那是我的希望。这可能不是真的。但这是一种可能性。我认为我们应该研究这种可能性。 周·鲍恩（Zhou Bowen）：是的，是的。我问这个问题不是因为我不喜欢这个想法，而是因为我想提高意识，以便更多的人可以在您提到的方向上做更多的sexsik。我想在这里做一个类比，向您展示为什么我有这个问题。以物理为例，牛顿定律在较低速度移动时有效。但是，当物体以较高的速度移动，接近光速时，牛顿法律不再适用，因此我们应该转向爱因斯坦以寻求更好的解决方案。顺便说一句，这有点有趣，因为我向诺贝尔物理学奖获得了物理学101（介绍大学物理学）的演讲。 欣顿：但这是一个错误。 周·鲍恩：哦，不，这不是一个错误。你一定是诺贝尔奖的矫正。 欣顿：他们真的很想在人工智能领域获得诺贝尔奖，但他们没有奖励。因此，他们赢得了Artrificyal Intelligence（科学家）的物理奖。 周·鲍恩（Zhou Bowen）：但是我想用这个类比来描述一种观点。我认为，对于不同层次的智能系统，可以改变信仰的障碍。我不知道这是正确的，但我希望这个房间或在线的聪明年轻人能够学习实现这一目标的方法。 Hinton：是的，随着系统变得更聪明，良好的技术可能会改变。我们不知道。这就是我们今天在这里进行大量研究需要进行大量研究的原因之一。 周·鲍恩（Zhou Bowen）：许多人欣赏杰夫。作为剩下成就的人，您经常说：“我不知道。”我认为这是非常诚实和启发性的。我们都想向您学习。 除了AI问题外，我们的一半来自科学领域的领先学者中的一半也在现场 - 量子物理学，生物学等。我们今天聚集了 - 精确组装，因为我们认为AI和科学的交叉融合将导致突破。您如何看待使用AI促进科学发展或转动科学以促进AI的发展？ 欣顿：我认为人工智能在科学方面的帮助很明显。显然，当前最令人印象深刻的例子是折叠蛋白，它通过合理地使用人工智能和大量精力证明了Demis Hassabis和John Jumper等人。它持续了五年。他们都是明智的人。在猜测蛋白质如何折叠时，我们可以做得更好（包括AI）。我认为这是当今许多地方的早期签约，AI将改善科学。我听到了上海AI实验室的例子，这可能会更好地猜测着陆地点和天气预报。 周·鲍恩（Zhou Bowen）：是的，我们在AI模型中产生的结果比基于T的传统物理模型更好他PDE（轻微的差异方程式系统）。 周·鲍恩（Zhou Bowen）：在您剩下的学术生涯中，您不仅扩大了人工智能技术的界限，而且还极大地影响了下一代科学研究人员。我和比你年轻的许多学者交谈，他们都钦佩你。在上海人工实验室实验室中，我们的研究人员只有30年的历史了，这清楚地表明，AI的未来是年轻一代。 （看着年轻的研究人员），您对这些年轻面孔的智慧闪耀。我想知道您是否准备好分享：您对下一个AGI一代有何看法？或者，您可以准备为年轻人提供一些有关加速成长的建议，他们可以带回家并自豪地告诉父母的一些聪明的话 - 毕竟，与您见面是一个重要的经历，他们也可以在将来告诉孩子。 您想传递什么？ Hinton：我认为主要建议是：如果您想做原始研究，您应该寻找“一切都会做错事”的地方。通常，当您认为“一切都是错误的”时，您最终会在探索后发现传统方法的推理 - 但这只会表明您不应该轻松地放弃新想法，除非您真正理解为什么它不起作用。尽管标签拒绝您的方法，但请继续提出问题。 坚持您的信念，直到您了解自己为什么错。有时，您将继续坚持自己的信念 - 最终证明这是事实。这就是重大突破的来源，而他们并不是那些容易放弃的人。即使其他人不同意，您也应该留下自己的意见。 这种观点背后有一个逻辑：您的直觉或不良直觉。 如果您的直觉很好，您应该显然呆在这里； 如果您的直觉不好，那么您做什么都没关系 - 因此您仍然应该坚持直觉。 周·鲍恩（Zhou Bowen）：我想我们可以整天谈论它，但我知道你很累。最后，这里都在这里感谢杰夫的时间。太感谢了！ 金融的官方帐户 24小时广播滚动滚动最新的财务和视频信息，并扫描QR码以供更多粉丝遵循（Sinafinance）