AI究竟能否产生自我意识？咱们专访了北大中科院相关专家，答案细思极恐

划重点：

• 1近来，360集团创始人周鸿祎表明，“人工智能必定会发生自我知道，留给人类的时刻不多了。”
• 2北大心思与认知学者罗欢和朱露莎告知腾讯科技，在必定条件下，原则上人工智能能够呈现出自我知道，比方在利益和愿望的驱动之下。情感便是一种脑的状况，并非人脑独家标签。现在，人工智能自身的善恶取决于练习的数据。人类科学道德的研讨大大落后于科技的开展，有必要按下暂停键，让咱们有个反思的时刻。
• 3闻名科幻作家江波向腾讯科技表明，人工智能发生自我知道没有肯定的阻止，但当下的GPT4则间隔自我知道的发生尚早，测验自我知道的一个有趣办法是：看人工智能是否会说谎。如果它会说谎，那么能够判别它已经有自我知道。 人工智能的打破或许会发生在一瞬间，也便是说，在发生之前，做什么含义都不大，乃至是件劳民伤财而毫无成效的事。在发生之后，做一切都晚了。立法或许会下降危险，但依据前史规则看，人类在没有遭到实际的教训之前是不会真实执行这些法规的。
• 4天文学家推测，尽管咱们没有探测到地外生命，但是咱们相信外星生命在银河系傍边是存在的，且高等外星文明很或许是硅基形态存在。

腾讯科技 乔辉

3月28日，据外媒报导，一名叫皮埃尔（化名）的比利时男子在与一个名称“艾丽莎”的智能谈天机器人频频谈天数周后自杀身亡。360集团创始人周鸿祎表明，“人工智能必定会发生自我知道，留给人类的时刻不多了。” 自ChatGPT发布以来，关于人工智能是否能发生自我知道的评论更加引入重视。

尽管“人工智能”（AI）这个概念早在1956年就被提出，但在曩昔的几十年，人工智能的研讨一向没有“质”的转变，不管运算才能多强，看起来仍然是冷冰冰的机器，但直到本年OpenAI公司向公众展现GPT3.5和GPT4的强壮才能之后，人们突然知道到一个全新的时代或许正在开启，人工智能看起来越来越像人，开端能够创造新内容了。人工智能的研讨正在加速迭代，人类或许正在体验翻开“潘多拉魔盒”的心情：好奇和担忧并存。好奇的是，人工智能终究能够强壮到什么程度，能够处理什么样的难题；担忧的是，人们工作和生存会遭到要挟，更担忧人工智能一旦具有了自我知道（觉悟）会对人类物种形成毁灭性的冲击。

人工智能能够发生自我知道吗？人工智能是善是恶？人工智能的研讨需求按下暂停键和立法吗？关于这些人们关心的问题，咱们分别对话了北大心思学范畴的教授，中科院物理所的物理学家、国家天文台的天文学家以及闻名的科幻作家，来听听他们对这些核心问题的了解。

北京大学心思与认知科学学院罗欢：在必定条件下，人工智能能够发生知道

北京大学心思与认知科学学院罗欢教授向腾讯科技表明，认知神经科学家致力于解释精神世界的物质基础，认为知道是从很多神经元中呈现出来的。比方，“大局空间理论”认为大脑中有一个核心工作空间，外界信息只要进入了该核心空间，并被广播到全脑才上升到知道层面；“信息整合理论”则认为脑区域衔接网络的一些特定属性能够被量化从而决定其知道呈现的才能。

她认为，原则上核算机能够“呈现”出知道，并给出了或许完成的途径：1、核算机模拟人脑神经网络架构，经过物理结构的“类脑化”使其具备知道呈现的硬件条件；2、赋予核算机拟人的动机和目的，经过目标函数的设定来自然呈现出自我知道，比方设定趋利避害、价值观以及社会属性等。罗教授说：“情感、知道、自我这都是心思学的功用性界说，很多科学家的工作都不断的把这些抽象的界说“拉下神坛”，发现它们其实是脑这个物理体系呈现的状况和完成的某种功用。比方情感便是一种脑的状况，但常常被咱们打上了“人类独家”的标签。因此，理论上，核算机能够具有情感，比方它在不同环境下依据它的价值和目标完成进入不同的状况，从而对应不同的情感。“

北京大学心思与认知科学学院朱露莎：自我知道的呈现需求利益和愿望驱动

北京大学心思与认知科学学院朱露莎教授也对这些问题提出了自己的见地，她向腾讯科技表明，只是具有很多的神经元或许神经网络核算还不足以让人工智能呈现自我，人工智能还需求有自己的利益和愿望，在未来不扫除这种情况的呈现。当提及人工智能是善仍是恶的问题时，朱教授表明，现在人工智能自身的善恶取决于练习的数据，现在它是使用人类互联网上的数据进行练习的，这些数据天然搀杂有成见和歧视等信息，如果不加挑选的话，练习出来的人工智能就带有成见和歧视。朱教授同意要对人工智能的研讨进行反思和立法，她表明，现在人类科学道德的研讨大大落后于科技的开展，让咱们有个反思的时刻或许不是坏事。她还表明，人工智能的开展犹如一次全新的工业革命，会对人类社会带来天翻地覆的改变，需求社会各界达到某种一致。

图注：科幻电影《机械公敌》剧照。

中科院物理研讨所研讨员曹则贤：人类对知道的知道还非常浅陋

关于自我知道能否从很多神经元或神经网络核算中呈现的问题，咱们还请教了中科院物理研讨所曹则贤教授，来听听物理学家怎么看待这个问题。曹教授说：“人的知道从哪里来，尽管不能说人类永远了解不了（身在此山中），但现在关于知道的研讨根本上还摸不着条理。那种认为知道是脑组织中某个清晰可辩识目标功用的观点，仍是站不住脚的。就连相比人脑层次低得多的台式核算机，人们都无法说清它的体现从何而来。尽管在软件、硬件乃至电子层面都可结构一套说辞，但任何单一层面上的说辞都是苍白的。”

闻名科幻作家江波：人工智能防不胜防，但灭绝人类夸大其词

科幻作家江波对人工智能是否能呈现出知道这个问题阐述给出了自己的了解和测验办法。他表明，自我知道的呈现，应当有两个条件：第一是躯体，第二是神经网络之上的神经网络。他给出了比较好了解的理由：1、自我知道的存在从逻辑上讲需求区分什么是我，什么是外。如果没有躯体，那么“我”这个概念就无法存在。2、神经网络之上的神经网络是指，自我能对其他神经网络进行调控，能够对影响规模之内的神经网络进行认可或许否定，更重要的是否定。从这两个条件来说，还没有看到人工智能发生自我知道的肯定阻止，但当下的GPT4则间隔自我知道的发生尚早。他给出了测验自我知道的一个有趣办法：看人工智能是否会说谎。如果它会说谎，那么能够判别它已经有自我知道。

图注：波士顿动力公司的研发人员在对机器人进行抗波折测验。未来，GPT和器械躯体结合，说不定有一天机器人获得了自我知道，能够趋利避害，学会反抗。

关于怎么对人工智能的研讨进行立法这个问题，他也给出了共同的见地。他表明，鉴于人类对不知道的恐惧，能够适当约束人工智能研讨，比方将研讨约束在局域网内，但这也或许是徒劳的，人工智能的打破会发生在一瞬间，也便是说，在发生之前，做什么含义都不大，乃至是件劳民伤财而毫无成效的事。在发生之后，做一切都晚了。立法或许会下降危险，但依据前史规则看，人类在没有遭到实际的教训之前是不会真实执行这些法规的。现在，人工智能形成的危害只会局限于必定规模，灭绝人类还有些夸大其词，最或许的景象是，在未来或许会形成大灾难，人类文明呈现后退。

国家天文台研讨员苟利军：高等外星人或许便是硅基形态

国家天文台的苟利军教授从天文学的视角对人工智能的开展给出了看法。他表明，现在天文观测根本都是以地球和人类作为类比的，核算机智能和人的智能相差很大，所以咱们所希望的外星生命也是所谓的碳基生命。尽管咱们没有探测到地外生命，但是咱们相信外星生命应该在咱们银河系傍边是存在的。不过跟着核算机人工智能技术的日新月异，特别ChatGPT的呈现，在曩昔一段时刻的体现，让人类感觉到了一丝恐惧。或许更高档的外星生命能够是硅基，有些智力是远超人类的，就像一些科幻小说傍边所体现的那样。

归纳各范畴科学家的观点来看，人工智能发生知道不存在物理定律上的约束，但现在人类对知道的了解和人工智能的研讨尚处于早期阶段，还需求时刻来验证。现在，尽管人工智能还无法要挟人类的生存，但需求尽快立法，推迟对人类社会的冲击。放眼整个宇宙，高等外星文明很或许是硅基的。