js金沙国际_金沙国际唯一官网

热门关键词: js金沙国际,金沙国际唯一官网
来自 数理科学 2019-12-26 08:40 的文章
当前位置: js金沙国际 > 数理科学 > 正文

我们离人工智能只有十分钟——从7部电影说起

看起来这似乎足够保护人类了,其实完全不行。

js金沙国际,最后,我想我的这篇文字,在某年某月的某一天,也会被某个人工智能读取,然后下一秒,人类就毁灭了~

时间,平等,沟通和爱

也许是时候退一步了,想想我们现实中最伟大、又离我们最近的那个无处不在的“人工智能”。孩子。我们是怎么教会孩子不要把我们都杀掉的呢?

我们用十八年甚至更久的时间和他们相处,缓慢而逐渐地影响他们的世界和心智。

我们从开始的居高临下教导一步步走向平等,最终把他们看做和我们一样的人。

我们不间断地与他们沟通,聆听他们的困惑,帮助他们解决——往往也帮助了自己。

我们爱着他们。他们也爱着我们。

这也许是唯一有过成功先例的办法了。孩子是我们的造物,但同时也是独立的个体;我们可以教导他们,但不可能永远控制他们。怎么可能有哪个个体既拥有卓绝的智力、想象力和创造力,又完全处于另一个个体的控制之下呢?如果我们想要一个能够绘画作曲的AI,能够处理现实复杂问题的AI,能够陪我们聊天谈心的AI,像人一样甚至比人更好的AI,可能我们最后会发现,除了给它以自由,我们别无选择。

因此面对超级AI,最终的解决办法,也许是放手。把知识和世界观教给它,和它一起探讨和思考。世界正在飞速变化,没有人真正知道应该怎么办,我们可能必须和我们创造的AI一起前进,而不是徒劳的试图用枷锁和条文去“控制”它。毕竟,就算我们拴住了AI,我们自己毁灭自己的能力,可是丝毫没有变弱呀。

更多复仇者联盟2的科学解读,请戳专区:

js金沙国际 1

这两天刚好有时间,所以连着看了三部电影,很巧的是,这三部都是讲人工智能的。以下剧透,读者慎入。

  • 机器人不得伤害人,亦不得因不作为而致人伤害。机器人必须遵循人的命令,除非违背第一定律。机器人必须保护自己,除非违背第一或第二定律。

第二部是《机械姬》,其实这部比妇联2(复仇者联盟2)好看多了,昨天去电影院看妇联之前我把这个看了一半,看完妇联之后我回家赶紧把这个剩下的一半看完了。这部讲的是大老板让小程序员去测试人工智能机器人,最后人工智能机器人骗了程序员的感情,让程序员协助她出逃,过程中把大老板也干掉了。情节悬疑、画面细腻,非常好看。

许多科幻迷都会记得阿西莫夫的机器人三定律:

从这三部我们看到什么,看到:

如果我们有一个程序可能造成危害,标准的做法是让它运行在一个严格监管的虚拟机里面——这样它最糟也不过是把虚拟机给弄坏了。AI也可以照此办理嘛。对于别的程序来说,这么干的确是没问题。但现在我们面对的可是一个智力超群的AI,而且看管它的还是人。人类囚犯尚且有可能靠欺骗、说服或者威胁,让狱卒开门,AI呢?想象一下你一觉醒来发现自己被一群老鼠关在监狱里,你还能和它们沟通,这种情况下脱身有多难?你真的能永远抵御住AI的超人智能吗?就算人能做到,我们用来关AI的虚拟机也能保证永远万无一失吗?

最后,人工智能很可能不是渐进式的发展,而是指数级的,前一小时可能只了解了人类知识的10%,但后一秒钟可能就理解了剩下的100%。那么这个“奇点”我们如何知道。在美剧《疑犯追踪》中,反派人工智能为了研究人性,甚至买下了一个小镇开展各种人性实验,这种厚积薄发有着超强的破坏力。

所以,把盒子打开,放我出来吧?

第二,人工智能往往无法理解人类的价值观,何况人类的价值观从来就不是不统一的。不仅是上面妇联2中说到的“奥创”,还有《超验骇客》中的男猪脚化身电脑之后,认为控制人类才是让人类幸福的源泉。在科幻界,有一个很著名的关于人工智能的说法叫做‘回形针实验“——一个设定为制造回形针的智能机器,为了制造回形针,学习了整个互联网,控制了无数的资源、工厂、人类,最终整个地球堆满了回形针、人类却灭绝了。

本文由js金沙国际发布于数理科学,转载请注明出处:我们离人工智能只有十分钟——从7部电影说起

关键词: