人工智能真的会毁灭人类吗?

本来是一项为了维护世界和平的研究计划,突然转变成为一场灾难,人类面临着被智能机器人“奥创”毁灭的风险,钢铁侠、美国队长、绿巨人、雷神等一众超级英雄,再次联手拯救了地球……没错,这就是今年五月即将上映的《复仇者联盟2:奥创纪元》的故事情节。

116293908

《复仇者联盟2》被定义为超级英雄科幻大片,故事情节离现实还有非常遥远的距离,但“人工智能毁灭人类”不得不触动我们的神经。

1956年,“人工智能”这一学术术语首次被提出,“人工智能”也正式成为了一门新兴学科。但在随后的几十年里,”人工智能“给我们的印象更多地是在实验室以及电影里。但在2013年前后,以谷歌(微博)、微软、Facebook为代表的科技巨头接连入局人工智能领域,再加上鸿海等厂商计划利用机器人工作,“人工智能“逐渐走进了我们的生活。

面对科技界一股前所未有的”人工智能大潮“,马斯克、盖茨等科技大佬坐不住了。2014年8月,马斯克在Twitter发布一条状态:“Bostrom撰写的《超级智能》一书值得一读,我们必须对人工智能超级谨慎,它的潜力可能比核弹还危险。” 比尔•盖茨 也在最近的一次活动上表示,机器将取代人类从事各种工作,如果我们能够处理得好,它们应该能发挥积极作用。可是数十年后,人工智能将发展到足以令人担忧的程度。

人工智能的隐患:或冲击现有社会体系

116293910

2月初,致力于“降低人类面临的现存风险”的生命未来研究所(Future of Life Institute)的数百名顶尖科学家在一封公开信中签名,公开信呼吁科技界在推动人工智能发展的同时,彻底审视人工智能的发展将对人类社会产生怎样的影响。

这封信的作者承认,人工智能在语音识别、图像分类、自动驾驶汽车、机器翻译和答疑系统等领域取得了显著成功,并认为这些研究有助于消灭疾病和贫困。但他们坚持认为,“人工智能系统必须做我们希望它做的事情”,科学界应确立 “有助于最大限度提高人工智能社会效益”的研究目标。

公开信强调,未来的人工智能可能在计算机安全、经济、法律和哲学等领域影响社会,但就是这种无处不在的潜在性,可以引发多方面的危机。例如,科学家们认为,如果未来经济的某些部分变得自动化,工人以及工人工资会受到很大影响,人工智能专家们不得不要重视。人工智能应该正视下列问题:致命的自动化武器是否符合人道主义法? 当人工智能系统从监控摄像头、电话线路和电子邮件中收集数据时,如何避免侵犯隐私权?

来自英国牛津大学的一群学者去年在一篇博客文章中写道:“当一台机器发生错误,其错误方式可能比人的失误更有戏剧性,可能会带来更多不可预知的结果。简单算法在很大程度上是可预测的,但在不寻常的情况下,它可能作出离奇的决定。”

116293911

与这些比较现实的问题相比,知名科学家霍金想的更为长远。霍金在接受BBC采访时表示,如果技术具有与人类类似的能力,“它将脱离控制,并以加速度重新设计自己。更可怕的是,由于生物学意义上的限制,人类无法赶上技术的发展速度。“霍金对人类的未来表示担忧:“人类由于受到缓慢的生物进化的限制,无法与机器竞争,并会被取代。全人工智能的发展可能导致人类的终结。”

从这些科学家的言论中,我们可以看到,科技界、科学界对人工智能的担忧主要来自两方面:一方面是人工智能对人类工作、生活方式的改变,可能影响到现有的法律体系、道德标准以及利益分配的模式等等,而人类做出改变的速度未必能跟的上人工智能的发展速度,这就会对社会现有的体制造成冲击,从而引发混乱;另一方面是,人工智能让人类越来越缺乏思考,而其自身则有可能越来越聪明,从而威胁到人类的生存。

预言成真?“毁灭论“有些危言耸听

116293912

对于马斯克、盖茨、霍金等人的言论,谷歌董事长施密特率先发起反驳。施密特的身份很特殊,作为谷歌的董事长,他曾亲身参与许多世界上最复杂的人工智能系统的研发,从自动驾驶汽车到谷歌的预测性搜索引擎等,谷歌去年甚至还推出了自己的内部机器人实验室。施密特认为,所有对机器将抢走人类工作、占领世界的恐惧都毫无根据,并且希望人们能够意识到:机器人会成为我们的朋友。

施密特说:“对于人工智能的担忧,都是正常的。但是回顾历史你会发现,这些绝对是错误的。我们只是希望能通过更多机械化的方式,能让我们穿上更好的衣服,而且历史的经验已经证明,过去的经济繁荣时期,大多数是因为采用新技术而引发的。”

IBM全球副总裁王阳也曾对腾讯科技表示,当科技取得突飞猛进的成果时,总是让人感到害怕,但真正重要的是掌握技术的人。“总是有邪恶的人用新技术来捣蛋”,技术的发展是势不可挡的,比如在好莱坞大片中,经常可以看到邪恶势力滥用高科技技术,但人类必须尽快掌握这些以抵抗非正义者的侵略。总之,对于新技术的发展,难免会存在争论,但科学的进步总归是为人类带来更美好的未来。“

托尼•科恩是英国利兹大学自动推理教授。他说,完全的人工智能“还有很长的一段路要走,从现在发展的速度来看,我认为仍然需要几近上百年。”科恩认为,说尽管识别程序和语音识别取得了长足进步,在开放混乱的环境里,机器人表现很差,人工智能最终面临的最大障碍是“机器毕竟是机器“。

从多数的人观点来看,“人工智能毁灭人类”的论断似乎有些夸张,现有的科学技术只能让机器从事一些较为基础的事情,例如生产线上的一些固定动作等等,甚至连无人驾驶汽车上的智能系统都并不完善,更谈不上人工智能具有思维、情感,能够对人类的生存造成威胁。但是有一点却不能忽视,随着科学技术的进步,自动化的人工智能会越来越多地出现在我们的工作、生活,机器代替人类工作很有可能在不远的将来成为现实。

无人驾驶汽车算是最接近我们的一种人工智能,但除了技术因素外,它还面临很多挑战。例如,谷歌无人驾驶汽车出了车祸,造成了严重的后果,是车主、谷歌,还是驱动汽车的算法、感应器以及所有控制系统来负责交通事故?很遗憾,现有的法律系统未能跟上现代社会、企业或机器人发展的步伐,根本给不出明确的答案。

我们还应该想到,当机器人让大批工人失业时,我们该怎么办?当机器人误操作引发事故,现有法律如何厘清责任?当黑客借助人工智能犯罪时,我们又该如何防范?这些都应该是我们现在需要正视的问题。

分享这个页面
推荐阅读 查看更多