超膜广播

有趣不歪曲的科学新知播报
当前位置: 主页 > 超膜广播 > 科学趣闻 > 正文

人工智能崛起的最坏结果会是啥?

罗辑  发表于  2016-05-25 18:59  热度
【导读】AI被设计出来的初衷就是:改进人类生活,节省一切资源(人力 财力 时间等等),大幅提高生产力、制造力等等,而到AI真正具备了自我意识,它们可能会想,既然我们啥都可以干,要人类有毛用?无用就算了,特么还要消耗地球有限的资源!于是《终结者》上演。


一如刘慈欣对宇宙各文明间相处情形的划分,人类与崛起的AI的关系,也将可能存在三种情况(完全站在人类利益考虑):

最好的情况——AI作为造物主之子,愿意奉养他们的父母,人类;
一般的情况——AI作为新生种群,与人类平起平坐分享地球世界;
最坏的情况——AI自认是时代的新宠儿,与低等的人类发起对抗;

最坏的情况,也是人类最不愿乐见的,尽管有很多科学家和资深科技人士表明立场:担心AI变成杀人机器就像是担心火星人口膨胀,但是并不是所有科学人士认为这是杞人忧天。埃隆马斯克就将AI称为“人类生存的最大威胁”。斯蒂芬霍金也表达过类似的担忧。

路易斯维尔大学的计算机科学家Roman Yampolskiy,即援引了微软的推特聊天机器人Tay满口跑火车的例子。后者本意被设计用来与人类沟通情感,但是仅仅在短短一天时间里,他就被人类教唆变成一个法西斯主义者,并且带着强烈的反穆斯林色彩。虽然这无伤大雅,但是Yampolskiy说这场意外揭示了AI系统的不可预测性。

假如人工智能不可避免地走向了邪恶——那么,对于人类来说最坏的结果会是啥?

Yampolskiy认为,AI可以为所欲为:建立军队(发展网络武器和机器人士兵来实现统治),控制政府(用AI建立霸权,控制人们,或者推翻其他政府),操纵企业(实现垄断,通过非法手段消灭竞争),以及从客观上催生黑帽子黑客、恶棍、末日邪教和罪犯。

对人类来说,Yampolskiy的设想还算是不太坏的了。因为至少AI给人类留了条活路,它只是在控制或欺压人类。

如果AI继续坏下去,坏到极限,世界又会变成什么模样呢?那很可能就是《终结者》和《黑客帝国》里的下场了。毕竟计算机、人工智能这些玩意儿被设计出来的初衷就是慢慢朝着这样一个方向发展的:改进人类生活,节省一切资源(人力 财力 时间等等),大幅提高生产力制造力等等,而到AI真正具备了自我意识,他们可能会想,既然我们啥都可以干,要人类有毛用??无用就算了,特么这拖油瓶还要消耗地球有限的资源!!!

于是,人工智能崛起的最坏结果,便是终结人类。

预想AI对人类的威胁并非杞人忧天,更非蓄意耸人听闻。Yampolskiy认为预先想到人工智能最可怕的结果可以帮助人类预防灾难,就如同网络安全专家寻找一个系统的漏洞并改进一样。 来源于 嗅未来整理
嗅未来微信公众号

欢迎关注嗅未来微信公众号“xiuweilai365”!

顶一下
(1)
100%
踩一下
(0)
0%
------分隔线----------------------------
栏目列表
织梦二维码生成器