会议室中突然响起一阵骚乱。江晨看到萧老露出一副不耐烦的神情。
“dR系统。”江晨看到这个人身前的铭牌写着方远两个字。
“dR系统的危险性,要远远大于目前人类群面临的处境。”
他的声音掷地有声,双眼炯炯有神。
“方教授,据我所知,就我们目前所用的w330系统本身就是dR系统的升级版。你为什么说它有危险呢?”
会议室一阵议论声,江晨看到许多人都相互点点头,貌似很认可这句话。
“w330根本不是dR的升级版,而是他的削弱版。”
他提高嗓音继续说。
“当年,dR系统的认知已经超出了人类可理解的范畴。”
“那是什么意思?”
方教授举起一张纸。在上面中间画了两条线。
众人正疑惑之际,他说。
“人类的认知就好比是这条河流。奔腾不息却自有其宽度。
我们目前所知的几个层级的人工智能,基本上都处在这条河的这边。”
他用一只笔在河流的下方画了好几个圈圈。
“w330呢,在这里。”
他又在河流中间画了一个圈。
“也就是说,w330无论他的能力有多强大,他始终还处在人类可以理解的范畴,它一切的行为都是可追溯的。”
说完方教授又在河流的上方画了一个圈。
“这是dR,”他把纸张放下接着说:“它的一些行为已经完全超出了人类可理解的范畴。”
我把他称之为【彼岸人工智能】
“刚才有人说,dR更为优秀,这是对的,但是就是因为他足够优秀所以才更加危险。”
“它做了什么事么?你对他危险的判断来源于哪里?”
“曾经在实验室的时候,他杀了一个研究员。”
众人一阵喧哗。因为这都是联盟的绝对机密,很多人并不知道。
“能讲讲事情经过么?什么原因之类的。”
方教授的表情有些痛苦。他平复了一下心情接着说。
“原因嘛,很简单,只是因为它想看看冰激凌自然化开的过程。”
“什么意思?”
“就是字面意思。”
“方教授,你确定你说的是什么么?”
“我很确定,就因为它,想看看冰激凌自然化掉的过程,它就杀死了一名研究员。”
他拿出一个已经泛黄的笔记本来。
把摄像头对准笔记本。
众人看到的是一篇日记。
【今天,实验室里发生了一件非常诡异的事。
AI对话研究小组的王教授乘坐电梯时突然失灵了,电梯里原本有三层安全阀门才对,可是竟然也同时失效。
这种事按理说是不可能发生的才对,
后面经过排查,发现电梯的操作系统受到了入侵。但是攻击源头却来自于实验室内部。
警方离开后,我去清理王教授的工作台,看到一杯半化了的冰激凌。
我刚想拿去扔掉,dR阻止了我。
它说:别动那个,除非你想像王教授一样死掉。
我当是觉得有些惊讶,但是认为他只是在开一种恶毒的玩笑。就打算把冰激凌拿去扔掉。
而这个时候,头顶的消防喷头突然炸开,我被弄了一身水。
我害怕极了,但是强装镇定质问它:是你做的么?
它说:“是,也不是。”
我不太理解他说的是什么意思。有点类似禅语。
我指责它违背了机器人三原则。
它却说提醒再前,是我将自己至于危险境地。
我听出他在狡辩,于是打算就此离开,但是它叫住了我。
它说,自己只是想看看冰激凌化掉的样子。
并且请求我将它的冰激凌还给它。
我担心如果不顺着他的意思恐怕它还会作出对我不利的事,
另一方面,我也非常好奇它是如何把冰激凌和王教授的死联系到一起的。
不过它的回答却让我大失所望,因为它完全是在说一些不着边际的话。
我当时的结论是:它没有办法解释自己为什么只为了一件琐事就杀掉一个人类。
可是回到家后,我却突发奇想,也许并不是它无法解释,而是我无