机器得承认,人类才是需求的主导。
第三条原则是根据人类行为给机器设定偏好并提供依据。
这么设定是因为机器往往不清楚如何具体实现人类的价值。
但这不要紧,人类可以协助机器实现。所以要加强人机互动。
因为郝淮构想中的机器人,目的不仅仅是为了满足某个人或用户的需求,而是要遵循大家公认的道德价值观。
比如,人可能会犯错,做出违背道德的事。但郝淮不想让机器人模仿这些行为。
相反,他希望机器能尝试理解人类行为的动机,理解普遍的道德观念,并在适当时候阻止人类做不应该做的事。
这三条看似宽松实则严格的法则,不仅能限制机器人自我发展的潜力,还在某些适度宽松的地方,留给了机器人自我逻辑完善的余地。
防止因某些设定过于极端的法则导致机器人逻辑矛盾,进而引发故障。
这三个法则将直接焊死在核心代码里,永不可改。
“法则之后,就是防火墙和模块接入……”
“如果能确保法则不出问题,接下来就要保证病毒进不来。”
郝淮捏了捏鼻子,眼神也锐利了几分。
在那些机械文明中,有的因编程时的漏洞导致人工智能失控,有的则是人为因素。
因此,郝淮在吸收大量资料后,决定将核心代码纯净化!
简单讲,就是核心代码会被防火墙严密包裹。
日常运行通过复制的镜像系统进行。
而且,核心代码不接纳任何第三方程序。
这就是防火墙和模块接入的含义。
用防火墙保护核心代码,再通过镜像系统与所有第三方程序连接。
这样一来,所有外部程序都将以模块化形式存在。
一旦发现病毒,就能迅速隔离带毒模块。
就算病毒侵入系统,也能直接销毁镜像系统,然后重新复制一份。
平时,核心系统完全不参与工作,
也与所有模块完全隔离。
只有当镜像系统出问题时,才会人工复制一份新的。
只要核心系统不受病毒感染,就算病毒再厉害,也无法对人工智能构成威胁。
就像电脑杀毒,最粗暴的方法就是重装系统!
而守护核心系统的防火墙,郝淮计划定期升级。
确保防火墙技术始终领先地球二十年!
这样一来,即便有天才出现,在郝淮反应过来前破解防火墙也很难。
只要给郝淮反应时间,就算有问题,他也自信能解决。
至于最后的终极代码,
那就是杀手锏了。
真到了核心代码都被污染,无药可救的地步,
这个代码会摧毁所有程序!
一切归零!
虽然代价不小,但与人类安全相比,根本不值一提。
这四道锁将从各个层面彻底锁死人工智能。
要是这样还能出问题,
那只能说地球真是多灾多难了。
“就是这工作量有点大啊!”
“算了,先搞定核心代码和三大法则。”
“其他的一步步来吧。”
整理了一下思绪,
郝淮揉了揉有些发疼的额头。
这不是过家家,这么庞大的防御体系,容不得半点差错!
必须慎之又慎!
用最简洁的编码,编写出所有的代码!
…………
正当郝淮全身心投入人工智能时,
五月中旬,宣传已久的王伟松,终于要向全球汽车厂商发起挑战了。
在夏季新车发布会上,
比亚迪的新款电动车无疑是全场的焦点!
比亚迪也没让人失望,
直接发布了新一代比亚迪电动车。
其中最吸引眼球的,莫过于那辆代号“蚩尤”的四门超级跑车!
锋利的外形,霸气的设计。
正面看有点兰博基尼的味道,从后面看又有几分美式风格。
但整体融合得非常好,照片一上网就吸引了无数人的目光。
“哇靠!这小跑车太酷了!”
“这真是比亚迪?”
“爱了爱了!”
“重点难道不是价格吗?”