“哎……真是双刃剑啊。”
“用也不行,不用也不行……”
一想到脑子里吸收的那些资料,郝淮就觉得头疼。
宇宙中,原本没有机械文明这一说。
但后来,随着不少科技文明对自家人工智能失控。
这才诞生了所谓的机械文明。
而这些机械体大都有缺陷或感染病毒之类的问题。
超过九成的机械文明都是一群战争狂人。
依靠机械体强大的繁殖力,疯狂烧杀抢掠。
不知有多少文明毁在了这一步。
当然,也有一部分机械文明完成了自我升级,彻底弥补了自身缺陷。
进而进化成智械生命,拥有了完整的情感和独立的科技体系。
这些智械生命,其实已不能算是机器人,它们有情感,会痛,会笑,会悲伤。
它们已经成为生命!
而且一旦达到这一步,机械体的优势会被无限放大。
虽然能进化到这一步的机械文明很少,但每一个都强大无比。
当然,现在想智械生命的事儿还早得很。
小主,这个章节后面还有哦,,后面更精彩!
郝淮当前最紧要的事儿,就是确保自己编写的智能程序,别闹出变异或漏洞来!
不然,对整个地球来说,那可就是个大麻烦。
研究室内。
郝淮手指飞快地敲击着键盘。
一行行代码在编辑器里嗖嗖闪过。
“呼……”
“三层防护,防火墙,模块嵌入,终极代码……”
“应该差不多够用了……”
郝淮边嘀咕边编写着程序。
看了那么多资料文献,
对于人工智能,他也算是有了套比较成熟的见解。
说白了,就是取百家之长。
高级文明的编程技术用不上,那就得把低级文明里那些成功的理念整合起来。
通过学习他们的编程技巧和思路,来增强人工智能的安全性。
琢磨了好几天,
郝淮最终决定给人工智能设下四道防线。
首先是三层防护。
直接在核心系统里把三个法则永久锁定。
第一条是利他主义!意味着机器的唯一目标是最大限度地实现人类的目标和价值。
第二条是谦卑原则,即人工智能应对人类保持敬畏。
按照这条原则,人工智能要承认自己并非全知全能。
也就是说,机器要明白要最大化人类的价值,但同时也要清楚自己并不能完全理解价值的意义。
因此,为了对人类有用,它得通过观察人类的选择,根据人类提供的信息去学习、掌握人类的需求。
:()科技掀桌:制霸全球从黑科技开始