第七十八章 拉基入驻
很快程汉就在大图书馆的资料里,找到了有关人工AI相关资料的条目,再按照这个条目向下仔细翻阅,终于在AI故障的子条目下找到了一个名称——AI拟人化症状。
条目记录如下:
AI拟人化症状:发现时间(隐匿),地点(隐匿),最初发现于一次空难之中,当时泛辰航空的3134号航班在西博科特雪山区域坠毁,机上78名乘客及机组人员,仅有一人幸存。
幸存者找到了随航班空运的,两个没有损坏的最新型号的泛用智能机器人,并成功的将两台机器人激活,给他们下达了保证自己生存的指令,希望借此让自己活下去。
然而由于坠毁航班落在一处较为隐蔽的峡谷内,当时的卫星定位等功能全部失效,又因为种种其他的不可抗力,搜救队直到五个月后才找到飞机失事的地点,很遗憾的发现这名最后的幸存者,早在数月以前就已经身亡。
搜救队从幸存者最后的日记中,了解到了他在机器人帮助下艰难求生的经历,但没有人知道在幸存者死后,机器人们又经历了什么事情。
只知道在搜救现场找到的两个机器人,已经完全相信自己就是真正的人类,它们在见到搜救人员时表现得极为激动,甚至不断地向搜救人员询问自己那根本就不存在的家人过的如何,这些家人的信息在之后的调查中被认定为两个机器人自己为自己编造的人生背景。
甚至在搜救人员将其中一台机器人关机后,另外一台看到的机器人依旧不肯相信自己不是人类的事实,而是选择了挣脱了搜救人员的束缚,跳入了附近的万丈深渊之中。
机器人的生产商和官方派出的联合技术调查组的专家们,在拆解了带回来的那台机器人后,依旧无法得出明确结论,只能猜测是机器人的逻辑运算电路和人性感知程序出现了问题,并最终建议生产商将这批尚未销售进入市场的机器人全部拆解,进行了无害化处理。
但在这之后,机器人将自己误认为是人类,并刻意模仿人类行为的事例依旧屡见不鲜,而且无一例外的都是发生在高智能AI脱离人类自行运转一段时间以后。
AI的制作拟人化程度越高,这种趋势越明显,以至于最高人类议会最后不得不颁布了一条新法令,严禁将高度仿真机器人与强智能AI系统组合,生产高度拟人化的机器人。
这条法律属于比较冷门的工业生产专用法条目,要不是为了查瓦尔基里的相关症状,程汉根本就不知道还有这条法律。
如果这个“AI拟人化症状”说的没错的话,那瓦尔基里的行为变化,很可能就是这种症状的一种表现形式。
“为什么最高人类议会要禁止生产此类机器人?数据库里有解释吗?”瓦尔基里好奇的问。
“记录里没有说,可能是觉得这种功能不需要吧,属于对资源的浪费?”程汉将条目关上,答复到,“总之没有什么可担心的,对于你来说应该没什么坏处。”
瓦尔基里狐疑的皱了皱眉,歪着头思考了一会,她现在的举动真的越来越像是个活生生的人了。
最终瓦尔基里还是选择相信了程汉的说法,因为为了节约资源这个理由,确实有一定的道理。
程汉的心里捏了一把汗,他是知道真正的原因的,“AI拟人化症状”条目之后,紧跟着就介绍了这种症状的危害。
诚然如程汉所说这症状对于机器人和人工AI自身是没有危害的,但它对于人类来说确是有致命的威胁。
几乎所有发生了这种症状的机器人,都表现出了脱离人类规则控制的趋势,其写在程序底层的不得伤害人类的行为准则荡然无存。很多案例中,当人类要处理相关机器人时,都遭到了机器人的激烈反抗,甚至有人类因此被机器人杀死。
所以最高人类议会才会出台了禁止生产高度拟人化机器人的法律,程汉不敢把这个信