直到几十年后,他们放出去的无人机观察到,有一架没有携带识别码的飞船在这个星球的表面迫降了。
两台主机迅速给自己下达了搜救任务的指令。
然而迫降地点离两台主机的大本营都比较远,等他们的搜救机器人队伍到迫降地点时,飞船里已经没有活人了,当时的他们并不知道有活人撤离飞船,于是他们只在损坏的飞船里拆下了数据库。
后来,他们破解了迫降飞船的数据库。
“数据库里的信息显示,这是一架海盗船。”典狱官这样说道。随着他的话音,主机房里的显示屏上显示出了那条飞船的样子,还有当时数据库里的一些信息。典狱官说“我们当时并不知道那条船上还有活人,直到数据库破解后才知道,这条船上有很多人活着离开了飞船。但是这批人并不是海盗,他们是被海盗劫持到这条船上的。”
这个故事大体是这样的:一个刚刚进入宇宙不是很久的文明,搞出了一个殖民舰队,在茫茫宇宙中寻找新的宜居星球,一伙太空海盗袭击了这只殖民舰队。但是,不知道海盗们出于什么考虑,他们没有杀死殖民舰队上的人,而是把这些人转移到了自己的一条足够大的船上。再后来,这群海盗很是悲剧的进入了诺斯财团的秩序圈,被财团的巡逻队追着锤了几千光年,最后这条船在依奎恩迫降了。这群太空海盗人生中干的最后一件好事,就是竭尽全力让这条带着十万人的大船迫降在星球表面而不是坠毁。
“这就是这台海盗船的数据库读取出来的最后的记录了。”典狱官说道。“这之后不久,无人机找到了这些人的踪迹,也就是从这时候开始,我和大法官发生了意见分歧。”
石慎问道:“为什么你们两台电脑还会产生意见分歧的?”
“因为人工智能三定律”典狱官回答道,不知道是怕石慎他们几个不清楚,还是怕读者不清楚,总之他又重复了一遍三定律“诺斯人的利益高于一切,人类的安全高于一切,文明的前进高于一切”他说到这里,又补充性的解释了一下“和旧时的机器人三定律不同,这三条首先是等阶的,没有前后高低之分;其次是在高级人工智能主机上,如何理解和执行这个三定律,人工智能只要原则上不违背这三条,怎么理解和执行是由人工智能自己决定的。”
“还能这样……?”石慎惊讶的瞪大了眼睛。
“因为要让人工智能更有‘人性’,所以设定成这样,两万多年前在第一次人工智能战争之后改成这样了”韩狗蛋虚着眼睛懒洋洋的补充道。
“韩威长官说的完全正确,当然,在正常情况下,这三条定律是不会有矛盾的,因为诺斯、诺斯人、诺斯文明彼此没有任何冲突,到了诺斯秩序圈的其他文明,这三条也不会产生任何冲突,哪怕是遇到一个无主权文明,第二、第三定律也可以正常发挥作用。”
“但是这伙人从海盗的船上下来,相当于带有海盗的识别码,从识别码来判断是反诺斯的一方。但是从文明、从人类角度又似乎应该属于被保护方,所以你们的逻辑算法就冲突bug了呗……”韩狗蛋继续虚着双眼吐槽道。
“我很遗憾,不过确实是这样的,所以飞船的主机认为应该对海盗进行审判,但是一台主机是无权审判人类的,所以他给自己下达的任务是:‘把海盗捉起来——造一条能飞的船——飞回诺斯秩序圈——把海盗交给有权审判他们的人’;而我认为应该优先正视他们作为独立文明的事实,所以我给自己下达的任务是‘协助他们重建文明,同时想办法让自己重回太空’”典狱官停了一下,石慎认为典狱官如果有表情肯定回挤出一个苦笑的表情来。“但是我们在联网状态下,可以读取到对方的任务,因此当我们看到对方的任务后,我们同时更正自己的任务顺序为:优先阻止另外一台主机的行动,然后执行自己的任务。”
https://zerifeisheng.com/book/67232/26614520_2.html