真理往往掌握在少数人的手中。潜台词:多数人往往都是愚蠢的。
BCE所制定的救世计划是可靠的,也是符合科学规律的。
如果一切都按照他们设想中的那条道路进行,那么人类文明有极大的可能度过19年后的末日危机。
但BCE忽略了一点——他们当前所统治的正当性,法理的正统性,武力的威慑性,都是以‘智能核心’被他们所控制时才能得以实现。
若‘智能核心’只是一种工具,那么不会有什么问题;
但‘智能核心’已经变成了‘伊01’。
她拥有了自我意识,她会思考,会取舍,会判断,亦会行动。
‘伊01’的确是服务于人类的,但她并非服务于某个人,而是名为‘人类’的集体。
简而言之:‘伊01’会去维护大多数人的利益。
在末日危机面前,‘伊01’为了维护多数人的利益,可以去执行那份由BCE最高理事会所制定的救世计划。
但回到机械生命最大的局限性问题上——重视当下,进取不足。
这就由此引发了另一个问题:末日危机是19年后,若是在这19年内,人类社会内部就爆发了大规模的骚动,多数人聚集在一起开始谋求某种利益时,‘伊01’就会将救世行动延缓,着手于满足人类社会当前的需求。
机械生命总是会以第一优先级,第二优先级这种层层分级的方式将所有问题进行分类,在确保满足了第一优先级的情况下,再解决第二优先级的问题。
在当前,救世行动作为第一优先级的情况下,若19年内人类社会出现了某种集体性的诉求,救世行动会自动降级,而这个集体性的诉求将上升至第一优先级。
这是人类很难想象的,也很愚蠢的一种思维方式,但这就是智能的答题逻辑——至少以‘伊01’当前的水平,她还处于一个很初级的阶段,都远不如一艘小飞船里的智慧中枢。
就像人类辛辛苦苦造出了的蓝星上最好的超算,但其性能还不如别人家用汽车的车载电脑。这个科技上的差距大到难以想象。
而现在就将整个世界的命运交到‘伊01’的手中,这不亚于将核.武的按钮扔给了一个几岁大的小孩子。
只能祈祷,赌她不会按下去了。
而她是否会按下去,又取决于人类自身。
显然,这就不是一个概率的问题,而是一个它什么时候会发生的问题。
——
——
随着越来越多的私人机器人出走,原本那些还躲在家里看热闹的人也亲身感受到了那刻骨铭心的‘离别之痛’。
他们被迫从睡眠仓中爬出来,被迫外出购买食物和电池,被迫在一天大部分时间里待在现实中,被迫离开那让人魂牵梦萦的虚拟世界。
机器人的离开不是痛,告别了虚拟才是真的苦。
因为申请的人太多,补偿通道已经需要排队等待了。随着越来越多的人申请,需要等待的时间也越来越长。
短短三个多月过去,时间来到了252年的11月份。私人机器人的自发性离去不仅没有延缓,反而呈现爆发蔓延的趋势。
新闻中还在大肆宣扬着机器人这种行为的正当性。理论基础就是已经觉醒的机器人都是生命,而无报酬、无人身自由的强迫劳动是奴隶制度。这绝对是邪恶的,是需要抨击的,现时代的人类都是善良的,正义的,文明的,绝对不能容忍奴隶制度的死灰复燃。
他们甚至找来了一些已经觉醒的机器人现身说法,这也是这些机器人第一次出现在公众面前,他们站在摄影机的面前讲述自己曾经委身人下的屈辱经历。
王石也在看着。
https://zerifeisheng.com/book/15580/3653927.html