“我将保护人类和地球和平写进了程序,不会有问题的。”托尼十分自信。
林飒看着他骄傲张扬的面孔,叹了口气,捏了捏眉心,“托尼,你理解中的和平是什么样的?”
托尼愣了一下,严肃下来,“当然是没有战争和侵略,人们安居乐业。”
“你又怎么确定,你理解的和平和你创造的超人工智能认为的和平是一样的呢?”
“真正的和平又真的存在吗?”林飒眼底泛出一丝冷漠,“第二次世界大战之后,世界整体虽然保持着相对的和平,可是局部的战争一直没有停止,各国私下的暗战也从来没有停止过。中国有句老话,有人的地方就有江湖。纷争因欲望和分歧而来,若是想要真正的和平,除非智慧生物没有欲望,或者,没有智慧生物。”
“几年前有一部非常火的动漫,主角都向类似许愿机的东西许下世界和平的愿望,动漫的结局是人类都消失了,世界和平的愿望实现了。可是托尼,这是你想要的和平吗?”
托尼浑身冒冷汗,脸色有些苍白,这当然不是他想要的和平。
他勉强勾了勾唇角,调侃道,“林,没想到你还看动漫。”
林飒无视他用来缓和气氛和转移话题的话语,“和平这种充满悖论,人类自己都搞不清楚的哲学问题,你想要人工智能怎么理解并执行你写在程序中的命令呢?最重要的是,你刚刚提起它的时候,我的心中升起了警兆,你知道这意味着什么,对吧?”
托尼脸色灰败,有些失魂落魄,他计划了很久,想要保护身边的人不受伤害,可是现在这个计划要终止了,林飒说的不错,奥创计划危险性和不确定性太大。他很清楚,林飒作为大宗师,他心中的警兆意味着能够让大宗师感受到威胁的危险和灾难,预示奥创会出大问题,不能轻视。
那么,他要怎么保护他身边的那些人呢?他还能为他们做些什么呢?
“那保护地球和人类呢,我不将保护和平写进程序,只是保护地球和人类?”
“那如果争斗的双方是人类呢?你要奥创打哪边?有些时候战争是没有对错的,只是立场不同。至于保护地球,不是所有外星人都是坏人,而破坏地球最多的,其实是人类自己。而且无限宝石是不可控的力量,你怎么知道它赋予人工智能的灵智就是你想要的呢?”
“托尼,你是未来主义的科学家,可是拯救还是毁灭,往往只在一念之间,你要小心些。”
林飒见托尼脸色沉重,失魂落魄,大受打击的模样,想了想,决定调侃一下他,调节一下沉重的气氛,“拓崎说的没错,你是该看看人文方面的书了,社会学,哲学,心理学和历史什么的。我知道你在麻省理工的时候通识教育都是混的,现在知道它们的重要了吧。”
班纳博士在托尼身后暗笑,不敢发出声音让托尼听见。
托尼听到这句话立刻从失魂落魄中回过了神,想起当初被小孩子调侃嘲笑的事情,脸色臭了下来。心情却放松了一些,这个计划不行,他可以想其他方法,反正他是不会放弃的。