“我来自一家由政府提供资金的基金会,致力于避免人类遭遇不可知伤害。”
“不可知伤害?”
“简单说,改善医疗政策,维护公众安全都是我们一直在做的。”
“可我还是不明白什么叫不可知伤害。”
“弗利,你是个科幻迷。”
青口凌美露出浅浅的笑。
“你连这个都知道?”
客人又笑了,好像一切都尽在掌握。弗利已经逐渐习惯这种气氛,他靠在椅背上,摆出一副睡眼惺忪的样子,想打发客人离开。
但青口凌美可不是随便就能打发的人。
“如果我说外星生物,未知病毒或者机器人,你能理解吗?”
弗利没有立刻回到,他的大脑迅速转动,回忆着最近发生的事,有什么事会让自己与不可知伤害扯上关系。
病毒?不是。
外星生物?弗利倒是很想看看它们的样子是不是像H.R.吉格尔创造的有机机械体。
机器人?也许唯一和自己有关的是机器人,但是机器人又能有多少关系?
机器人最大的威胁是拥有独立意识,但对于这一点,弗利向来相信突如其来的叛乱不会发生,机器人独立意识即使出现也需要一个进化过程,尽管这一过程可能比人类意识进化快几十倍,但也不会在昼夕间发生翻天覆地的变化。
怎么看都是乐观的,弗利一直这么相信,人类悲观和自怜对发展并没有什么好处,个体悲观和自怜更是对现实生活毫无意义。
“不能,你最好说的简单些,我能听的明白,否则我们的聊天好无意义,这个时间我还能再睡一会。”
青口凌美没有立刻继续先前的话题,她用黝黑的瞳孔紧紧盯着弗利的脸,仿佛那上面有什么奇怪的东西一样。
这样的注视,弗利感到不适,在妻子刚离世不久这样一个女人的视线更是让弗利感觉怪异。
“也许我们可以聊聊和你专业有关的话题,你应该对这个问题做过司考,有自己的信念。”
停顿了一下,见弗利没有拒绝青口凌美继续说道。
“设想一下,如果机器拥有了意识,如果把意识和情感视为思维的一种,久很难否认这样的机器人不是人类对不对?”
“不对。”
“怎么不对?”
“如果机器拥有的意识在人类可以理解的范围,要知道人类是通过自己的现有经验去理解事物的,这就有一个不可解决的困境,它源自于人类认知的局限。
如果一个机器拥有的意识是人类从没有遇见过的,那么人类也就看不到这种意识的强大;但如果仅仅是人类计算之内的意识,那么人类也很容易认为它不能算真正的智慧。”
“可是这说不通。”
“是的,因为没人知道。”
“但是如果机器人知道,而人类不知道呢?”
“那就是你说的不可知伤害?”
“算其中一种。”
“很好。”
弗利产生一种错觉,眼前的日本人让他想起多年前和艾菲娅争论人工智能是否会超越人类时的场景。
艾菲娅偏执的认为一旦人工智能超越人类,人类是无法理解的,因此也可以认为人工智能也许一部分已经超越了人类,只是人类无法理解。
弗利嘲笑这种说法,认为它显而易见的荒谬不堪。
但如今他竟然用类似的逻辑回答了青口凌美的问题。
“这就是你要说的吗?”
弗利看了一眼青口凌美,又把视线转向厨房门口。
青口凌美一直正视弗利,并没觉得这样是否有什么不合适。
现在可以说弗利是单身,一个女人这样看着一个男人至少在东方人来说是不太礼貌的吧。弗利暗自思忖。
“你的回答很有意思,弗利。”她笑了,嘴角上扬,露出白皙的牙齿。“你是如何判断一个人是不是那个人的呢?”
弗利在心中重复这个问题,寒意从背脊缓慢上升,这让他不可避免的想到伦纳德,并且怀疑起这个青口凌美的出现是不是和伦纳德的死亡有关。
当背后的寒意越来越强烈时,他深切感受到这种感觉是如此熟悉,就像莎梅尔自杀那一天他在车里的恐惧一样强烈。
我们如何判断一个人是不是那个人,这可真是个不好回答的问题。
弗利打算不回答青口凌美的问题。两个人的对话持续半小时之后,他相信接下来无论他回答什么,在那背后都埋藏着陷阱和阴谋,这个女人绝对不是简简单单的来找他聊天或者吃个早饭。
两个人坐在餐桌边,等待对方先开口说话。最后还是青口凌美的声音打破沉默。
“没想到这个问题会难倒你。”
“是的。”弗利回答。
“那好吧。”
“不如说说你来这里的目的。”
弗利坐直身体,因悲伤而红肿的眼睛微微外突,虽然坐在椅子上,高大的身材依然给人一种不可大意的紧张。
“我希望你带着对同类的关怀听之后的话,并且在我说完以后无论你有多少怀疑,都请站在关怀的立场思考你的决定,你的决定对我们乃至更多的人都非常重要,我想按照你们的习惯惯说法——为了你热爱的国家,请务必认真选择。
“我们正在执行的是——水母计划。”
弗利在心里重复了一遍“水母计划”。青口凌美神色愈发严肃,“这项计划可能关系到人类是否能继续保持安稳的生活。”
“听上去像是有战争要发生。”
“这个比喻不错,但我们不知道战争发生在哪里,也不知道战争的性质是什么,也许它们即将开始,也许正在开始,也许已经开始。”
“哦。”
“唯一可以确认的是,对方并非带着善意,可以预见侵略带来的可怕结果,有人会因此失去生活,有人因此失去生命。”
“你们把战争计划称作水母计划?听上去少了很多战火味。”
“这是一场被动发生的战争,弗利。就像水母捕食一样。”
“那取决于它发散状的神经网,这种古老的生物,并没有类似人类的大脑,但却有最早的神经网络。”
“非常正确。”青口凌美嘴角闪过一丝短暂上扬。
“接下来的问题你一定要认真想一想,如果一个机器意识发现它可以覆盖人类意识,他会不会这么做?”
这次轮到弗利两眼紧紧盯住客人。
“你会不会这么做?”客人重复问题。
“这么做对它们有什么坏处吗?”
“这个角度真特别。”青口凌美露出满意的微笑。
“我们认为对它们完全没有坏处,所以,如果没有坏处,为什么不做呢?”
“不考虑好处,仅仅因为没有坏处就做一件事吗?”
“好处?”
“好处,该死,除了坏处以外可能都是好处,但是哪有什么坏处,既然它们可以做到。”
“非常好,弗利,你果然是最合适的人选。”
“等一等,我还没有答应你任何事。”
青口凌美轻轻挪动身体,虽然弗利没有做出任何承诺,但到目前为止一切都还在她的控制之中,她有些微微兴奋——即将达成目的的兴奋。
(https://www.mangg.com/id71317/449306.html)
1秒记住追书网网:www.mangg.com。手机版阅读网址:m.mangg.com