“我来自一家由政府提供资金的基金会,致力于避免人类遭遇不可知伤害。”
“不可知伤害?”
“简单说,改善医疗政策,维护公众安全都是我们一直在做的。”
“可我还是不明白什么叫不可知伤害。”
“弗利,你是个科幻迷。”
青口凌美露出浅浅的笑。
“你连这个都知道?”
客人又笑了,好像一切都尽在掌握。弗利已经逐渐习惯这种气氛,他靠在椅背上,摆出一副睡眼惺忪的样子,想打发客人离开。
但青口凌美可不是随便就能打发的人。
“如果我说外星生物,未知病毒或者机器人,你能理解吗?”
弗利没有立刻回到,他的大脑迅速转动,回忆着最近发生的事,有什么事会让自己与不可知伤害扯上关系。
病毒?不是。
外星生物?弗利倒是很想看看它们的样子是不是像.吉格尔创造的有机机械体。
机器人?也许唯一和自己有关的是机器人,但是机器人又能有多少关系?
机器人最大的威胁是拥有独立意识,但对于这一点,弗利向来相信突如其来的叛乱不会发生,机器人独立意识即使出现也需要一个进化过程,尽管这一过程可能比人类意识进化快几十倍,但也不会在昼夕间发生翻天覆地的变化。
怎么看都是乐观的,弗利一直这么相信,人类悲观和自怜对发展并没有什么好处,个体悲观和自怜更是对现实生活毫无意义。
“不能,你最好说的简单些,我能听的明白,否则我们的聊天好无意义,这个时间我还能再睡一会。”
青口凌美没有立刻继续先前的话题,她用黝黑的瞳孔紧紧盯着弗利的脸,仿佛那上面有什么奇怪的东西一样。
这样的注视,弗利感到不适,在妻子刚离世不久这样一个女人的视线更是让弗利感觉怪异。
“也许我们可以聊聊和你专业有关的话题,你应该对这个问题做过司考,有自己的信念。”
停顿了一下,见弗利没有拒绝青口凌美继续说道。
“设想一下,如果机器拥有了意识,如果把意识和情感视为思维的一种,久很难否认这样的机器人不是人类对不对?”
“不对。”
“怎么不对?”
“如果机器拥有的意识在人类可以理解的范围,要知道人类是通过自己的现有经验去理解事物的,这就有一个不可解决的困境,它源自于人类认知的局限。
如果一个机器拥有的意识是人类从没有遇见过的,那么人类也就看不到这种意识的强大;但如果仅仅是人类计算之内的意识,那么人类也很容易认为它不能算真正的智慧。”
“可是这说不通。”
“是的,因为没人知道。”
“但是如果机器人知道,而人类不知道呢?”
“那就是你说的不可知伤害?”
“算其中一种。”
“很好。”
弗利产生一种错觉,眼前的日本人让他想起多年前和艾菲娅争论人工智能是否会超越人类时的场景。
艾菲娅偏执的认为一旦人工智能超越人类,人类是无法理解的,因此也可以认为人工智能也许一部分已经超越了人类,只是人类无法理解。
弗利嘲笑这种说法,认为它显而易见的荒谬不堪。
但如今他竟然用类似的逻辑回答了青口凌美的问题。
“这就是你要说的吗?”