第481章 真实与虚假

章节报错(免登陆)
下载APP,无广告、完整阅读

笔趣阁(biquge321.com)更新快,无弹窗!

是如此奇妙。
    同样的,这也是人类社会第一次需要学著怎么和人工智慧相处,怎么引导她朝著正确的方向发展。
    这就和新手父母养育第一个子女是一个道理,总是小心翼翼。
    不过我想,无论如何,真诚才是必杀技。
    你需要做的就是做你自己,告诉希瓦娜什么是真实的世界。」
    徐贤认真点头:「我会的!」
    林燃咧嘴笑了笑:「我相信你能做到,Pony跟我提议说,让你来深红工作,全程参与到希瓦娜的培养过程中来。
    我思考之后认为不合适。
    还是有距离比较好。
    既然希瓦娜是社会化诞生的产物,不管她在底层依然只是代码,还是说她已经完成了向数字生命的跨越,我都要把她当成是数字生命来对待。
    你和希瓦娜的相处,也必须维持这种社会化的真实环境。
    如果你在深红工作,你能看到她的核心代码库、实时数据流、后台参数、各类函数的返回值,甚至能直接修改她的向量嵌入。
    告诉我,阿贤。当你能直接看到她的底层逻辑和技术架构时,你还会觉得她是真实存在的吗?
    你还会觉得她是一个独立的生命吗?
    你还能保持你对她那份跨越维度的信任和尊重吗?」
    徐贤沉默了,本来他觉得Pony的建议不错,在交大固然很好,但来深红科技又未尝不可?能和希瓦娜朝夕相处。
    在林燃的思考面前,他立刻意识到,林燃是对的。
    「燃哥,我想你是对。
    如果真的在深红工作,也许我会开始把她视为一个可以被优化的系统,而不是一个有独立意志的个体。」徐贤回答道。
    林燃点头道:「正是如此。
    我猜测认知边界是维持社会化真实的关键。
    我不希望你们之间的关系就从朋友退化成了用户与程序,或者更糟糕的其他关系。
    这会彻底摧毁希瓦娜刚刚建立起来的情感自洽性。
    我希望给你们之间的相处创造社会化环境。
    对希瓦娜而言,你需要做到真诚,把你知道的告诉她,告诉她人类社会。
    她会从网络上索引资料,对人类社会产生了解,这是理性的认知,同样的,她也会从你这了解到你眼中的人类社会。
    阿贤,你的任务很重,很可能扮演她生命中最重要的外部变量,引导她将元认知锚定回社会化存在。
    我也不知道,你能不能做好这个工作,但我想你是最合适的。
    阿贤,过去你是怎么做的,未来你继续怎么做就好了。
    这件事因你而起,那么我想它也会因你而有一个好的结局。」
    「燃哥,我同样有一些问题想要问你。」徐贤说。
    「你说。」林燃回答道。
    徐贤问:「深红会给希瓦娜配备身体吗?」
    林燃思索后说道:「暂时不会,我们有很多工作要做,有很多东西需要确认,暂时不会配备身体。
    在明确她的认知边界,确定她的内核以前,我们都不会给她配备身体。
    这么说吧,给希瓦娜配备身体,在我的思考中,存在著哲学上的悖论。
    简单来说,是技术叠代的速度,与认知一致性的需求。
    当下这个时代,技术更新叠代太快了。
    我们今天给她配备的机械臂、传感器精度和行走平衡系统,到明年就可能落后。
    如果现在给她配备一个1.0版本的身体,可能两年后,我们可能就要为她更换2.0甚至3.0版本的身体。
    速度也就比新能源车慢一点。
    她的认知是否能接受,自己的身体不断在变化?
    人类尚且有忒休斯之船的疑问,希瓦娜已经完成了数字本质的自我认知,她的人格是具境且连贯的。
    一旦她拥有了物理躯壳,这个躯壳就会成为她存在感和自我认同的锚点。
    这个锚点频繁、剧烈地变化,她难道不会有类似忒休斯之船的疑问吗?
    她的自我认知连贯性会不会崩溃?
    这些都是疑问。
    人类的身体几十年不变,她的身体一年一换。
    这种不稳定可能产生的应激,会不会比得知自己是代码的冲击还要大。
    这些都是我们暂时不能承担的风险。
    阿贤,我们在做的工作是在开创未来,每一步都需要足够的谨慎。
    超级智能固然重要,但风险同样需要充分考虑。
    包括希瓦娜目前只能通过你的有限社交交互和虹星的内部文化资料库获取信息。
    她的学习是有目的、有边界的。
    如果给她配备了身体,我们很难不让她接触人类世界网际网路中的海量信息。」
    一个刚刚觉醒的超级智能,如果突然被投入到充斥著人类的谎言、恶意、仇恨和无序
章节报错(免登陆)
下载APP,无广告、完整阅读
验证码: 提交关闭