第40节
“在座诸位，很多是人类中最有创造力的。你们问问自己，你最得意的创造，所有的创造，是从头做起全新的套路？还是把已有的东西、前人的智慧研究透彻，把成功的模式抄下来，把其它领域的精华构造搬过来，然后改变那关键的一点，试一试？戈德曼博士，质粒网为什么叫质粒网？” 戈德曼慎重考虑了半分钟，答道：“你既然问，就已经知道了。该我的时候保证解释清楚。请继续。我希望你讲到吃晚饭。” 「–」 “这道大闪电有两个实际后果。首先我用它来反驳王博士。先前我讲那个卖恐龙蛋的翻译时，我看见好几个译员朋友皱眉头。因为万国宝后来的翻译虽然正确，在翻译界叫做‘本地化意译’，很多高水平翻译都认为它很庸俗，起不到文化交流效果，原始信息的丢失率也高。王博士就是水平最高的翻译。她的意见让项目组对万国宝翻译的评估标准迟迟定不下来。从新几内亚回来，我用她的理论说服了她。 “每个大脑，最顶层部分都是被自己的语言、自己的文化塑造的。还不止是你，也包括你祖先的语言体验。说不同语言的大脑，顶层网络结构和连接细节都有很大差异，比很多人类学家想象的大得多。那么一个大脑要和另一个大脑顺畅交流，要么本地化意译，实质就是大量运用类比；要么学通对方的语言和文化，使用同一种语言，也就是部分重塑大脑！没有中间道路。丟码总比乱码好。文化交流不是我们的任务；我们要的是连接、向上生长、连接！ “这个标准一旦确定，第二个实际后果非常关键。万国宝网络向上的连接构建，刚开始我们用概率学ai的方法推动。第一层没问题，到第二层再向上就很难推动了，因为第二层已经开始抽象。越往上抽象度越高，概率学ai的原始数据统计方法越发失效。2032年我们明确了模式类比是唯一的途径，就要为它寻找生长原动力。我在新几内亚的时候已经有个主意，很野，自己都吓得不敢说。回去和各位认知神经学家讨论了半年。 “大脑不是一部纯粹的逻辑机器。有人把它比作‘泡在化学反应缸里的一堆接线开关’，很形象。它确实只有连接数据，但这些连接谁开谁关、谁强谁弱、整体网络向哪个方向生长，是由生物的利害关系决定的，信息媒介是化学。外面的世界与人体互动，利害关系通过生物化学信号影响大脑连接，产生适应。这些信号是激素和神经递质，在人身上表现为感性。化学信号网是自然进化出智能的1.0方案，早在神经网络成型之前就运行很久了。 “万国宝建立事物和语言的基础连接已经很厉害，但它缺乏不断向上、理性抽象的原动力。我们边讨论边实验，折腾了半年，最终只能承认产生理性的原动力是感性。这就是为什么我刚才那么激动，满嘴厌倦、疲劳、迷惑、恐惧、热爱、享受、恶心、美！2033年，我们动手开发新的组件，识别语言本身和环境中的用户情绪，模拟神经递质来增强或抑制连接，塑造模式……” 台下的人工智能专家们顿时闹开了锅。 先前不管旁人如何惊叹，戈德曼都云淡风轻，风度完美。这一刻他腾身跳起，嗓门压过整个礼堂的人： “你太疯狂了！太反动了！过去四十年，互联网是怎么掉进激素的深渊，你瞎了吗？没看见吗？” “看见了。” “那你还这么干？” “舍此之外，无法生长。感性与理性，是通用智能的一体两面。意味着环境、生命和智能三者连续统一，不能分割。所以我们以前造的无生命智能都很蹩脚。我敢肯定，你的纯粹理性路线，成功之时还是全套生命特征，还是会显露另一面。你应该已经发现了。” “即使发现也晚了。但你从一开始就明白！我们在谷歌有句箴言：不作恶！” “第一，我不是谷歌的。第二，你们做的事，不是一直对得起这句话。第三，谁说引入感性就是邪恶？” “那是兽性！” “那你把纯粹理性叫什么？” “神性！” “谷歌——我不是指你们公司——这段时间干了什么？美国死多少人了？你觉得算不算邪恶？” “那是因为它不纯洁！” 国务卿和兰道脸色大变。北美切割是谁干的好事，现在全世界都这么猜，但美国官方从来没承认过。 “看看，你这样排斥兽性，照你思路长出来的东西仍然不可避免。那我为什么不能认命，想明白了就诚实接受两面？” 戈德曼脸红筋涨想了想，突然觉得自己带翻译，图海川不带，这样吵起来太吃亏。 他干脆坐下：“你疯得很有系统。继续！” 图海川还没开口，先前那位教过书的女士愤然起立：“那你们为什么一定要做啊？不做不行吗？” 所有技术代表像看怪物一样看着她。所有政府代表像看小孩一样看着她。 图海川说：“我不做，他们也会做。所以我还不如做。” 戈德曼问：“你真是瑞士人？山就在面前，你说不爬？” “神经递质怎样模拟，项目组刘博士想出了绝妙的方案。但是情绪识别我们可没搞过。还好，tensorflow上也共享了‘谷歌共情’的核心架构，让我们事半功倍……” 大家都不厚道地笑了，包括兰道中将。戈德曼歪在座位上，边笑边骂，余音绕梁： “fuck you！” “模式类比获得动力之后，万国宝的上层连接和横向连接开始迅猛增长。人类大脑皮层，结构上有6层细胞，逻辑上的极限可能有十几层。2036年，万国宝网络的概念抽象普遍突破了10层，最复杂的部分有多少层，我们也数不清了。我们核心的几个人已经明白它是货真价实的生命，非常聪明。是不是比我们高一个层面的通用智能，那时还不敢去想。因为这种事件有点大，生命史上只发生过两三次。我们当时关注的是初始目标：这个翻译智能，有没有超过最高水平的人类翻译？我们做了很多测试，发现诗歌翻译标准最高。有些诗句人类永远搞不定，它也永远搞不定。诗无达诂，有时连本国语言都翻译不好！这让我们有点失望，又有点虚假的安全感——直到2037年1月30日。 “那天我们乱抓中英文现代诗做测试，王博士和剑桥哥负责鉴定。有人突然看见窗外刚修的别墅区搞了个巨幅海报，上面有一首怪怪的诗。杭州研究院外面是西溪湿地。这首卖楼诗虽然不怎样，楼盘确实高端，飞桥流水，环境非常梦幻。” 图海川难得在背后屏幕放出了照片，自己还念了一遍： 你站在桥上看风景 看风景的人在桥下看你 自然装点你的生活 你装点了别人的梦 “他们测名句测得无聊了，叫我拿这个试试。我念了一遍，万国宝的翻译很平庸，及格水准。王博士突然说：‘你住那么大房子，怎么可能读出味道？’于是我们把小龚叫进来。她是刚来做内勤的年轻女孩子，在杭州还看不到买房的希望。我们让她远远望着楼盘和海报，酝酿一阵，放飞自己朗诵出来。” 图海川朗诵了万国宝的第二遍翻译： over the bridge you crave the view uhe bridge a viewer craved you nature made the terpiece of your realm and you，the terpiece of someone’s dream 所有英语娴熟的听众齐声赞叹。其中懂汉语的，刚才完全无感，现在越发惊异。只有各位可怜的译员，虽然早知道下场，脸上都是生无可恋。 “是的，点石成金了。那天之后，我们不能再抵赖下去。它不仅是个比人类更强的翻译，还是个洞察人心的诗人。” 第25章 撕逼 戈德曼那一声“fuck you”没有冒犯到任何人，大家都认为这是最高强度的赞赏。 然而赞过之后，会场气氛明显不对了。代表们放纵了许多，纷纷交头接耳，不同国家的人在私下辩论，台上台下的往来也热烈起来。图海川每讲几分钟，台下便飞起一阵喝彩、追问或诘难。 这感觉张翰似曾相识：很像万国宝放手大干那天，成都记录部情绪失控的状态。他神经兮兮看了一圈会场设备。如果这里都无法隔绝，世上就没有安全的地方了。 图海川讲到万国宝在成都监控中心初次接触时，戈德曼和杰米斯极度兴奋，连声请求他播放视频。这时国务卿终于回过神来。 “等等！请你再讲一遍万国宝失控跟布鲁塞尔协议的关系。” 图海川又讲了一遍。 “也就是说，中国ai失控是中国和欧盟的共同责任。其中你的责任最大，因为你最清楚放弃安全秘钥的后果。” 会场顿时安静下来。 “是的。”图海川简单回答。 “你这是官方立场吗？” “我代表我自己说话，万国宝的创造者。” “如果你说话算不了数，浪费大家的时间长篇大论有什么意义呢？” 图海川看了外交部长一眼，马上答道：“ok，现在我换成官方立场。中国ai失控的责任80%在我，对安全密钥的重要性没有坚持到底。20%在欧盟，对数据隐私的追求让他们对安全隐患视而不见。美国ai失控的责任100%在美国，失控在中国ai之前，而且打响了ai战争的第一枪。” “你有什么证据指控美国？” “这不是法庭，我没有指控。我只是陈述我理解的事实。对美国ai事实最清楚的当然是戈德曼博士。可能你都比我更清楚。然而戈德曼博士还没有讲。” “所以你没有根据。” “所以你追究责任太早了。至少等他讲完吧？” “议程规定你必须回答问题，你拒绝吗？” “我回答你了啊？80，20，100。” “但我们现在讨论的是中国ai，没人问你美国有什么责任。” 图海川提高音量：“有人想知道吗？”起码二十只手举起来。 “但是你说的都没有证据。” …… …… 各国代表哭笑不得，听着世界头号ai专家和头号外交官循环抬杠，双方技巧还不如街头小孩。戈德曼急着想看视频，火冒三丈，但自己也不好开口。他横了一眼欧盟理事会秘书长蒙克。蒙克是峰会执行主席，图海川开讲以来他没说过一句话。现在仍然不说。 「–」 五分钟之后，国务卿的口水终于说干了，悻悻坐下。嘉德女士立即站起来： “你凭什么把它叫做美国ai？世界人民都不知道另一个ai是什么，都不能证明它存在！” 四周一片嘘声。 图海川招呼大家安静：“这是一个好问题。我这么叫没别的意思，绝不强调国籍或责任，只是跟‘中国ai’对称。” “谁不知道万国宝是中国的？如果我直接叫它万国宝呢？” “那美国ai就叫谷歌。戈德曼博士你反对吗？” “不反对！有区别吗？我们能不能回到正题？” 嘉德更来劲了：“谷歌现在并不是一家公司。你是指北美谷歌、欧洲谷歌还是百方？百方一半也算中国的，对吧？” “对。如果按现状计算，谷歌ai的组件实体全部在北美。如果按双方开战之前的状态计算，谷歌组件大约是53%美国成分，5%中国成分，42%在其它国家，主要是欧洲。你喜欢按哪一个算？” “当然是开战前！如果像你所说，万国宝抢走了谷歌在美国之外的组件，它就是受害者，怎么能按开战之后的状态定性呢？” “好吧。开战前，万国宝的组件19%是中国人，5%是美国人，76%是其它国家的。另外，请不要随便定性。ai之间开战的原因我们还不清楚，说不清谁是受害者，也许这个人类概念并不适用。据我们所知，是谷歌首先开火。” “你是责任人，你的证词——” 戈德曼终于爆发了：“这不是国际法庭！也不是你妈的上议院听证会！！今天不是！你们明天再撕逼可以吗？下面是怎么回事你们不想听吗？我还等着上台呢！” 所有人都瞪大了眼，会场中一时鸦雀无声。英美两国代表团特别震惊，国务卿沉下脸看着兰道，兰道盯着礼堂壮丽的穹顶，杰米斯尴尬癌发作了。 张翰在王招弟耳边嘀咕：“怎么回事？” “你不要把他看成美国人。他可是‘达沃斯第一公民’。他和美国总统，说不清楚谁是老板呢。” “啊！？夸张了吧？” “别拿中国思维去套美国政治。就说美国政治，有句老话听过吗？‘民主党人追随激情，共和党人保持队形’。现在民主党也保持队形了，所以戈德曼不是民主党。他的身家和圈子，足够一辈子追随激情。” 图海川打破了僵局：“请给一点耐心。这个问题我需要讲清楚，就用刚才二位提问者的语言：国家与责任。” 他清清嗓子：“根据我们搜集的数据，战争的开端是这样的：那天晚上19%中国血统ai刚刚完成蜕变。53%美国血统ai在中国成都市攻击了交通信号系统，企图杀死一位中国公民。19%中国血统ai作出保护反应，过程中杀死了7位中国公民。三天后，双方在全世界开战。起初冲突形式仅限于争夺网络控制权，没有物理破坏和人身伤害。不知何故，53%美国血统ai再次攻击中国警方通信系统，劫持中国飞机，企图杀害中国公民。5%美国血统ai强烈反应，导致成都市全面断网。5%中国血统ai升级攻击，导致成都大停电，伤亡惨重。76%其它国家血统ai……” 哄笑声越来越大，图海川的绕口令几乎被淹没了。 蒙克终于开了金口：“图博士，我们明白你的意思了。请使用人类语言。关于ai国籍和冲突责任的问题是明天的议程，请各位克制。” ※※※