张翰又看了看她面前的名牌：“你以前是做 量明星的吗？” “没有啊？我一直在腾讯啊？” 刘馨予不明所以，忍不住有点得意，手指捋着头发。 “那为什么要取这种万人坑的名字？我以后要找你恐怕记不住。你有老公吗？” 刘馨予涨红了脸，勉强摇头。 “有男朋友吗？” “有！关你什么事？”她火气上来了。 “那我问你：假设你男朋友昨晚去夜总会，给全场所有小姐每人发了一万元红包。今晚他在自己家中被捕， 上、下、浴缸里堆了七具女尸。那么前天晚上他去酒店开钟点房，虽然走廊监控录像中没看见什么问题，你相信他是为了准备高考吗？” 四个男人都埋头忍笑，包括刘馨予身边那位沉默寡言的。 刘馨予被这一顿捶晕了，无话可说，气得发梢 颤。 “再给你一次机会。你们两位商量一下，看看有没有别的什么要报告。” 说完张翰便不再理她，转向正对面阿里集团的帅哥。 “你是谁？” “我叫周……” “桌上有名牌，我没瞎，看得见。我问你算老几？你们还没来我就都通知了，要技术负责人亲自到场。不要领导，不要擦 股大队，要负责人！万国宝的技术负责人是谁，全中国有不知道的吗？他们二位身子金贵，我理解。但我这个小小的专案组，手上除了万国宝发疯造成的世界运动，还有一次疑似全球网络军事演习，还有七条人命！ “我只是想搞懂，那几分钟之内，万国宝到底出了什么问题？跟这个朱越有什么关系？跟腾讯的游戏和百方的自动驾驶系统有什么关系？他们二位给我的回复都说非常意外，非常难解。这没关系，我们可以共同探讨。现在却派了个你来？你这身西装是伦敦定做的吧？你懂技术？需要我出去打个电话吗？” 会议室中所有人噤若寒蝉。 刘馨予觉得舒坦了许多，自己远不是待遇最差的。这位专案组长，没听过名字也没有警衔的信安部官员，似乎也不算仇女症患者。他是见人就咬，而且爪牙通天。 周克渊站起来，手按领带鞠躬：“对不起。阿里集团上上下下，尤其是两位老师，对这次事件都极端重视。但确实有不得已的苦衷。圣何 窃听事件之后，集团接到国安部的红头文件，规定他们不能离开杭州研究院范围，人身和数据安全团队都换了。这件事保密级别很高，您……可能真需要打个电话确认一下。不过，我带来了我们自己的安全视频会议前端。眼下他们二位就在杭州恭候。刚才您进来之前，我正在和顾警官商量，怎么接入信安部网络会议系统。” 他向小顾看过去，温文一笑。小顾轻轻点头。 “所以，你就是个跑腿、布线、打杂的。” “没错。”周克渊仍然站得笔直，气宇轩昂：“能为两位老师打杂是我的荣幸。” 这下张翰对他的印象倒好了不少。 “小顾，赶紧帮他 好。现在只有请你们先讲了。” 百方的两位赶紧打开平板，连接会议室主屏幕。主讲者石松擦了擦眼镜片上的雾气，战战兢兢开口。 ※※※ 两天前卷入升仙湖北路连环车祸的22台车辆中，15台装有百方研发的自动驾驶系统。其中只有6台在事发前处于自动驾驶状态。朱越在路中央停步时，离他最近的暗红 瑞虎suv从手动状态紧急切换自动，加速转右冲了过去。这是一次表现完美的自动驾驶系统应急 作。 它后面的蓝丰田轿车也在手动状态。司机紧急刹车，但当时的速度如果不转弯，已经不可避免会撞上朱越。车载的百方自动驾驶系统非法超控、强行急转，导致本车侧翻。同时阻挡右侧车道，被后方手动驾驶的越野车撞上。两车司机均在撞击中毙命，翻滚的车辆残骸还撞死了被朱越追逐的骗子。 右道后方的北奔载重卡车本来在自动驾驶中。为规避前方的混，左转进入了朱越所在的车道。然而为了避让朱越继续左转，横穿左边两条车道，撞飞了三辆轿车才冲出护栏，导致二死四伤。卡车司机本人仅受轻伤。 「–」 “等等！”张翰打断他，“你是说，卡车司机为了躲开朱越，转向去撞其它的车？” “不。 警去医院取证的时候，我的同事跟着去了。司机很清醒，发誓说他上了那条道马上取消自动，是踩着七分刹车、对着朱越冲过去的。因为只有这条道前面无车，行人突然横穿是‘九分全责’。他开车二十年，知道该怎么选择。但自动驾驶马上接管，强行向左一路撞过去。我们提取的数据证明他没撒谎。” “百方自动驾驶系统，安全策略是行人绝对优先？” “不。问题就在这里。我们的系统非常智能，在这种……两难情况下，会进行瞬时模拟概率计算，会选择伤人最少、最轻的驾驶方案。这两天我们模拟了几十次，每次系统都选择碾过朱越。这和我们的预估是相同的。但是实际事故中，卡车强行转弯撞飞了三辆轿车。六个乘客只死了两个，已经算非常走运。它不但非法接管了驾驶，还偏偏选择了躲开行人。不，躲开朱越。” “那辆比亚迪呢？” “也是我们的系统。这个是最不可理解的。目前版本的安全策略中，本车乘客的安全优先级别非常高。比行人和其他车辆高得多。” “到底有多高？” “……几乎是绝对的。”石松坐立不安，看了看其他人。 张翰眼都不眨：“可以理解。要不谁敢买你的车。那乘客怎么就死了？” “比亚迪的系统计算能刹得住，即使被追尾也不会撞上朱越，就一下子刹到底。这次计算决策，似乎绕过了本车乘客安全的逻辑。它后面那辆道奇，是北美谷歌的自动驾驶系统。我们不知道怎么回事，貌似在正常工作。道奇选择了适度刹车、追尾比亚迪，保证本车最低限度安全，而不是急刹或急转。所以，前车的人急刹移位之后受到二次撞击，死了。” 石松身边的同事名叫全栈，瘦得像是没吃过一顿 饭。他在主屏幕上反复演示模拟事故场景，特别放大了比亚迪的自杀作。 两个血红的小点在比亚迪轿车图标中出现。一米之外，代表朱越的黑小点安如泰山，身边似乎环绕着魔法结界。 会议室中一时没人说话，空气都要凝固。 刘馨予心想：这小子真老实，怕是被恶霸探长吓破了胆。如果他今天报告中任何一点  出去，对百方自动驾驶系统的声誉都是毁灭 打击，不管有没有被黑。每次模拟都选择碾过行人？安全策略连本车乘客都不管了？ 张翰沉 片刻，问道：“那你们找到故障原因了吗？怎么会所有车辆的自动驾驶系统同时出问题？” “不是所有车辆。我们和警支队搞了一次现场还原，三次模拟。只要是不涉及可能撞到朱越的情况，自动驾驶都是正常工作的，都做出了最佳选择。所以二十二辆车卷入，只死了七个人。” “只死了七个人！恭喜了。” 石松面红耳赤。他下一句话出乎所有人意料：“故障原因也找到了。” “哦？” 石松和全栈对望一眼，二人都是 脸自暴自弃。 “自动驾驶系统被漏 攻击了。我们早知道这个漏。” “什么！？” “实际上，一周之前我还跟电信方面讨论过。那是5g网络专门为自动驾驶传输环境数据的一个接口，华为最新的版本。我们这一版更新之后不久，就发现这个接口的数据权限匹配有个小 病。如果完全了解电信和我们双方的协议，就可能利用它修改自动驾驶车载软件的参数。问题出在他们那边，所以我们也不太急。那个接口，华为和电信改起来会非常慢，全国都上线了！谁又能入侵到5g网络的固件层呢？最近我们甚至想试试，用它攻击我们自己的系统，看能不能顶住？还没来得及做出实验方案……” 这下，另外两家人终于明白他为什么这样老实了。他还绑在一条最大的船上，在座谁也没那胆子去捅。 “实际上就是这样发生的吗？” “是。在场所有车载自动驾驶系统，安全策略参数都被改动过。事故发生后又改回去了。所以我们看不见入侵者究竟植入了什么逻辑，只能看见修改发生的时间。就在那个红绿灯异常之后6秒钟内。” “什么红绿灯异常？” 刘馨予警觉抬头。会前她拿到的案情简报中，可没提到这个。 会议桌另一头，打杂的帅哥刚刚好线路，也抬起了头。 张翰考虑片刻便答道：“事故会发生，是因为上一个路口的红灯提前19秒钟变成了绿灯。还因为附近的路灯突然灭了。” “这可不是我们的问题，也不是电信的。”老实孩子终于有了点气焰。他安 刘馨予：“我们也是昨天才知道，现场还原时警透的。” 张翰点头道：“是市政通控制系统的问题。怎么发生的，还在查。你看不见攻击者植入了什么逻辑，那么能 据掌握的情况猜一下吗？” “很好猜。我们差不多两天没睡觉，提取所有数据，做了几十次实验和模拟，一切证据都指向同一个逻辑：不管撞多少车、死多少人，不惜一切代价，确保不会撞到朱越。如果那个红绿灯异常是为了让他出事故，那么这个保护他的逻辑就是瞬时反制措施。而且，立即通过入侵5g网络攻击了所有在场车辆，植入到每台车，一共用了不到6秒。效果完美。” “我！” 腾讯另外那个人，终于第一次开口。 张翰瞪他一眼，才道：“看看人家，准备多充分！多有诚意！等会儿我再听你们有什么要说的。” 他转过头：“最后一个问题。朱越这个人，跟百方集团有过任何接触、瓜葛或者纠纷吗？” 全栈答道：“我们的业务非常多，核心业务是搜索引擎，要说没有接触是不可能的。这两天总部分析了他所有搜索和网络应用历史，结论是：没有。他就是一个普普通通的网民，搜索内容偏文艺，有些冷门的 好。对自动驾驶技术没有任何兴趣，更没接触过真正的黑客技术站点。五年前我们集团合并时，他搜索过我们改名的话题。全网有上千万人做过同样的事。此后，他对我们也没有任何特别的关注。” 他刚说完，视频会议系统屏幕就亮了，现出一男一女两张脸。腾讯和百方四个年轻人都马上起立，非常兴奋。 张翰也差点站起来。他好容易才忍住没动，暗骂自己狗仗官威。 听国民偶像跟大家寒暄了五分钟，张翰承认：宣传和言真的靠不住。 图海川确实不擅际。但原因跟言恰恰相反，他并非不近人情，而是姿态过低。一脸尴尬，架不住几个年轻人的滔滔江水，不知该如何措辞才算谦虚。张翰觉得他就像个灾荒年间的土老肥，面对一帮上门借钱的穷亲戚强颜 笑，因为地主家也没有余粮。 王招弟则是绷到了极点。妆容一丝不苟，应对得体，眼角肌 却时不时微微牵动。跟旁人说话时不断偷瞟过来，隔着屏幕几乎能闻到她的汗味。 如果现在是审讯，张翰马上就能下判断：这女人无辜但有鬼。看来她是这对搭档的主心骨，危机是靠她的意志支撑。 不过，她的手腕让张翰十分舒坦。她告诉几个年轻人：现在不需要顾虑任何法律、问责和技术机密问题。相对本案，这些都不重要了。三方最高层已有默契，而且一定会有人去梳理摆平。技术人员只需要通力合作。 于是张翰马上给图海川解围，请他介绍情况。 「–」 从“白大褂”彻底发疯、恭喜发财开始，万国宝永不间断的全球服务，中断了13分05秒。万国宝是一个分布式系统，它的算力资源是在本地设备上直接租用的，局部智能的实现也是靠各个节点自发组网。它没有真正的服务器端。因此全球服务同时中断，不可能是任何外部支持出了问题，只能是系统本身的异常行为。在这期间，它并没有停止“思考”，网络中每个节点都在负荷运行，只是不响应用户的翻译请求。 朱越在红花堰发出的语音信息，是它重新开工时第一条响应。这两句话被翻译成三百多种语言，匿名发给当时在线的所有用户，总计超过九亿人。普通话母语的用户收到的是原版语音。所有听力障碍人士和没用语音设备的，都收到了对应文字。此后万国宝恢复正常服务。 最大的意外是：这样简单两句中文语音，翻译居然有四个版本。 「–」 “等等！你们真能看到每个用户的信息内容？包括美国的？”刘馨予问道。 图海川面有难。石松和全栈睁大眼看着刘馨予，就像看白痴。 张翰笑道：“王老师说过了，现在不考虑法律责任。另外，在我这里从来也没有什么用户隐私。图老师请继续。” 却是王招弟接了下去：“第一句话，‘活下去’，翻译没有任何偏差。问题出在第二句。朱越当时的发音是‘奇点’，q-i-qi，奇怪的奇，不是奇数的奇。” 她放了一遍录音。确实如此，朱越的普通话还带一点椒盐口音。 “所有非汉语用户中，大约25%收到的是‘奇怪的点就要到了’。对他们来说，第二句话没有什么意义，只是很奇怪。第二种翻译是‘起点就要到了’。就是‘起点终点’那个起点。覆盖率28%。这个有意义，但是仍然非常……奇怪。 “真正引起大麻烦的，是第三种翻译：‘七点就要到了’，覆盖41%的非汉语用户。有多麻烦，你们应该都知道了。” 王招弟在杭州打开伴随视频。 会议室大屏幕上显示bbc新闻实况，现场是英格兰埃姆斯伯里的巨石阵。英国和中国时差7小时，现在正是早上6点58分。直升机航拍视野中人头攒动，巨石阵周围挤得水不通，一眼看上去起码有上万人。稍远处是大片的帐篷。镜头拉近，人群很有秩序，没有一个人进入巨石阵内圈。随着时间 近七点，众人纷纷仰望天空，充期待，不少人跪下祈祷。 视点直升机突然拉远。王招弟解释道：“飞行员也怕七点钟会有飞船从天而降。” bbc现场记者很 动：“第三天，人群又翻倍了！‘七点钟守望’正在横扫全球！今天耶路撒冷和金字塔在我们之前，帝国大厦和51区在我们之后。我的同事刚飞到复活节岛，岛上已经聚集六千人！耶路撒冷的群众，情况比较特殊——他们不是在等待外星人降临。七点钟过后，他们开始争论圣墓的确切位置……” 红发的记者妹子一口京腔，声音甜美。张翰问王招弟：“欧洲解 了？” “用万国宝的是欧盟，英国没有。欧盟也就是打个嘴炮，民间本不了，也没有技术手段。只有欧盟的公共媒体装装样子，暂时不接入。” “还有一种翻译呢？” “第四种翻译是：‘活下去！奇点就要到了。’奇点。singularity。很多语言中没有这个词，万国宝都用六大语言中最接近的拼写或者发音替代。” 在座所有人英语水平都不低。不过在名天下的语言学家面前，没人敢理解。 沉默了片刻，石松才问：“是数学意义的奇点，还是冯·诺依曼那个意思？” “冯·诺依曼那个奇点。弗诺·文奇那个奇点。” 她如数家珍，异常笃定。众人不望向真正的人工智能泰斗。图海川正戴着耳机补听先前的会议记录，心不在焉点了点头。 王招弟抢着说：“第四种翻译仅有6%用户收到，但它才是正确的。这不是我们随便猜测。朱越所有的万国宝通信历史，我们一个字一个字分析过了。他和这条信息的发送对象多次讨论过奇点问题。这个词他用过两百多次，文字、语音、中文、英文都有。语境信息也非常充分，就是这个意思。”ＤｘSzXｅdＵ.com |
量明星的吗？” “没有啊？我一直在腾讯啊？” 刘馨予不明所以，忍不住有点得意，手指捋着头发。 “那为什么要取这种万人坑的名字？我以后要找你恐怕记不住。你有老公吗？” 刘馨予涨红了脸，勉强摇头。 “有男朋友吗？” “有！关你什么事？”她火气上来了。 “那我问你：假设你男朋友昨晚去夜总会，给全场所有小姐每人发了一万元红包。今晚他在自己家中被捕，
上、
颤。 “再给你一次机会。你们两位商量一下，看看有没有别的什么要报告。” 说完张翰便不再理她，转向正对面阿里集团的帅哥。 “你是谁？” “我叫周……” “桌上有名牌，我没瞎，看得见。我问你算老几？你们还没来我就都通知了，要技术负责人亲自到场。不要领导，不要擦
股大队，要负责人！万国宝的技术负责人是谁，全中国有不知道的吗？他们二位身子金贵，我理解。但我这个小小的专案组，手上除了万国宝发疯造成的世界运动，还有一次疑似全球网络军事演习，还有七条人命！ “我只是想搞懂，那几分钟之内，万国宝到底出了什么问题？跟这个朱越有什么关系？跟腾讯的游戏和百方的自动驾驶系统有什么关系？他们二位给我的回复都说非常意外，非常难解。这没关系，我们可以共同探讨。现在却派了个你来？你这身西装是伦敦定做的吧？你懂技术？需要我出去打个电话吗？” 会议室中所有人噤若寒蝉。 刘馨予觉得舒坦了许多，自己远不是待遇最差的。这位专案组长，没听过名字也没有警衔的信安部官员，似乎也不算仇女症患者。他是见人就咬，而且爪牙通天。 周克渊站起来，手按领带鞠躬：“对不起。阿里集团上上下下，尤其是两位老师，对这次事件都极端重视。但确实有不得已的苦衷。圣何
窃听事件之后，集团接到国安部的红头文件，规定他们不能离开杭州研究院范围，人身和数据安全团队都换了。这件事保密级别很高，您……可能真需要打个电话确认一下。不过，我带来了我们自己的安全视频会议前端。眼下他们二位就在杭州恭候。刚才您进来之前，我正在和顾警官商量，怎么接入信安部网络会议系统。” 他向小顾看过去，温文一笑。小顾轻轻点头。 “所以，你就是个跑腿、布线、打杂的。” “没错。”周克渊仍然站得笔直，气宇轩昂：“能为两位老师打杂是我的荣幸。” 这下张翰对他的印象倒好了不少。 “小顾，赶紧帮他
好。现在只有请你们先讲了。” 百方的两位赶紧打开平板，连接会议室主屏幕。主讲者石松擦了擦眼镜片上的雾气，战战兢兢开口。 ※※※ 两天前卷入升仙湖北路连环车祸的22台车辆中，15台装有百方研发的自动驾驶系统。其中只有6台在事发前处于自动驾驶状态。朱越在路中央停步时，离他最近的暗红
瑞虎suv从手动状态紧急切换自动，加速转右冲了过去。这是一次表现完美的自动驾驶系统应急
作。 它后面的蓝
警去医院取证的时候，我的同事跟着去了。司机很清醒，发誓说他上了那条道马上取消自动，是踩着七分刹车、对着朱越冲过去的。因为只有这条道前面无车，行人突然横穿是‘九分全责’。他开车二十年，知道该怎么选择。但自动驾驶马上接管，强行向左一路撞过去。我们提取的数据证明他没撒谎。” “百方自动驾驶系统，安全策略是行人绝对优先？” “不。问题就在这里。我们的系统非常智能，在这种……两难情况下，会进行瞬时模拟概率计算，会选择伤人最少、最轻的驾驶方案。这两天我们模拟了几十次，每次系统都选择碾过朱越。这和我们的预估是相同的。但是实际事故中，卡车强行转弯撞飞了三辆轿车。六个乘客只死了两个，已经算非常走运。它不但非法接管了驾驶，还偏偏选择了躲开行人。不，躲开朱越。” “那辆比亚迪呢？” “也是我们的系统。这个是最不可理解的。目前版本的安全策略中，本车乘客的安全优先级别非常高。比行人和其他车辆高得多。” “到底有多高？” “……几乎是绝对的。”石松坐立不安，看了看其他人。 张翰眼都不眨：“可以理解。要不谁敢买你的车。那乘客怎么就死了？” “比亚迪的系统计算能刹得住，即使被追尾也不会撞上朱越，就一下子刹到底。这次计算决策，似乎绕过了本车乘客安全的逻辑。它后面那辆道奇，是北美谷歌的自动驾驶系统。我们不知道怎么回事，貌似在正常工作。道奇选择了适度刹车、追尾比亚迪，保证本车最低限度安全，而不是急刹或急转。所以，前车的人急刹移位之后受到二次撞击，死了。” 石松身边的同事名叫全栈，瘦得像是没吃过一顿
饭。他在主屏幕上反复演示模拟事故场景，特别放大了比亚迪的自杀
出去，对百方自动驾驶系统的声誉都是毁灭
打击，不管有没有被黑。每次模拟都选择碾过行人？安全策略连本车乘客都不管了？ 张翰沉
片刻，问道：“那你们找到故障原因了吗？怎么会所有车辆的自动驾驶系统同时出问题？” “不是所有车辆。我们和
脸自暴自弃。 “自动驾驶系统被漏
攻击了。我们早知道这个漏
病。如果完全了解电信和我们双方的协议，就可能利用它修改自动驾驶车载软件的参数。问题出在他们那边，所以我们也不太急。那个接口，华为和电信改起来会非常慢，全国都上线了！谁又能入侵到5g网络的固件层呢？最近我们甚至想试试，用它攻击我们自己的系统，看能不能顶住？还没来得及做出实验方案……” 这下，另外两家人终于明白他为什么这样老实了。他还绑在一条最大的船上，在座谁也没那胆子去
刘馨予：“我们也是昨天才知道，现场还原时
据掌握的情况猜一下吗？” “很好猜。我们差不多两天没睡觉，提取所有数据，做了几十次实验和模拟，一切证据都指向同一个逻辑：不管撞多少车、死多少人，不惜一切代价，确保不会撞到朱越。如果那个红绿灯异常是为了让他出事故，那么这个保护他的逻辑就是瞬时反制措施。而且，立即通过入侵5g网络攻击了所有在场车辆，植入到每台车，一共用了不到6秒。效果完美。” “我
好。对自动驾驶技术没有任何兴趣，更没接触过真正的黑客技术站点。五年前我们集团合并时，他搜索过我们改名的话题。全网有上千万人做过同样的事。此后，他对我们也没有任何特别的关注。” 他刚说完，视频会议系统屏幕就亮了，现出一男一女两张脸。腾讯和百方四个年轻人都马上起立，非常兴奋。 张翰也差点站起来。他好容易才忍住没动，暗骂自己狗仗官威。 听国民偶像跟大家寒暄了五分钟，张翰承认：宣传和
笑，因为地主家也没有余粮。 王招弟则是绷到了极点。妆容一丝不苟，应对得体，眼角肌
却时不时微微牵动。跟旁人说话时不断偷瞟过来，隔着屏幕几乎能闻到她的汗味。 如果现在是审讯，张翰马上就能下判断：这女人无辜但有鬼。看来她是这对搭档的主心骨，危机是靠她的意志支撑。 不过，她的手腕让张翰十分舒坦。她告诉几个年轻人：现在不需要顾虑任何法律、问责和技术机密问题。相对本案，这些都不重要了。三方最高层已有默契，而且一定会有人去梳理摆平。技术人员只需要通力合作。 于是张翰马上给图海川解围，请他介绍情况。 「–」 从“白大褂”彻底发疯、恭喜发财开始，万国宝永不间断的全球服务，中断了13分05秒。万国宝是一个分布式系统，它的算力资源是在本地设备上直接租用的，局部智能的实现也是靠各个节点自发组网。它没有真正的服务器端。因此全球服务同时中断，不可能是任何外部支持出了问题，只能是系统本身的异常行为。在这期间，它并没有停止“思考”，网络中每个节点都在
近七点，众人纷纷仰望天空，充
动：“第三天，人群又翻倍了！‘七点钟守望’正在横扫全球！今天耶路撒冷和金字塔在我们之前，帝国大厦和51区在我们之后。我的同事刚飞到复活节岛，岛上已经聚集六千人！耶路撒冷的群众，情况比较特殊——他们不是在等待外星人降临。七点钟过后，他们开始争论圣墓的确切位置……” 红发的记者妹子一口京腔，声音甜美。张翰问王招弟：“欧洲解
了？” “