Autocratic Intelligence

31 Jul 2017

7 月 20 日，国务院发布了《新一代人工智能发展规划》，推动「以人类可持续发展为中心的智能化」，战略目标分三步走：

第一步，到 2020 年人工智能总体技术和应用与世界先进水平同步，人工智能产业成为新的重要经济增长点，人工智能技术应用成为改善民生的新途径，有力支撑进入创新型国家行列和实现全面建成小康社会的奋斗目标。

第二步，到 2025 年人工智能基础理论实现重大突破，部分技术与应用达到世界领先水平，人工智能成为带动我国产业升级和经济转型的主要动力，智能社会建设取得积极进展。

第三步，到 2030 年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心，智能经济、智能社会取得明显成效，为跻身创新型国家前列和经济强国奠定重要基础。

总的目标是在「2030 年成为全球人工智能的领导者」。消息一出，国内企业欢呼雀跃，百度的老朋友吴恩达对此也持肯定态度，认为「其将切实有益于中国及全球的 AI 发展」。

不过，也有 Benedict Evans 等指出「从历史上看，这种产业政策对软件和知识产权非常不利，日本就曾做过同样的事情」。不同点在于，当时的日本正大力推进其「第五代计算机」计划，积极资助了各种 AI 项目，客观上促成了人工智能从「第一轮低谷」到「第二轮繁荣」的转折，而中国发布此规划的时机在「第三轮繁荣」的上升期。

另有一部分观点，对中国发展 AI 有着几方面的担忧：

1. 数据保护主义，6 月份生效的网络安全法要求外国公司将收集的中国用户数据存在中国境内。不难想象，中国企业在国外也会受到同样的待遇（Tit For Tat）。如果不能汇集所有数据，那么无人车等各种AI产品上的算法可能就不会是最有效的。
2. 关于技术伦理，西方的技术巨头已经承诺共同努力，确保他们开发的 AI 工具是安全的。这里既包括学术的公开，也包括讨论的公开¹。许多组织（如FHI、CSER/LCFI、MIRI、FLI、OpenAI、AAAI、IEEE、NSF、DARPA、PonAI等）都在进行 Beneficial AI 的研究。西方顶尖的 AI 人员在 2015 年签署了一封公开信禁止创建自动化武器，2017 年又进一步签署 Asilomar Principle，而中国相应的 AI 伦理的讨论是缺位或不透明的。
3. 中国政府主导，规划关于 AI 对政府的价值是开放的，包括军事推演到智能监控。对政府的审查人员来说，AI 在模式识别中的价值可以很好地应用在对公民的维稳²上。规划提到要「促进区块链技术与人工智能的融合，建立新型社会信用体系」，为人们的行为打分。这个模式一旦完善，相信会有很多专制政权会对此感兴趣。

如何判断这份规划带给中国的未来？让我们从「时间倒序」的角度，回顾一下近来发生的一系列事件。

纪念建军 90 周年阅兵

昨天，也就是 7 月 30 日，在朱日和举行了纪念中国人民解放军建军 90 周年阅兵。

对于在 21 世纪已经历过两次大阅兵的我们这一代，面对又一次阅兵似乎让人感觉「习以为常」，但这次阅兵确有不同之处。沙场阅兵的一系列特殊细节在此不一一赘述了，我想问的是，本次阅兵是给谁看的？

台湾、印度、朝鲜、日本、美国……结合不同事件，这些答案似乎都有道理。但我个人觉得，本次阅兵是为「攘外」，但更是为了「安内」。

其实，早在 2015 年，路透社援引某中共高层人士的话称，在习的任期上，阅兵将成为「新常态」，并给出了具体的阅兵日期：

1. 2015 年 9 月 3 日，中国人民抗日战争胜利 70 周年纪念日；
2. 2017 年 8 月 1 日，解放军建军 90 周年纪念日；
3. 2019 年 10 月 1 日，新中国成立 70 周年纪念日；
4. 2021 年 7 月 1 日，中国共产党成立 100 周年纪念日。

虽然当时被罗援少将否认了，称(1)、(3)是明确的，但(2)、(4)不符合常规，「在建军和建党纪念日举办阅兵，目前还没有先例」。

如今(2)已坐实³，(4)看来更是不可避免。

在我看来，阅兵的目的，一方面可以向邻国发消息，加强国家爱国主义；另一方面，也是近几年来在国内反腐，特别是军队反腐背景下，习总为提升军队士气的，避免失控而采取的手段。

最终的结果，是强化了习总和党对权力的控制。

对 VPN 的清理整顿

7 月 29 日，中国多家 VPN 提供商陆续收到了来自苹果公司的通知，通知主要告知了这些提供商和开发者，他们的软件将从中国区 APP Store 中下架，因为这些软件包含了在中国不合法的内容。

30 日，苹果中国公司回应中国区 App Store 下架 VPN 应用一事称：「我们已经收到要求，在中国移除一些不符合规范的 VPN app。这些 app 在其他市场的运营则不受影响。」苹果中国称，今年年初，工信部出台了相关通知，要求所有提供 VPN 服务的开发者必须从主管部门获得经营资质。

中国加强对 VPN 的清理整顿已经有一段时间，工信部总工程师张峰表示，今年 1 月，工信部出台了《关于清理规范互联网网络结构服务市场的通知》，《通知》主要是为了更好地规范市场的行为，规范的对象主要是未经电信主管部门批准，无国际通信业务经营资质的企业和个人，租用国际专线或者 VPN，违规开展跨境电信业务经营活动。这些规定主要是对那些无证经营的、不符合规范的进行清理，对于依法依规的企业和个人不会带来什么影响。

此外，专为突破网络封锁而开发的工具 Shadowsocks，也正进一步受到威胁：

总的来说，普通民众今后想要顺利的「翻墙」将越来越难，国家正一步步剥夺技术工程师赋予民众的信息自由的权力。

但为什么只封杀个人用户，而大企业对其拥有豁免权？

或许是因为，国家经济命脉不可动摇，个人信息自由可以牺牲。但加密技术如果今后只有依附于大企业才能使用，那将是对互联网精神最大的背叛。

诺贝尔和平奖得主去世

你要把他埋下，埋进土里，但你忘了，他是一颗种子。一粒麦子不死，仍是一粒麦子，一粒麦子死了，就会结出无数的子粒来。

——约翰福音 12:24

7 月 13 日，刘晓波去世。

根据维基百科：

2010 年，刘晓波获得挪威诺贝尔和平奖委员颁发的诺贝尔和平奖，成为首位或第二位（如果算上第十四世达赖喇嘛）获得该奖的中华人民共和国公民，也是继纳粹德国的卡尔·冯·奥西茨基（1935年）之后，第二例在服刑期间获得诺贝尔奖的人。刘晓波也是诺贝尔奖历史上唯一一位从获奖至辞世始终未能得到任何人身自由的诺贝尔奖得主。 2017 年 6 月，刘晓波因确诊患上为肝癌晚期而获准保外就医，其后于沈阳的中国医科大学附属第一医院在与外界隔离的状态下接受治疗。7 月 13 日 17:35，医院当局宣布刘晓波病情恶化并因多重器官衰竭，经抢救无效病逝，终年 61 岁。 他的遗体在 2017 年 7 月 15 日约 6 时 30 分（格林威治时间 2017 年 7 月 14 日晚上 10 时 30 分）火化，当天中午海葬。至今，外界无法与刘晓波的妻子取得联系。

刘的大哥表示，他从刘晓波病重到处理后事都有参与其中，也多次感谢共产党和中国官方的安排，认为安排体现了国家对刘氏家族的「人文关怀」。政府为刘晓波请来了来自德国和美国的医疗专家，安排出乎他的意料，「展视社会主义制度优越性」。特别提到，海葬是「家人意愿」。

「生不留人，死不留灰」。

从《美丽新世界》到《1984》

奥威尔担心我们憎恨的东西会毁掉我们，而赫胥黎担心的是，我们将毁于我们热爱的东西。

——尼尔·波兹曼

赫胥黎的《美丽新世界》和奥威尔的《1984》，描述的都是精英阶级的统治方式。尽管形式不同，但内核却异曲同工。

《美丽新世界》中的人们对一切漠不关心，而痴迷于琐碎的娱乐，这似乎是现代主义的必然。我们似乎都正在经历着这样的冲击，碎片化的时间、碎片化的信息、感官性的冲击、强迫性的消费……难怪尼尔·波兹曼认为，相对于《1984》里描述的一个等级森严的弥漫着恐怖气息的极权社会，我们更接近于《美丽新世界》，赫胥黎的预言正在实现。

但这是老大哥所期望的社会吗？或许这只是在当前技术手段下的一种选择上的妥协，而人工智能则带来了一种新的可能。分割、监控、预警……边沁的「圆形监狱」有望在 AI 时代得以实现。

一方面是政府权力的集中，一方面是个人自由的剥夺，我们正走向「反乌托邦」社会。如果中国真如国务院规划那般达到 AI 的世界领先水平，那么政府——而非人民——将会是最大的受益者。

---