2017年9月,在新学年的第一天,俄罗斯总统普京向俄罗斯学生们开诚布公地阐明了俄罗斯在人工智能技术军备竞赛中的位置。
普京认为,俄罗斯与世界大国进行直接的地缘政治竞争,人工智能是俄罗斯现在最大的筹码。但与美国和中国不同的是,俄罗斯在人工智能和其他新兴技术领域的研究和开发仍比较落后。
另外,尽管普京专注于人工智能,但俄罗斯政府还没有制定具体战略,未来在人工智能研究领域的投资也不得而知。据报道,俄罗斯现在每年在人工智能研究上花费约1250万美元,而美国仅国防部在人工智能和相关领域的非机密研发上的费用就达到每年74亿美元。
2018年,没有一个俄罗斯城市进入全球前二十大人工智能中心。俄罗斯的新尝试——一个名为Era的科技城将于今年秋季开放,现有望成为新兴技术的新枢纽。这一科技城虽然有高级别的总统和行政支持,但俄语人工智能学术研究成果还非常贫乏。
毫无疑问,克里姆林宫已经意识到了俄罗斯在全球人工智能竞争中的不利地位。从战略上讲,其雄心和能力之间的鸿沟要求俄罗斯谨慎投资有限的资源。目前,莫斯科正在向两个方向进行投资:一,传统的军事和国防技术,克里姆林宫认为在这一领域它对西方仍有相对优势;二,高影响力和低成本的非对称战争来纠正俄罗斯和西方在传统领域的不平衡态势。
俄罗斯在国内外的信息战
▲2017年1月5日,美国高级情报官员出席国会的听证会,指证俄罗斯黑客干预美国大选。| 视觉中国
自普京2000年上台起,控制信息就成为了克里姆林宫对内和对外政策的关键要素。例如,2016年新通过的亚洛瓦亚修正案要求电信提供商、社交媒体平台和消息服务商将用户数据存储三年,并允许联邦安全局访问用户的元数据和加密通信。有消息表明,俄罗斯正在试验人脸识别技术,仅莫斯科就有约17万台摄像头,其中至少有5000台配备了NTechLabs的人脸识别技术。
尽管如此,俄罗斯在国内数字监控领域的能力仍然有限。2018年初消息应用软件Telegram和俄罗斯政府间的争斗就证明了这一点。Telegram拒绝移交其加密钥匙,政府就试图通过屏蔽数以万计的IP地址来禁止Telegram, 结果导致了云服务提供商、在线游戏、移动银行应用程序等不相关服务的大规模中断。
在对外政策上,信息战已经成为俄罗斯外交政策战略思想的重要组成部分。俄罗斯军事思想中传统和非传统(或非对称)战争之间的界限已经模糊。
“Maskirovka”这个术语是指在军事和非军事行动中的欺骗和隐藏艺术,这个概念在俄罗斯战略思想中占据突出地位。在传统军事领域,它包括部署诱饵,伪装和误导来欺骗战场上的敌人。在非军事非对称行动中,俄罗斯针对西方的网络攻击的基础也符合“Maskirovka”的指导原则。例如,在2016年美国总统大选期间,一群位于圣彼得堡的“黑客”就通过“互联网研究机构”,开设了虚假的社交媒体账户,伪装成美国人来传播虚假信息和分裂内容,以此来扩大美国社会两极分化。
人工智能驱动的非对称战争
▲2018年10月4日,荷兰官员在海牙举行新闻发布会称,荷方成功拦截一起来自俄罗斯格勒乌(GRU)针对禁止化学武器组织的网络攻击。| 视觉中国
俄罗斯理智地意识到了其技术创新性上的不足,同时发现:现成商业工具和数字平台可以很容易地成为武器;数字信息战具有成本效益和强大的影响力,成为经济和技术上较弱势群体的完美的武器。人工智能驱动的非对称战争能力能为俄罗斯提供额外的比较优势。
以美国大选为例,包括在脸书和谷歌上购买广告,在推特上建立约36000个自动僵尸账号,“互联网研究机构”的运营,加上情报人员的情报收集,以及与美国民主党全国委员会和克林顿竞选活动相关的网络攻击的额外费用,俄方投入的总成本约为一百万美金。然而,这样较低的投资却产生了高回报。仅在脸书上,“互联网研究机构”所发布的内容就影响了1.25亿美国人。这些工具为更低成本却更具破坏性的人工智能驱动非对称战争提供了新的机会。
需要着重关注三种威胁载体:首先,深度学习能让合成媒体内容更快速、低价且易于制作。人工智能音频和视频操作已经可以应用于一些简单的应用程序,允许在视频中将一个人的表情转移到另一个人的面部,将输入的视频进行合成。另外还有工具能合成经人工智能渲染面部的照片,可以制作世界上任何一位领导者的视频和音频……人工智能的进步将使这些信息变得动态起来。
而随着智能手机的普及,动态虚假信息将能够覆盖更多国家和地区的更广泛受众。由于Whatsapp是一种端到端加密的信息传递平台,该平台所共享的内容基本不受监控且无法追踪,使得政府难以抵抗人工智能驱动的虚假信息。
其次,情感运算和自然语言处理的进步将使操纵人类感情和提取敏感信息变得更加容易。随着可用个人数据的增多,人工智能将越来越定制化和个性化,以此来吸引和操纵特定用户。与自然学习处理(如语音识别)相结合,这意味着情感系统将能够模仿、响应和预测通过文本、语音或面部表情表达的人类情感。这些系统可以用于学习高价值目标(如政治人物)的习惯和行为模式,收集他们的信息。
第三,由于内容分发网络的进步,深度虚假和情绪操控的内容将能够以高精度传达给目标受众。它们构成了一个“服务生态系统,可以实现面向数百万人的高度针对性的政治通信。”一种更高级的操作还可以利用全套服务来跟踪所有选民在社交媒体上的政治态度,分析最有可能投票的人在哪里,然后通过高度定制化的活动来影响最薄弱的选区。由于其高度个性化的结构,这种活动可能会对投票行为产生重大影响。
如何应对人工智能驱动的不对称战争
为了应对人工智能驱动的不对称战争,政策制定者应专注于设计针对非常规战争的威慑型战略。实现这一战略的第一步应该是确定并纠正政策制定者与科技行业之间的信息不对称。2015年,美国国防部启动了国防创新部门以资助开发具有防御意义的新技术。该部门也将重点扩展到人工智能研究和开发工具上,以识别和应对动态虚假信息和其他不对称威胁。第二步政策制定者还需要对各国各地区的文化、观念和思维有更深入的了解。为此,美国政府应大力度投资培养下一代区域研究的专家。
最后,不可避免地,政策很难跟上技术进步的步伐。科技公司、研究基金会、政府、和主要的非营利政策组织应投资研究,以评估新兴人工智能技术对外交政策、国家安全和地缘政治竞争的短期和长期的影响。即使是在技术和地缘政治交叉战略研究上较为落后的俄罗斯,也在优先考虑扩大其在人工智能领域上的能力。
作者:伊丽莎白·萨布里克(美国布鲁金斯学会);
编译:吴雨菁(上海全球治理与区域国别研究院)
编辑:王卓一
责任编辑:宋琤
*文汇独家稿件,转载请注明出处。