当AI入职FBI,克格勃直呼内行
作者: 脑极体 来源: 脑极体 2020-11-02 23:16
“城市东部的一所房屋有炸弹即将爆炸!”
“炸弹是由捕鼠器,ACDelco品牌AA电池和镀锌管碎片组成的,似乎跟轰炸机有关。”
“恐怖分子来电,第五枚炸弹已经在联邦快递的传送带上了!”
上述剧情如果发生在好莱坞电影里,此刻一定会出现一群运筹帷幄的联邦调查局分析师,在蛛丝马迹中开展一场争分夺秒的竞赛,利用各种类型的数据中,抽丝剥茧,作出预判,再与一线特工们紧密合作,阻止悲剧的发生。
这事儿听起来,是不是比下象棋、写文章、玩游戏、替人巡逻、流水线“打工人”要炫酷多了?
最近美国情报高级研究项目活动(IARPA)提出利用人工智能来预测地缘政治事件,进而找出恐怖分子、黑客或任何被认为是美国敌人的人,所以我们就借此机会,聊聊AI做情报分析师这事儿,到底靠不靠谱。
科学算命:美国情报机构来了一位新员工
IARPA所自主的一些项目,从技术角度看都是我们熟悉的名字:量子计算、低温计算、人脸识别、通用语言翻译等等,这些看起来人畜无害的项目,好像和BAT这种大厂的实验室没啥不一样。
但作为一个由间谍以及博士精英们组成的机构,一切显然不会这么简单,IARPA可以说是美国政府秘密项目中风险最大、影响最深远的一个,因为它需要告诉决策者未来可能发生的地缘政治事件。
他们关注的大多是诸如:G7成员国是否会(在某一特定日期)对叙利亚发动军事攻击?委内瑞拉一个月内究竟能生产多少石油等等,之类的硬核题材。
那AI在其中扮演了什么角色呢?比如IARPA资助的一个名叫SAGE的项目,就是利用机器学习来进行协同预测,通过合作将大量的人类非专家预测因子集中起来,使它们“比单一的人类专家预测得更准确、更快”。
通过这一混合模型,SAGE可以向人类提供机器从图表中获得的信息,将趋势可视化呈现出来,以及AI做出的具体预测。
该项目的负责人、南加州大学维特比信息科学研究所(ISI)人工智能部主任阿兰·加尔斯泰安(Aram Galstyan),前不久就发声说,SAGE成功预测了朝鲜何时将发射导弹试射。听起来是不是很刺激?
放在上古时代,拥有占卜未来能力的AI绝对会成为部落里权利最高的大巫师。不过子不语乱力乱神,想必大家更想知道这种玄而又玄的能力到底是怎么来的。
耳目、尖兵、参谋:分析师的职场密码,AI学会了几招?
明明AI连预测个天气都时准时不准,怎么就突然能预报国家大事了?
用南加州大学计算机科学家弗雷德·莫尔斯塔特(Fred Morstatter)的话来说,“AI之所以有效,是因为人类有硬币的一面,而机器有硬币的另一面”——不是针砭时事、运筹帷幄,而是与以前的分析工具相比,让人类更加准确地抵达未来。说人话就是提高“猜中”的概率和效率。
就拿双十一剁手来说,电商网站的“猜你喜欢”合你心意的几率越来越高多了,其中就有分析预测模型的功劳。
国家大事也同样遵循这一定律,在各类犯罪行为发生之前,通过不正常的间谍活动、社交网络动态、消费记录等等,来分析和研究对象的行为与活动,将潜在损害扼杀在摇篮里。所以AI在政治预测中起到的作用,更像是一个情报分析师,而非指哪儿打哪儿的超级特工。
一个情报分析师应该具备哪些能力?简单来说有三个:耳目、尖兵、参谋,AI又做到了哪一阶段?
1.无处不在的数字“耳目”。
预测的前提,是在数据收集环节就能够提供给分析师们足够规模的准确而有效的数据。
古代的大巫师靠烧龟壳、看星象来“未卜先知”。而IARPA的操作模式,就将数据收集通过人工智能进行自动化管理,根据《匹兹堡邮报》的报道,该系统“能够全天候记录世界各地所有人的生活。”
其中包括了每一篇Facebook帖子、推特和YouTube视频;每一个收费站的标签号码;每一个GPS下载、网络搜索和新闻提要;每一个街头摄像机视频,甚至是每一次外卖下单和餐厅预约……
IARPA的系统让程序没日没夜地不断访问并抓取这些数据,输送到上游来支撑决策。
2.先知先觉的模型“尖兵”。
每个人对数据的敏感度和运用能力是不同的,一个对各种信息和情报变化不敏感的人,自然无法从中洞察并做出对未来的判断和预测,也就是缺乏态势感知(Situation Awareness,SA)的能力,而AI亦如是。
要在读懂大量信息和情报的基础上,结合复杂的国内外政治、经济、科技、文化环境等等,找到规律,这就需要复杂且高性能的模型了。
模型,也就是一种预测的基本方法论,就像媒体们总爱拿“义乌指数”来预测美国大选结果(竞选者的应援道具如旗子等大多是由义乌生产的)一样。一个有效的预测模型,可以成为一把尖刀,在纷繁的大数据中间庖丁解牛、抽丝剥茧。
这一部分可以说是科技竞赛的核心机密了,IARPA到底采用了哪些算法创新我们不得而知,但从大体来看,一般通用的包括决策树、回归技术、聚类算法、深度神经网络等等,结合NLP自然语言处理来理解网络信息,来综合判断事件的走向与结果。这也是一个科技厂商的大练兵场,比如在2015年巴西世界杯期间,谷歌、微软、百度、高盛等巨头就对全部64场比赛的胜负结果,以及冠军和黑马进行了预测,哪家准确率更高大家可以自己搜搜看。
3.不令而信的决策“参谋”。
光有模型,那岂不是没有人类啥事儿了?如果要评选“最晚被AI抢走岗位的职业”,那情报分析师一定位居前列。原因无他,分析的目的是为行动服务的。
尤其是IARPA这样的情报机构,最终是要针对各种可能的突发政治事件、公共危机、恐怖活动等等,迅速产出针对性、国家性的战略决策。
这就需要两个前提:第一,创新。分析师更强调基于隐性知识的处理和分析,并在此基础上提出自己的论断和建议。对于未来不确定的事物,个人的既有知识与经验就极为重要了。如果拿情报流程链来说的话,数据收集与模型分析大概处于前半段,而后半段能改变事情走向的则来自于专家的智慧结晶。
尤其是一些主观层面的信息,必须面对面沟通才能从表情、言谈举止中反映出来,依然需要人类分析师出马,AI在后端提升的效率优先;还有一些隐藏信息,像是一些国家大政方针之类的报告等等,在网络上可能根本就没有任何数据留存,也让AI心有余而力不足。在这个AI连小学生作文都写不好的当下,人类分析师的饭碗自然端的稳稳的。
IARPA就每3年到5年轮换一批项目经理,这些人往往来自各个领域,比如语言学、航空航天、原子物理、人工智能、生物识别、神经科学等等。
第二,影响力。
分析师所找到的“政策密码”,不能闭门造车,最终要在现实中接受检验,而执行力度就取决于其建议被认可的程度了。如果是AI上马,它能保证执行者不用三令五申就会遵守服从吗,能让队友们勇往直前时不需要为判断失误而担忧吗,预测错误导致行动失败的责任又如何划分呢?
换句话说,分析师兜售的是一种具有不确定性的“思想商品”,这就需要其具备能够与他人发生关系、获得认可,并推动他人更充分地展开行为的能力。
技术与影响力,在分析师这一角色的能力体系中互为表里。少了后者的AI,目前只能当个“工具人”。
读到这里,或许我们不会对IARPA的AI动作有太高的忧虑感。不过,此前我国也有领导人提出了“从科技规律出发前瞻思考世界科技发展走势,提出咨询建议,开展科学评估,进行预测预见,在国家宏观决策中发挥建设性作用”的意见。
我们能从IARPA打造AI情报师的经验中,去粗取精找到什么收获吗?
变局之前:AI情报待解的隐患
尽管两国国情不同,但从美国政府机构将AI引入情报工作的动作以及引起的舆论反响中,也可以帮我们规避掉许多不必要的烦恼。
目前来看,IARPA的AI实践有几点值得探讨。
首先,AI预测结果只在小部分范围内有效,并没有更多案例被曝光。除了技术本身的原因之外,许多地方的数据覆盖范围并不普遍也有着直接关系。数据是预测的前提,数据不足自然会出现失真的情况。
还有一些领域的规律不明显,充满了突发事件和意外影响,比如商界相对于农林牧渔等传统行业,时不时就有人为因素影响,这些都需要不断实时修正。
因此,AI在信息 、知识的获取和处理上所体现出的极强能力,值得重视,却也不用过度紧张。
另外,IARPA在AI情报分析上过度发力,已经开始侵犯公民的信息边界。此前就有媒体曝出,IARPA对国家安全局收集的数百万私人海外通信进行数据挖掘,尽管其目的是防止恐怖活动,但滥用和侵犯隐私权的可能性也已经引起了不少观察家的警觉。
在美国,这样的事情还不在少数,2017年,Facebook收到了来自世界各国政府的78890条信息请求,41%来自美国,其中85%的请求得到了批准,同时也向谷歌、苹果和其他公司提出了类似的要求。
美国国土安全部(U.S.Department of Homeland Security)的一篇帖子也显示,他们正试图创建一个系统,能够“全天候访问有密码保护的影响力人群的个人社交媒体,并从内容、情感、数量等方面进行分析”。
如何平衡好公民隐私安全与国家利益之间的问题,考验着政府对待数字化、智能化技术的管理水平。
而在没有给出具有说服力的共识方案之前,我想大多数人都会更希望这一天更慢一点到来。
【声明】该文由作者本人上传,其观点仅代表作者本人。亿邦号系信息发布平台,亿邦动力网仅提供信息存储空间服务,如本文涉及侵权 ,请及时联系run@ebrun.com。