如果AI被用于犯罪，我们应该如何防范？

编者按：《纽约时报》高级记者、普利策奖得主、《与机器人共舞》作者 John Markoff近日在纽约时报上撰文，表达了他对不法分子利用人工智能犯罪的担忧。文章原标题为《As Artificial Intelligence Evolves,So Does Its Criminal Potential》，以下为独家编译，未经许可不得转载。

随着人工智能的不断进化，犯罪技术也跟着变得高级起来。

想象这么一个场景：有一天你突然接到了年迈母亲的求助电话，说自己不小心忘记了银行密码。但事实上她并不是你的母亲，电话那头也只不过是由计算机合成，听起来很像她的声音而已。

用人工智能电话中伪装身份，虽然目前还只是科幻想象，但未来这种犯罪方法可能真的会成为现实。

如今，能促进伪装技术广泛使用的软件正在急速发展。最近，打败了世界上顶尖围棋大师的 Alphabet 旗下子公司 DeepMind就宣布，他们已设计出一种新的程序，该程序能“模仿人类的所有语音，并且听起来比现有任何文本语音系统生成的语音都要自然。它把自然语言技术与人类语音之间的差距缩小50% 还要多。”

但讽刺的是，每年 750亿美元规模的计算机安全行业今年还在谈论，机器学习和模式识别技术未来将会如何扭转目前这糟糕的计算机安全状况。他们忽略了一个对大众不利的因素。

“人们不知道，现在网络攻击正越来越不需要依赖人力，而且其扩张也是呈指数级的 ，”执法机构顾问、《 Future Crimes 》一书作者 MarcGoodman 说道，“现在已经不是 Matthew Broderick 躲在地下室黑别人计算机那个时代了。”他指的是 1983 年上映的电影 WarGames 。

今年年初，美国情报局局长 James R. Clapper 就曾发出防止先进人工智能技术被恶意使用的警告。在年度安全审查中，Clapper 强调，人工智能确实能给予人们方便，但同时也能使网络世界变得更易受攻击。

Goodman 表示， 计算机犯罪的复杂性可从不断升级的攻击工具中窥见 ，广泛使用的恶意程序 Blackshades（该程序设计者是瑞典人，已于去年在美国定罪）就是其中之一。

该程序在计算机地下市场卖的很是火爆。“其功能被称作‘匣子里的刑事特权’，” Goodman说道。用户无需任何专业技能就能轻松部署勒索程序，点一下鼠标就能进行视频或音频窃听。

如今，人工智能研究人员正在努力用机器学习改善计算机视觉，语音理解，语音合成和自然语言理解等技术。但同时，黑客们也在学习使用机器学习这种先进的技术进行更高级的犯罪。一些计算机安全研究员们认为，早在 5 年前，不法分子就已经开始使用人工智能技术进行数字犯罪了。

颠覆了互联网领域，无所不在的验证码就能证明这一点 。2003 年卡耐基梅隆大学发明了 challenge-and-responsepuzzle，这是一种能全自动区分计算机和人类的图灵测试，用来阻止自动程序盗取在线账户。

加州计算机安全研究员 Stefan Savage表示，五年来，人工智能领域的研究者和犯罪者都在部署计算机视觉软件以颠覆验证码技术，“如果你已经两年没改验证码，它就会被机器视觉算法给控制住。”

但令人惊讶的是，低成本和免费劳动力正在使恶意人工智能的发展得更迅速。比如，网络罪犯已将验证码破解工作外包给电子工厂，而这只需要花费很少的人力费用就能办到。

甚至，有些更具创造性的计算机骗子已经开始用网络色情奖励那些能破解验证码的人，Goodman 说。人工智能软件永远也比不上免费劳动力这种商品。

所以，接下来会如何呢？

对初入网络犯罪这一行的人来说，他们可是搭上高科技的顺风车了。语音识别系统，比如苹果的 Siri 和微软的小娜，如今正广泛应用于人机交互中。亚马逊的 Echo语音控制扬声器和 Facebook 的 Messenger 聊天机器人平台也正在迅速成为网络商务以及消费者常用的在线通道。而一般情况下，一旦像语音识别这样的交流技术开始流行，那么罪犯也很快会利用上它们。

“我在想，用聊天机器人提供客户支持的公司是不是正在默默承担着一项社会工程，”krebsonsecurity的一名调查记者 Brain Krebs 说道。

社会工程通常是计算机安全链中最薄弱的一个环节。网络犯罪分子会利用人们的信任或乐于助人的品质进行盗窃或偷窥，而创造出能骗人的高级人工智能只会使计算机等设备变得更不安全。

在州政府和政治运动的政治宣传中，我们可以看出广泛使用的聊天机器人技术带来的负面影响。

研究人员甚至还发明词语“计算机宣传活动（computational propaganda）”来形容在 Facebook 和推特等社交媒体上爆发的欺骗行为。

在最近发布的一篇研究论文中，牛津互联网学院的社会学家 Philip N. Howard 和布达佩斯考文纽斯大学（Corvinus University ofBudapest）研究员 Bence Kollanyi 描述了在英国退欧公投时，政治聊天机器人是如何通过这样一个小角色表现出其塑造线上对话的策略的。

而罪犯也迟早会用上这些软件。

独立计算机安全专家 Mark Seiden 说道：“攻击社会工程的设计中有很多小伎俩，但就我所知，还没人开始用机器学习来找什么人最容易上当受骗。”

也许，Seiden 专家不该说这句话。

via：nytimes

延伸阅读：

GeekPwn 2016 |“屠宰场”里的黑客盛会：攻破机器人、智能插座、电子轮椅……

浅析：那些能和计算机说话的小东西们，搞瘫了半个美国的网

网络安全人才缺口50万 360校企合作打造网络人才库