当前位置:主页>产 业>业界新闻>

安全研究人员提醒AI助理需谨防人耳听不到的“海豚攻击”

中美研究人员已经验证了一种可向 Siri 等 AI 助理发出“隐藏式攻击命令”的方法,因其采用了人耳察觉不到的音频,从而强迫智能助理执行非机主下达的恶意命令。《纽约时报》指出,如果被别有用心的人得逞,这种攻击手段可用于拨打电话、打开网站、甚至更糟糕的事情。根据来自加州、伯克利、以及乔治城大学的学生团队在本月发表的一篇研究论文,他们甚至可以将恶意命令嵌入音乐录音或口述文本中。

当在亚马逊 Echo 或苹果 iPhone 附近播放时,普通人只能听到单纯的歌曲或语音。但智能设备能够捡拾起一条潜在的指令,比如向购物车中添加一些东西。

往更危险的层面去讲,恶意攻击者可以下达锁门、卷钱、或购买线上商品等操作 —— 尽管在通常情况下,为了不引起事主的注意,事情都是静悄悄地进行、涉及金额也不会太大。

然而论文作者之一、来自加州大学博客利分校的五年制计算机安全博士生 Nicholas Carlini 坚信,或许早已有恶意攻击者实施过类似的技术:

我们想要知道自己是否能够让它变得更加隐秘,虽然没有证据表明这些技术已经跑出了实验室,但它被人利用只是时间的问题。我的的猜测是,恶意攻击者早已雇人干过我提到的事情。

【视频】:Dolphin Attack_ Inaudible Voice Command

去年的时候,美国普林斯顿和中国浙江大学的研究人员们已经执行过类似的测试,证明了 AI 助理可以通过不被人耳所听到的音频给激活。

如上方的“海豚攻击”演示所示,研究人员打造了一台可以下达隐藏命令的发送器,并顺利地让手机执行了拨打特定电话的操作(另有拍照和发送短信等测试)。

当然,海豚攻击的范围是有限的,因为攻击者必须足够接近接受设备。

(责任编辑:冬天的宇)

分享到:

更多
发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
  • 微笑/wx
  • 撇嘴/pz
  • 抓狂/zk
  • 流汗/lh
  • 大兵/db
  • 奋斗/fd
  • 疑问/yw
  • 晕/y
  • 偷笑/wx
  • 可爱/ka
  • 傲慢/am
  • 惊恐/jk
用户名: 验证码:点击我更换图片
资料下载专区
图文资讯

从乌克兰电网到德国钢厂:攻击工控系统五大

从乌克兰电网到德国钢厂:攻击工控系统五大真实案例

70%的IT和运营技术专业人员担心网络攻击会造成计算机和工业系统的物理损坏,这些损坏...[详细]

零登录:无口令身份认证的兴起

零登录:无口令身份认证的兴起

基于用户行为的身份验证新技术终将宣告口令退出历史舞台吗?...[详细]

2018年5月全国各地区有关区块链政策的整理

2018年5月全国各地区有关区块链政策的整理

其实目前国内关于区块链的态度用一句话就可以概括清楚:一方面是对ICO项目的大力监管...[详细]

聚焦全球前沿技术2018 C3安全峰会助力网络

聚焦全球前沿技术2018 C3安全峰会助力网络强国建设

2018年5月9日,在中央网信办网络安全协调局、公安部网络安全保卫局共同指导下,2018 C...[详细]

SiliVaccine:深入探讨朝鲜反病毒软件

SiliVaccine:深入探讨朝鲜反病毒软件

揭露调查:在一项独家研究中,Check Point 研究人员针对朝鲜本土反病毒软件 SiliVacci...[详细]

返回首页 返回顶部