安全公司McAfee正在与对特斯拉车型进行高级威胁研究测试,以此发现任何可能存在的人工智能系统的漏洞。近日,他们发现通过使用2英寸的电工胶带将限速标志的35更改为85,从而成功欺骗了车辆MobilEye传感器,巡航系统自动将车辆加速至85 mph。
值得注意的是,虽然特斯拉在2016年7月便停止了与MobilEye的合作,该漏洞对2016年后的新款的特斯拉并没有影响,但是,用于该项目测试的2016款特斯拉Model S安装了这套监测系统,McAfee成功的通过人为诱骗让巡航速度提升,并且这种较老的技术正在不仅包含特斯拉在内的近4000万量车辆中使用。
更严重的是,McAfee发现这套系统对污损的路牌也有大概率的错误识别,错误识别率几乎达到了100%,当然也不必太过于担心,McAfee认为这种破坏行为在实际使用中几乎很难遇到,他们实验的目的还是想让人类和人工智能都在判断上出现失误。
在此示例中,使用黑色胶带延长了“ 35”中“ 3”的中线,尽管有些细微,但这足以使传感器错误识别。McAfee团队还成功地使特斯拉的传感器大概率的误读了右转弯标志作为停车标志。
目前,特斯拉拒绝就已暴露的漏洞发表评论,但MobilEye的发言人解释说,该公司并不认为这是一个问题,因为“自动驾驶技术将不仅依赖于单一的传感器,而且还将得到其他各种技术和数据的支持,例如地图,以确保信息的可靠性”,尽管如此,我们也提醒各位拥有自动驾驶技术车型的车主们,在国内道路情况有限的情况下,千万不要过度依赖自动驾驶。