极果播报 据外媒报道,索尼正在研发了一项有趣的新混合技术:将硬件中嵌入有AI处理系统的图像传感器,使其成为单个集成系统。随着图像技术和代码的不断融合,这种方法的优势和应用潜力巨大。
这项技术在概念上很简单。可以做到像今天在任何手机或相机中一样,使用传统的CMOS图像传感器,然后将其堆叠在逻辑芯片上,该逻辑芯片不仅用于从传感器上提取像素,还可以操作机器学习模型,从这些像素中提取信息。结果是单个电子组件,可以在照片发送到其他地方(例如主逻辑板,GPU或云)之前,对照片进行大量有趣的处理。
不过,图像传感器已经有了配套的处理器,它们可以完成像素排序,将其压缩为JPEG格式等常规工作。但是他们只能快速执行一些常见的任务。
正如索尼解释的那样,索尼芯片能够进行更复杂的加工并输出。例如,如果曝光一只狗在田野里,芯片可以立即对其进行分析,无需发送完整的图像,只需报告“狗”,“草”以及它可以识别的其他任何东西。它还可以进行本质上即兴的编辑,例如即使删去照片中的所有东西,也可以识别并告知要报告的部分。
这个系统的好处在于,它可以在数据进入主设备的存储或处理管道前将所有不必要的数据丢弃。一方面,处理器的功耗更低,也更加安全。公共场所的摄像头可能会预先模糊人脸或车牌。智能家居设备可以识别个人,无需保存或发送任何图像数据。可以合并多次曝光并形成相机视野的热度或频率图。
集成AI过程的芯片可能会产生更高的功耗或延迟,但是Xnor(最近被Apple收购)等公司已经表明,这些任务可以非常快速地执行,而且成本极低。尽管更复杂的处理仍需要更大,功能更强的芯片,但这种第一步验证就能够产生大量有价值的数据,如果设计得当,可以抵御更大的攻击。
目前,索尼的“智能视觉传感器”仍然只是一个样机,可以订购进行测试,但不能批量生产。但是,由于索尼是全球领先的图像传感器供应商之一,因此这项技术很可能会以其他形式应用到相当多的设备中。