快捷搜索:  as  xxx

解析图像识别AI会犯的“低级错误”

2019/7/11 9:51:00前瞻网关键字:解析 图像识别 AI 初级差错

浏览量:

对付图像识别技巧来说,无意偶尔缘故原由是由于给定的练习数据集出了问题。比如近日Facebook人工智能实验室的一项新钻研就注解,科技巨子贩卖的物体识别算法在识别来自低收入国家的物品时体现得更差。

今朝的人工智能技巧已经异常长于识别图像中的物体,但仍旧很轻易犯些“初级差错”。

在部分环境下,只需在人眼弗成见的静态噪声中添加一些可选的笔触或图层,就可以“愚弄”AI图像识别系统,这无意偶尔以致会造成致命的后果。

例如,曾有钻研职员将打印的涂鸦贴在路牌上导致AI自动驾驶系统将限速标志辨觉得禁行,腾讯科恩实验室也曾宣布申报称路面上难以留意到的小贴纸就能误导特斯拉差错判断并驶入反向车道。

这些误导标志被称为“抗衡补丁”,钻研职员现在正忙于开拓保护人工智能系统不受这些例子影响的措施。

但在去年的一篇论文中,GoogleBrain和普林斯顿大年夜学的一组钻研职员,包括该领域最早的钻研职员之一IanGoodfellow,觉得这些新钻研过于理论化,没有捉住重点。

他们说,虽然大年夜部分钻研的重点是保护系统免受分外设计的标志的滋扰,但黑客可能会选择一种更直接的措施:应用一张完全不合的照片,而不是在现有照片上叠加噪音图案。这也可能导致系统误判断。这一品评匆匆使加州大年夜学伯克利分校的博士生DanHendrycks编写了一个新的图像数据集。

这个数据集中包括一些轻易被误判的图像,比如松鼠(它们平日会被误觉得是海狮)或蜻蜓(它们会被误觉得是井盖)。他表示:“这些例子彷佛更难警备。”

人工合成的抗衡标志必要知道所有的人工智能系统是若何警备误判的。但比拟之下,纵然人工智能系统各自的警备步伐不合,这些自然的例子也能很好地发挥感化。

Hendrycks上周在国际机械进修会议上宣布了该数据集的早期版本,包孕大年夜约6000幅图像。他计划在几周内宣布终极版本,此中包括近8000个图像。他盘算让钻研团体应用该数据集作为基准。

换句话说,与其直接在图像上练习图像识别系统,不如将其保留下来只用于测试。他说:“假如人们只是用这些数据集练习系统,那么系统仅仅只是记着了这些例子。这样虽然系统已包揽理了误判这些图像的问题,但它们对新图像的误判程度并没有获得改良。”

破解这些令人利诱的误判背后的逻辑,可能会让系统的适应性更广。“为什么系统会把蜻蜓和鳄梨色拉酱搞混?”Hendrycks开玩笑道,“根本不清楚为什么会犯这样的差错。”为什么人工智能会误判?

有些人工智能系统的底层谋略机制是已知的,有些则不是,这被称为“黑箱”,即该系统的开拓者可能都无法完全懂得系统若何做出决策。

对付图像识别技巧来说,无意偶尔缘故原由是由于给定的练习数据集出了问题。比如近日Facebook人工智能实验室的一项新钻研就注解,科技巨子贩卖的物体识别算法在识别来自低收入国家的物品时体现得更差。

据报道,钻研职员测试了五种盛行的现成工具识别算法——微软Azure、Clarifai、谷歌CloudVision、亚马逊Rekognition和IBMWatson。而测试的图像包括来自举世不合阶级的家庭的家顶用品的图像。这些图像可能来自非洲布隆迪的一个月收入27美元的家庭,也可能来自乌克兰一个月收入1090美元的家庭。

钻研职员发明,与月收入跨越3500美元的家庭比拟,当被要求识别月收入50美元的家庭的物品时,物体识别算法的掉足率要超过跨过10%阁下。

而且在识别来自美国的照片时,算法的准确性也比识别来自索马里或布基纳法索的照片要超过跨过15%至20%。

钻研职员称,在一系列用于图像识别的商业云办事中,这些发明具有同等性。

人工智能算法的这种“私见”还有很多其余例子,此中一种常见的推想缘故原由是用于培训的数据有了偏颇——它们每每反应了相关工程师的生活和背景。因为这些人平日是来自高收入国家的白人男性,他们练习的算法所要识别的天下也是如斯。

钻研职员称,视觉算法的练习数据主要来自欧洲和北美,“在人口浩繁的地舆区域,分外长短洲、印度、中国和东南亚,对视觉场景的采样严重不够”。

因为美国科技公司在人工智能领域处于天下领先职位地方,这可能会影响到从照片存储办事、图像搜索功能到更紧张的AI安然摄像头、自动驾驶汽车等系统的方方面面。

“评估人工智能系统并不必然轻易,由于没有履行这类评估的标准基准。”赞助开展这项钻研的Facebook人工智能钻研科学家劳伦斯·范德马顿(LaurensvanderMaaten)在吸收采访时表示。

“抗衡这种私见最紧张的一步是,在培训AI系统之前的数据网络环节就要审慎得多。”

值得留意的是,科技公司们常常把自家人工智能产品鼓吹为“各人平等、各人可得”,但实际上,它们可能只是在按照自己的形象来评估、定义和塑造天下。

您可能还会对下面的文章感兴趣: