[转帖]为什么我的CNN石乐志?我只是平移了一下图像而已_AI.人工智能讨论区_Weblogic技术|Tuxedo技术|中间件技术|Oracle论坛|JAVA论坛|Linux/Unix技术|hadoop论坛_联动北方技术论坛  
网站首页 | 关于我们 | 服务中心 | 经验交流 | 公司荣誉 | 成功案例 | 合作伙伴 | 联系我们 |
联动北方-国内领先的云技术服务提供商
»  游客             当前位置:  论坛首页 »  自由讨论区 »  AI.人工智能讨论区 »
总帖数
1
每页帖数
101/1页1
返回列表
0
发起投票  发起投票 发新帖子
查看: 1992 | 回复: 0   主题: [转帖]为什么我的CNN石乐志?我只是平移了一下图像而已        下一篇 
huang.wang
注册用户
等级:中将
经验:17623
发帖:407
精华:1
注册:1970-1-1
状态:离线
发送短消息息给huang.wang 加好友    发送短消息息给huang.wang 发消息
发表于: IP:您无权察看 2018-7-5 9:20:13 | [全部帖] [楼主帖] 楼主

一般来说,图像经过小小的平移和变形之后,人类还是信任CNN能够把它们泛化,识别出里面的物体。

归纳偏差 (Inductive Bias) ,是CNN成功的一个关键。卷积和池化的选择,就是为了赋予神经网络一些不变性,避免因为一些小的改变,就丧失了原本的判断。

image.png

然而,来自耶路撒冷希伯来大学的两位研究人员发现,一幅图像被平移了几个像素之后,现在的CNN就很容易认不出来。旋转和缩放 ,也是一样。


平移一下就石乐志

团队用测量习得表征 (Learned Representations) 线性度 (Linearity) 的方法,来观察CNN的不变性。

接受考验的CNN选手有三位,VGG-16,ResNet-50以及Inception ResNet-V2。结果——

只是把狗狗下移了一点点,

只是把瓶子放大了一点点,

只是把白熊的姿势换一下,

系统的识别准确率就发生了猛烈的变化。

image.png

这就是Inception ResNet-V2给出的答案。面对平移、缩放、旋转这样的无关变化,CNN都可能轻易抛弃原本的判断,无法保持岿然不动。

为了看到它是怎么失败的,研究人员从ImageNet的验证数据集里随机选取200张图片,把它们揉到更大的背景图里面,然后做平移之类的变换。

从Top-5的情况来看,如果移到某一个像素的时候还能够正确判断,而移到下一个像素就错了的话,就在Jaggedness里面加上1。

如果移过了多个像素而Top-5一直都有正确答案的话,就不计数。连续失败也不计数。

Jaggedness越大,表示CNN越不坚定。

image.png

统计图上,每一行的色带,表示的是一幅图像的预测结果,而横轴的延伸代表平移的过程。

纯色的色带,表示很稳。

混色的色带,表示不稳。

那么,钟型图上纯色的色带越短,Jaggedness越大,CNN越不坚定。

image.png

看上去,VGG16是最稳的,而更加现代化的ResNet50和Inception ResNet-V2,面对同一幅图的简单变换,给出的答案就没有那么统一。

不过,单从正确率来看,还是后面两位选手更优秀一些。

换句话说,VGG16,对得坚定,错得也坚定。

可是,人类需要的或许是正确率又高,判断又坚定的,那种AI。


为何平移就不好了

为什么现在的这些CNN无法兼顾这两项指标?

如果最终用来分类的特征,是表征经过全局池化得来的,那么图像平移应该不会影响到AI的判断。

所以,问题出在哪?

image.png

研究人员说,这个逻辑里面,没有考虑到子采样这个操作,现在的CNN里面,这样的步骤有很多很多。

子采样的问题,Simoncelli和同事们也曾经讨论过。

于是,子采样步骤越多,平移不变性越难保持,只有在某些特定的平移之下得以幸存。

比如,在Inception ResNet-V2里面,子采样因子是45。这样一来,只有1/45^2的概率能够保留平移不变性。

平移不变性,还有另外一种比较弱的表现形式,被Simoncelli他们称做“shiftablility”。

耶路撒冷的团队,在这个概念的基础上,证明了只要满足了shiftablility,全局池化就可以保留平移不变性


曲线救国可以么

即便在子采样的洪流中,CNN难免随波逐流。不过,人类依然可以训练神经网络,做出拥有“不变性”的判断。

首先,这个训练数据集自身,需要对无关变换视而不见。

所以,团队检测了一下ImageNet训练数据集的不变性

这里,需要给每幅图像手动标上类别,西藏梗、大象、菠萝、贝果以及船桨。

image.png

不出所料,研究人员发现ImageNet里面,西藏梗的眼距,以及双眼连线的中点位置,分布都比较集中,不利于平移的训练。

怎么让数据集变得更有不变性

数据扩增 (Data Augmentation) 是一个思路。不过,这也不是一蹴而就的事。

因为子采样的问题阴魂不散。按照子采样因子是45来计算,每一个样本,都需要45^2=2025个扩增版本。

如果除了平移之外,还要考虑缩放和旋转的话,这个数字还会呈指数增长。

所以,要给CNN培育出坚固的不变性,这个方法可能还是有点困难。


生而为人的骄傲

虽然,现在的ResNet-50和Inception ResNet-V2看上去还有些踌躇,对图像的平移感到无助,但它们识别物体的准确率比以前的技术要好很多了。

当然,这也和ImageNet数据集里,物体在图像中的位置不够多样化,有关。

image.png

于是,团队还用了一个位置更加随机的数据集来测试。发现人类的识别不会受到影响,而CNN还是时而疑惑。

论文原文戳我


本文转自 公众号 量子位




我超级酷,但是如果你回复我的话我可以不酷那么一小会儿。


——来自logo.png


赞(0)    操作        顶端 
总帖数
1
每页帖数
101/1页1
返回列表
发新帖子
请输入验证码: 点击刷新验证码
您需要登录后才可以回帖 登录 | 注册
技术讨论