神经网络是否梦想着电导线?

如果使用Internet,则必须与神经网络进行交互。 这是机器学习算法的一种形式,广泛用于从语言翻译到财务建模的领域。 这种方法的特色之一是图像识别。 包括Google,Microsoft,IBM和Facebook在内的数家公司已经开发了自己的照片布局算法。 但是,尽管这些算法会产生非常奇怪的错误。


用于计算机视觉的Microsoft Azure API在此图像上添加了以下标题:“一群绵羊在布满茂密植被的山坡上吃草”,并带有标签:“草,羊,山,牛,马”。 但是照片中没有绵羊。 一般而言。 我研究了每个景点。


标签:草,田野,绵羊,站立,彩虹,男人

在这张照片中,计算机还看到了绵羊。 偶然地,我知道有些绵羊确实在这个地方附近放牧。 但是它们在照片中不可见。


标签:山坡,放牧,绵羊,长颈鹿,牛群

这是另一个例子。 神经网络通常在每次看到绵羊时都会想象绵羊。 这是怎么回事?

通过处理许多示例来训练神经网络。 在这种情况下,为她提供了很多人手动标记的图像-其中很多都是绵羊。 首先,要完全缺乏对所见内容的了解,神经网络需要创建规则,根据这些规则必须将图像标记为“绵羊”。 显然,她不明白“绵羊”一词是一种动物,而不仅仅是没有树木的草。 与第二张照片类似,她给标签贴上了“彩虹”的标签,因为那片风景潮湿多雨,却没有意识到彩虹需要多色条。

也许神经网络过于敏感,它们到处都能看到绵羊? 事实证明,没有。 他们只在期望见到绵羊时才看到绵羊。 他们很容易在田野和山坡上找到绵羊,但是一旦绵羊开始出现在意想不到的地方,就很明显这些算法在多大程度上依赖于猜测和概率。

把羊带进房间,她会被指定为猫。 举起一只羊或山羊,他们会将其标记为狗。


左:一个男人手里拿着一条狗。 正确:一个女人手里拿着一条狗。”

将它们涂成橙色,它们就会变成花朵。


“在田里的一些橙色的花朵”

将绵羊放在皮带上,他们会将其指定为狗。 把她放在车里,它将是狗或猫。 如果它们进入水中,它们可以被视为鸟类,甚至是北极熊。

如果山羊爬上树,它们就会变成鸟。 或长颈鹿(事实证明,Microsoft Azure因到处都看到长颈鹿而臭名昭著,因为有传言称原始数据集中存在过多的长颈鹿)。


NeuralTalk2:一群鸟在空中飞翔
Microsoft Azure:几头长颈鹿站在一棵树旁

神经网络关联模式。 他们看到类似于毛皮的纹理,绿色的补丁,并确定图片中有绵羊。 如果他们看到毛皮和类似厨房的形状,则可以决定看到猫。

如果生活遵循规则,则图像识别会正常工作。 但是,一旦有人或绵羊做一些出乎意料的事情,这些算法就会立即表现出弱点。

如果您想通过神经网络带来一些不为人知的东西,那么超现实主义将以几乎朋克风格为您提供帮助。 也许将来,特工将打扮成母鸡或开着像牛一样被弄脏的汽车。

Twitter线程中有许多非常有趣的错误的示例,这些错误以一个简单的问题开头:


您自己可以测试用于从Microsoft Azure进行模式识别的API的操作,并确保即使最高级的算法也要依靠运气和概率。 我主要使用另一种算法NeuralTalk2处理Twitter上此注释线程中的图像。

Source: https://habr.com/ru/post/zh-CN411401/


All Articles