当今泰坦之战:V。Vapnik和L. Jakel之间关于SVM和神经网络的未来的辩论

尼尔斯·玻尔(Niels Bohr)与阿尔伯特·爱因斯坦(Albert Einstein),乔治·威斯汀豪斯(George Westinghouse)和尼古拉·特斯拉(Nikola Tesla)与托马斯·爱迪生(Thomas Edison)争论的记忆早已变成传奇。 直到现在,人们还没有忘记这些科学的讨论,因为,一方面,只有时间才能解决这些问题。 另一方面,他们的成果决定了未来几十年技术的发展。 今天有类似的讨论吗? 存在。 它们就像一百年前一样炙手可热。


也许我们时代最有趣的争论是Vladimir Vapnik(支持向量法或SVM-支持向量机的发明者)与他在贝尔实验室的老板,卷积神经网络的支持者拉里·贾克尔之间的争论。


Jan LeCunn在Google+上的博客中的照片

卷积神经网络的思想家Jan LeCunn (卷积神经网络的思想家)将他们记录在案的赌注带到了他的Google+页面上, Jan LeCunn担任争议的法官,并以自己的签名保证了所有情况。 他们如下。


图片取自Jan LeCunn的Google+博客

拉里·贾克尔(Larry Jakel)辩称,到2000年,将对为什么大型神经网络能很好地发挥作用(就类似于描述SVM功能的适用性边界和条件而言)发展出一种理论上的理解。


弗拉基米尔·瓦普尼克(Vladimir Vapnik)辩称,到2005年,没有人会使用1995年提出的相同架构的神经网络,每个人都将转向支持向量机。


危急关头是一顿丰盛的晚餐,这笔钱将由一个无法兑现的人支付。


因此,到2000年,关于神经网络的操作尚无明确的理论;它们仍然是黑匣子。 然而,尽管有V. Vapnik的预言,但在他们头脑中正确的人仍在继续使用大约25年前提出的相同体系结构的网络。


双方都输了赌注。 并在一家三人餐厅用餐(Jan LeCund参加了),两人都付了钱。


一个关于现代科学讨论的美丽故事-为什么它不是一个几十年甚至几个世纪后都会被重述的新传奇? 但这不关乎美,而是关乎规模和重要性可比的两个开发人员和研究人员阵营,他们相互争论使用哪种更有效的方法-神秘的神经网络或经过深入研究并在文献中进行了充分研究的支持向量法。


上世纪末,很少有人相信神经网络。 尽管CNN(卷积神经网络)与SVM大约同时开发,但在1988年至1992年之间。 现代实践和科学文献表明,当今,在深度学习革命的时代,神经网络越来越广泛地被使用,并帮助解决诸如语音识别领域的复杂问题。 SVM方法正在失去其流行性,但在某些任务中仍然有需求。



潮流之战(T. Edison和D. Westinghouse之间的纠纷)直到2007年才结束,当时最后一位DC消费者在纽约失踪了。 我想相信V. Vapnik和L. Jakel之间的讨论将以更快的速度结束,因为它的结果似乎已经很清楚了。 今天,每个人都在谈论革命的深度学习,以及神经网络实际上在实践中击败了存在于他们面前的一切的事实。 但是! 在这场辩论中,仍然有一个重要的要点-对神经网络适用性的边界和条件仍然缺乏清晰的了解,对“黑匣子”内部的所有过程也没有完整的分析描述。 现在,我们正在观察分析如何逐渐淡出背景,让位于工程和经验方法。


是否会知道一个叫做“神经网络”的黑匣子是如何工作的? 时间会证明一切。 同时,先生们,争辩!

Source: https://habr.com/ru/post/zh-CN414161/


All Articles