化妆品最新资讯LeCun称梯度下降是最优雅的ML算法吗Marcus我不同意
作者｜李梅
编辑｜陈彩娴
前几天，Gary Marcus又一次在社交媒体上与人激烈讨论，他这次的对手是深度学习领域的权威Yann LeCun。
Marcus在发帖中回顾了他与LeCun过去的「旧账」和「新仇」，并给予了LeCun一个不满的态度：
事情起源于推特上的一则提问：机器学习中最美丽、优雅的想法是什么？数学家和物理学家常谈美学，但我们似乎很少这样做。网友们纷纷提出多重权重更新算法、核技巧、降维方法等，并就此展开了一场关于机器学习研究美学性的讨论。有人认为理论计算机科学或传统物理背景的人更注重这一点，而另一些人则认为，机器学习强调应用而非纯粹数学中的抽象性。
谷歌大脑的研究员Chris Olah评论说，ML中的优雅来自生物学，而非数学或物理。梯度下降创造出令人难以置信的结构和行为，就像进化创造了自然界复杂性。LeCun回应称，他一直尝试让那些注重理论的人相信梯度下降带来的不可思议力量。他还提到自己1989年发表的一篇论文，其中使用梯度下降训练CNN进行图像识别，使得梯度下降成为了计算机视觉研究基础。
Marcus持有不同意见，他认为需要补充而不是替换深度学习。在2018年发表的一篇文章“Deep Learning: A Critical Appraisal”中，他指出尽管存在问题，但并不意味着要抛弃深度学习。他主张重新定义它，不仅仅是一种工具，还要寻找其它方式作为补充，因为智能本身是多方面且复杂的。
然而，LeCun不认同这个观点。他回应说，如果有新的方案，它仍需被嵌入到深度学习框架之内，而不是围绕它进行扩展。这导致两人对于如何看待未来AI发展路径产生了分歧。
大家怎么看？
