互联网最新资讯梯度下降算法是否仍是最优雅的ML选择Marcus持有不同意见
李梅编辑的最新资讯披露：Gary Marcus与Yann LeCun再次交锋，关于梯度下降算法之美的讨论引发热烈辩论
在前几天刚与埃隆·马斯克（Elon Musk）就某个问题激烈争吵之后，Gary Marcus又卷入了另一场网络冲突，这一次，他的对手是深度学习领域的先驱Yann LeCun。Marcus和LeCun之间似乎存在着一段「旧账」，而且他们都在不断地提及这段往事。
据报道，一位网友最近在推特上提出了一则问题：「机器学习中最优雅、最美丽的思想是什么？」这个问题引起了广泛关注，并且许多人给出了自己的答案，如多重权重更新算法、核技巧、降维等。随后，网络上的讨论便转向了机器学习研究中的美学性。
谷歌大脑的一个研究员Chris Olah也加入了讨论，他认为ML中的优雅是一种生物学上的优雅，而不是数学或物理学上的那种。他还指出，梯度下降能够创造出令人难以置信的结构和行为，就像进化创造出自然界复杂性的那样。
LeCun回忆道，在2000年的一次会议上，一位ML领域杰出的研究人员问他：「我们从ML中学到的最重要的是什么？」LeCun回答说：「梯度下降」。那位研究人员听后目瞪口呆，这表明他对这个回答持有强烈否定态度。
然而，不同的声音也出现了，有人赞同梯度下降是最优雅的ML算法，而另一些人持有不同意见。Marcus认为深度学习需要「补充」，而不是「替换」；他还认为将来可能会出现新的工具，比如符号处理操作，与现有的基于梯度的方法结合使用。
但LeCun并不认同他的观点，他表示DL是一个方法，但我们需要新的推理构建。他甚至批评Marcus过去的一篇文章，对此Marcus感到不满，因为他感觉自己被误解并且他的立场被曲解了。
这场辩论展现出来的是两位专家的不同看法，以及他们对于未来发展方向不同的预测。而对于是否应该继续依赖于目前已经证明有效的问题，没有一个明确答案。不过，这样的讨论无疑为整个技术社区提供了一些思考空间，让人们重新审视当前所采用的方法，并考虑到未来的可能性和挑战。
