最新游戏资讯LeCun称梯度下降是最优雅的 ML 算法吗Marcus我不同意
最新游戏资讯：Gary Marcus与Yann LeCun的“美学之争”再起，双方对梯度下降算法持有不同意见。Marcus认为深度学习需要补充，而不是替换，而LeCun则坚信梯度下降是不可思议的力量。两人之间的讨论围绕着机器学习中最优雅的方法展开，他们各自提出了自己的观点和论据。
Marcus在推特上发帖询问了这个问题，并引发了一场关于机器学习研究美学性的讨论。他认为数学家和物理学家谈论美学，但在机器学习领域很少有人这样做。这让网友们开始认真回答，提出多重权重更新算法、核技巧、降维、凸优化方法等。此外，还有人指出，虽然大家很少谈论美学，但这可能是因为机器学习更侧重于应用而非纯粹理论。
谷歌大脑研究员Chris Olah也加入了讨论，他认为ML的优雅是一种生物学上的优雅，而非数学或物理上的。LeCun表示他一直试图让那些注重理论的人相信梯度下降所具有的力量，并回忆了他1989年发表的一篇论文，其中使用梯度下降训练CNN进行图像识别，这成为了计算机视觉研究的一个基础理论。
然而，Marcus并不认同这一观点，他认为AI并不能仅仅依赖于基于梯度的优化。在2018年的一篇文章中，他提出了对深度学习批评，并建议我们应该重新定义它作为众多工具中的一个，而不仅仅是一个通用的方法。最近一场演讲中，他强调了智能本身是多方面的问题，我们需要找到新的办法来作为对深度学习补充。
LeCun反驳说，如果有新的方案，也应该封装在DL中，而不是完全替代。而Marcus则坚称新方案需要围绕DL进行封装，以实现混合和补充。两人的观点似乎存在错位，但他们都同意，有必要探索更多解决问题的手段以超越当前基于梯度下的局限性。
最后，由于这个话题涉及到技术与哲学之间复杂的情感，以及个人立场背后的历史背景，因此看似简单的问题竟然触及到了许多人心灵深处，让人不得不思考，在追求技术进步时，我们又该如何平衡理性与情感？
