考研最新资讯LeCun认为梯度下降是最优雅的机器学习算法吗Marcus表示他持有不同意见
考研最新资讯：Gary Marcus与Yann LeCun的“旧账”和“新仇”再起争议
李梅著、陈彩娴编
前不久，刚与埃隆·马斯克（Elon Musk）发生冲突的Gary Marcus，又在Twitter上与深度学习领域的另一个知名人士Yann LeCun发生了激烈的讨论。Marcus一直对深度学习持批评态度，而LeCun则是深度学习领域的一位重要人物。
事件始于几天前，当一位网友在推特上询问：“在机器学习中，最优雅美丽的想法是什么？”许多用户纷纷回答，包括多重权重更新算法、核技巧、降维等。此后，一场关于机器学习研究美学性的讨论展开，有人认为理论家们也在谈论美学性，而有的人则认为机器学习更多注重应用而非纯粹数学。
谷歌大脑研究员Chris Olah加入评论，他认为ML中的优雅是一种生物学上的优雅，而非数学或物理上的。LeCun回应说梯度下降创造了令人难以置信的结构和行为，就如同进化创造了自然界复杂性。他还提到自己1989年的论文，即使用梯度下降训练CNN进行图像识别，这个方法后来成为了计算机视觉研究基础。
LeCun记得2000年丹佛NIPS会议时，一位ML研究人员曾问他ML中学到的最重要东西是什么？他回答说“梯度下降”，对方目瞪口呆。这次争执显示出两人对于“梯度下降”的看法不同。
Marcus表示DL需要补充，但不是替换。而LeCun则反驳说DL本身就是一种工具，不需要新的推理组建。这个争议表明二人观点存在差异，关于如何理解和发展深层次的人工智能仍是一个未解之谜。
