金句频出,16位大神在ICML上展开了一场机器学习的Great Debates

原创  2018-07-19  作者  AI科技评论

AI 科技评论按:机器学习圈子这几天发生了一件有趣的事,一群知名学者在 ICML 2018 上抱着吵架(辩论)的心思坐到一起,结果却没能吵起来。

从「奇怪的趋势」开始

在 ICML 2018 开幕之前,卡耐基梅隆大学的助理教授 Zachary C. Lipton 与斯坦福大学博士 Jacob Steinhardt 共同发表了一篇名为《Troubling Trends in Machine Learning Scholarship》(机器学习学术研究中的奇怪趋势)的文章,叙述了他们在近几年的机器学习学术研究中看到的四项奇怪的趋势:

除了对这些趋势的解析和批评之外,两位作者也对正确的论文写作风格、如何正确地评审及发表论文给出了自己的建议。

除了这篇文章在推特被广为转发和讨论,实际上 ICML 2018 也以这篇文章为引子,在最后一天的 workshop 中设置了一场辩论(Machine Learning: The Great Debates),邀请了许多知名机器领域的学者参与辩论。

整场辩论共分为四个话题:机器学习科研的严谨性、机器学习的公平性、机器学习的安全性以及深度学习方法的可能性与限制。16 位学者分为四组,每组针对一个话题进行辩论。辩论中也穿插了小演讲,Zachary Lipton 讲解了一些文章中的重要观点,提醒各位学者对有害的做法保持警惕。

来自 Zachary Lipton,谈论文中滥用的语言

来自 Zachary Lipton,对论文作者们的建议:
动机、语言运用、经验成果以及理论本身都要有足够的严谨性

来自 Zachary Lipton,对审稿人们的建议:

辩论金句

整场辩论内容非常丰富,而且观点的当面沟通也擦出了许多火花,在场听众都表示有耳目一新的感觉。虽然由于条件限制无法全文重现给大家,但雷锋网 AI 科技评论摘录了一些讨论中出现的非常经典、令人深思的句子。

「深度学习」话题 —— 当前以及可预见的深度学习方法有着固有的限制,这也限制了用深度学习方法做出高级机器智能的能力,除非我们有其它的方法作为补充

Gary Marcus,纽约大学心理学教授、曾任 Uber 人工智能实验室的负责人

Thomas G.Dietterich,俄勒冈州立大学退休教授、AAAI 前主席

「平等性」话题 —— 为了围绕平等性问题展开有效的讨论,机器学习社区不应该把平等性简化为一个技术性问题。相反地,这个问题应当越来越多地、越来越明显地引起大范围的机构的改变,也要表明政治因素对于技术本身影响的立

Rodrigo Ochigame,MIT 博士生,MIT 多媒体实验室人工智能道德与管理小组

「严谨性」话题

Zachary Lipton,CMU 助理教授,《Troubling Trends in Machine Learning Scholarship》一作

James Bradbury

「安全性」话题 —— 如今的机器学习系统如此脆弱,而这个问题又如此关键,以至于我们不应当允许在真实世界场景中广泛地运用它们

Percy Liang,斯坦福大学助理教授,知名 NLP 领域学者

Aleksander Madry,MIT 副教授, CSAIL 小组成员

辩论的「观后感」

对于这场辩论,大家也许期待学者们自发地分成正反两方,展开激烈的唇枪舌剑。不过显然参与辩论的各位学者都对领域内现存的问题有清醒的认识,以至于多数问题上参与辩论的四个人都能很快达成一致。参与围观辩论的 AAAI 主席、亚利桑那州立大学教授 Subbarao Kambhampati 发推无不遗憾地表示:

围观了辩论的 Endgame 数据科学技术总监 Hyrum Anderson 也总结出了一件自己觉得值得深思的事情:攻击者可以用意想不到的方法攻击看起来根本不重要的系统,最终造成巨大的后果,「我们当时只不过是有一个廉价的推荐系统而已,现在 Trump 已经当上总统了」

在论文中发表新的技术固然有意义,但围绕新技术、新风气,还有太多的东西值得我们仔细思考。AI 科技评论报道。

点击文末阅读原文查看 AI影响因子。

┏(^0^)┛欢迎分享,明天见!

二维码收款
阅读:2504    点赞:17

本文收集自公众号:aitechtalk,欢迎关注它;版权归该号所有,如需删除请联系我们

精选留言

现在还没有留言

AI科技评论的最新文章

AI科技评论的热门文章

相关文章