NeurIPS现场报道:Orals、Spotlights、Invited talks、Posters!你怎能错过!

NeurIPS(Conference and Workshop on Neural Information Processing Systems,神经信息处理系统大会)于1986 年在由加州理工学院和贝尔实验室组织的Snowbird 神经网络计算年度闭门论坛上首次提出,最初被设计为研究探索生物和人工神经网络的互补性开放跨学科会议。近年来的NeurIPS 大会一直以机器学习、人工智能和统计学论文为主,是公认的机器学习领域的*会议,其热度堪比奥林匹克运动会。会议之眼推出特别专栏,本周为您持续报道NeurIPS 2019最新动态,敬请关注!

经历了昨日的Tutorials和开幕晚宴!今日NeurIPS 2019正式会议精彩亮相:8场Orals、196场Spotlights、63场主题Posters、2场Invited talks为您带来一场学术盛宴!还包括杰出新方向论文奖和经典论文奖作品展示!快跟随小助手去现场一探究竟吧!(此次报道素材由会议之眼特约嘉宾“刘桂良”博士拍摄)

Oral

Uniform convergence may be unable to explain generalization in deep learning

作者:Vaihnavh Negarajan、J.Zico K
机构:卡耐基梅隆大学、博世人工智能中心
小编解读:评价指标转方向,负面结果也能出文章,还能得杰出新方向论文奖!
文章下载地址:https://arxiv.org/pdf/1902.04742v1.pdf

这篇论文展示了本质上是负面的结果,表明许多现有的(基于范数的)深度学习算法的性能界限并没有达到它们所宣称的结果。作者进一步证明,当那些研究者继续依赖于双边一致收敛机制时,他们就无法达到自己宣称的结果。虽然这篇论文没有解决(也没有假装解决)深度神经网络的泛化问题,但它是一个“指路标”,指引深度学习这个领域去寻找不同的方向。

NeurIPS现场报道:Orals、Spotlights、Invited talks、Posters!你怎能错过!

Invited talk

Machine Learning Meets Single-Cell Biology:Insights and Challenges

作者:Dana Pe’er
机构:哥伦比亚大学
小编解读:顶会都在鼓励机器学习跨行降维打击,还等什么!

最近的单细胞分析技术正在制造大量的数据,一个数据集中的数十万到数百万个细胞中的每一个都会得到出数千个变量。单细胞基因组和单细胞成像数据的激增为应用机器学习方法创造了机会,可以构建出具有巨大发现潜力的新生物学意义的人类细胞图谱。演讲者描述了单个细胞及细胞群体组成的多样性,它们的功能,作用方式,以及对疾病变化的影响,并且介绍了在健康和疾病环境中采用这些新数据的成功案例和目前面临的计算挑战。

NeurIPS现场报道:Orals、Spotlights、Invited talks、Posters!你怎能错过!

Dual Averaging Method for Regularized Stochastic Learning and Online Optimization

作者:Lin Xiao
机构:微软研究院
小编解读:十年磨一剑!本文从2009的18篇论文中脱颖而出,荣获经典论文奖!
论文下载地址:
https://www.microsoft.com/en-us/research/wpcontent/uploads/2016/02/xiao10JMLR.pdf

该研究提出了用于在线最优化求解的RDA(Regularized Dual Averaging)方法,是Lin Xiao在微软10年前的研究成果。该方法是Simple Dual Averaging Scheme一个扩展,并更有效地提升了特征权重的稀疏性。

NeurIPS现场报道:Orals、Spotlights、Invited talks、Posters!你怎能错过!

Poster

顶会Poster不轻松!相比于Oral和Spotlight,Poster这种近距离的交流显得更为亲民!NeurIPS 2019的海报展示是很吓人的。通常负责人会被一大群人层层围在海报前面,整个展厅也吵吵嚷嚷,基本离得稍远些就听不到声音了。今日份的盛况是这样的:

NeurIPS现场报道:Orals、Spotlights、Invited talks、Posters!你怎能错过!

不过也不要担心跟不上进度,因为即便是很多不了解这个方向的人也会来到海报面前,咨询负责人:可以从头讲一遍吗!海报负责人其实也很喜欢这样的问题,他们之所以在这里,就是为了让更多人了解他们的研究。接下来小编趁着空档带大家一览几篇顶会海报大作!

AGEM:Solving Linear Inverse Problems via Deep Priors and Sampling

作者:Bichuan Guo、Yuxing Han、Jiangtao Wen

机构:清华大学

小编解读:又是一个将深度学习与贝叶斯统计相结合的示例。顶会总少不了国内理工一霸的身影!

文章下载地址:http://papers.nips.cc/paper/8345-agem-solving-linear-inverse-problems-via-deep-priors-and-sampling.pdf

作者建议在解决线性逆问题和估计其噪声参数之前,先使用降噪自动编码器(DAE)。现有的基于DAE的方法是根据经验来估算噪声参数,或将其视为可调超参数。而作者则建议使用自动编码器指导的EM,这是一种合理概率框架,可以执行具有难解的深层先验的贝叶斯推理。这样的结构可以通过Metropolis-Hastings从DAE获得有效的后验采样,从而可以使用Monte Carlo EM算法。最后文章展示了新方法在信号降噪,图像去模糊等方面具有竞争力的结果。

NeurIPS现场报道:Orals、Spotlights、Invited talks、Posters!你怎能错过!

Reinforcement Learning on Online Markov Decision Processes with Global Concave Rewards

作者:Wang Chi Cheung

机构:新加坡国立大学

小编解读:一个人的论文,一个人的Poster!无敌是多么寂寞!

文章下载地址:

https://arxiv.org/pdf/1905.06466.pdf

我们构建了一个参与马尔可夫决策过程并在每个回合都得到结果向量的代理层。它的目标是在平均矢量结果上最大化全局凹面奖励函数。作者利用该模型在马尔可夫环境中创建了多目标优化,最大熵探索和约束优化等应用,提出了一种基于在线凸优化(OCO)工具(Agrawal和Devanur 2014)和UCRL2(Jaksch等人2010)算法,并且引入了一种新颖的梯度阈值流程,通过控制动作之间的切换可以处理微妙的权衡。通过延迟梯度更新,该流程将产生非平稳策略,从而使结果多样化来优化目标,流程与各种OCO工具兼容。

NeurIPS现场报道:Orals、Spotlights、Invited talks、Posters!你怎能错过!

当然,其他的poster也都有很高的热度,小编就不在这里一一介绍了。感谢他们的耐心解答和辛苦付出,为计算机科学甚至其他学科领域知识的交流与传播做出了贡献!