IT思维

文章页右侧顶部广告

什么值得学?NeurIPS 2019 WorkShop全解读

2019-12-10 20:30:33 0 业界资讯 | , ,

公众号/将门创投

From: NeurlPS; 编译: T.R.

NeurIPS已经于上周末拉开了帷幕,相信小伙伴们已经开始学习各种放出的新论文新方法了。无论有没有去现场参会,这都是一场值得学习的饕餮盛宴。对于各种学术问题的前沿探讨,一定少不了workshop的影子。

今年的会议安排了58个相关的研讨会,涉及了机器学习、深度学习、神经科学、知识表达、图表示、联合学习、贝叶斯方法、优化器等基础研究,同时还包括了机器人、生物图像处理、硬件、计算框架、决策、文本分析、医疗保健、气候变化和隐私保护等各个方面的应用。今年的workshop大多安排在本周五和周六(12.13-12.14),希望小伙伴们可以从容安排时间,找到自己喜欢感兴趣的研讨会学习交流。

另外,在现场参会的小伙伴可以去围观Demo(传送门),以及将门的NeurIPS聚会~~没有去现场的小伙伴也可以打开丰富的tutorials(传送门)学习充电。

深度学习与逆问题

逆问题是传感、成像和计算机视觉等领域的重要研究对象。随着技术的发展,处理逆问题的手段从迭代的基于物理模型的方法逐渐步入到基于数据训练的深度学习方法,并在图像去噪、超分辨、图像修复和压缩感知等领域得到了优异的结果。目前针对图像重建和传感问题的最优秀方法大都来源于深度学习,通过对信号表达、参数学习、正则化甚至整个逆函数的学习为逆问题的处理提供了更有效的解决方案。

但基于深度学习的方法还面临着一系列挑战,它无法保证像基于物理模型的传统方法一样得到稳定可靠的结果,甚至在某些应用上还会产生较大的误差。这一研讨会的目标在于弥合深度学习应用于逆问题在理论和实践中的差距,更好的处理图像和神经网络中的逆问题。

图表示学习

图结构数据在自然科学和社会科学中都有着广泛的应用,从通信网络到社交网络无处不在。利用深度学习建立关系归纳和推导是构建具有学习推理和泛化能力图系统的关键。结构化的图数据也为机器学习的突破提供了新的方向。近年来图表示学习得到了巨大的发展,从深度图嵌入、卷积网络对于图数据的泛化、基于置信度传播的神经信息处理等等研究层出不穷,并在化学合成、三维视觉、推荐系统、问答系统和社交网络分析等领域的应用中取得了丰硕的成果。

这一研讨会将聚焦图表示学习的方法和开放性前沿问题,通过讲座和poster的形式提供沟通和交流的平台。同时会议还将进行关于图数据学习的基准Open Graph Benchmark和开源深度图工具Deep Graph Library的相关讲座,

AI 向善

科技要造福人类,推动社会进步,这也许是每一个技术人最朴素的愿望。随着AI技术的进步和在现实世界中部署,如何创造一个“善良”的AI系统成为了研究人员和技术人员不得不面对的问题。

目前研究领域缺乏以社会影响为中心的研究动力和成果、实际部署的系统常常会产生意想不到的结果、同时在减低损害的同时如何最大化技术对于社会的积极影响,公共政策制定者们尚无共识。为了勾勒出技术改变世界的积极途径,这一研讨会将汇集学术专家、产业专家、社会领袖、公共政策制定者和伦理学者一起就上述问题进行讨论,并在AI研究、政策和伦理三个框架下探讨AI进步科技向善的未来。

机器学习系统

人工智能、机器学习和系统设计三个领域在技术洪流的推动下产生了全新的领域。随着数据的爆发性增长、不断增长的算法需求和更为复杂的系统架构,使得现代机器学习系统特别是大型机器学习系统的发展面临着一系列挑战。这一研讨会将探索不同领域间的联系与需求、构建出工具、最佳实践和设计原则,以及前沿学术研究的测评标准。

此外各个大厂还将在会议上分享机器学习工具的架构、编程语言、数据结构和并行计算等领域的最新成果,包括PyTorch、TensorFlow、Keras、TVM、Ray、ONNX Runtime、CoreML、Flux、MLFlow、MLPerf、Microsoft RL Systems、MXNet等流型的机器学习工具包。

气候变化

每个人都感受到了气候的变换,更热的夏天更冷的冬天,不寻常的天气和温度。作为最重要的全球性问题,我们每个人都无法逃避。气候变化是一个超级复杂的超大规模问题,人类必须做出积极的应对。但机器学习给我们带来了宝贵的工具,从卫星图像分析、天气预测、智能电网到洪水预测、排放估计、能耗预测分析等。机器学习中的算法需要创造性地与各个领域进行合作,为遏制气候变化做出贡献。研讨会上包括Jeff Dean在内的多位大牛将对气候问题的相关研究进行分享和讨论,包括如何提高光伏效率、云层分类、细粒度分类、气象预报、气候变迁预测和数值模拟等方方面面。

高阶优化方法

优化是众多机器学习任务的核心所在,随着模型的复杂、数据的增加,寻找高效、可靠、可证明的方法对于这些领域的发展至关重要。过去人们一直致力于开发一阶方法。其迭代成本低复杂性适宜并易于实现,并被证明对大多数机器学习有效。但一阶方法的局限性在于需要精细的超参数调优;没有曲率信息的加入使得它们对于病态问题十分敏感;通常难以充分利用分布式计算架构的功能。

而像牛顿法,准牛顿法和自适应梯度下降法等高阶方法,已在许多科学和工程领域广泛使用。它们可以利用局部曲率信息来缓解病态条件、减少甚至避免超参数调优、同时还具有足够的并发可以充分利用分布式计算资源。为了更为高效、灵活地进行机器学习,这一研讨会将聚焦于二阶方法、自适应梯度下降法正则化方法和基于高阶导数的优化技术。

文件中的智慧

商业文档是商业运作的核心所在,在销售协议,供应商合同,抵押条款,贷款申请,采购订单,发票,财务报表,雇佣协议等文件中蕴含了巨大体量的信息和智慧,足以勾勒出完整的商业活动。此外这些文件通常反映了复杂的法律协议,直接或间接地引用了法律法规和标准商业惯例。文档中的信息可以通过自然语言表示,并利用文本、表格和列表进行组织。但由于多种格式混杂、扫描质量不一、内部交叉引用和复杂的文档结构使得文档的分析和理解变得十分复杂。

获取、理解和解读商业文档的“智慧文档”能力是人工智能在商业领域的重要应用。但当前研究对于复杂格式和跨域文档还缺乏充分的研究。实现智能文档理解需要多学科交叉、除了自然语言处理还需要计算机视觉、知识表征和推理、信息检索等等领域的通力协作。这一研讨会将邀请相关领域研究学者和工程技术人员对前沿的技术进行分享和探讨,就智能文档在法律、商业等领域的应用和在文本生成、商业智能方面的落地进行讨论。

贝叶斯深度学习

虽然深度学习带来了革命性的变革,但大多数现代深度学习模型表示其不确定性,也无法充分利用概率工具。随着贝叶斯方法与深度学习相的充分融合,这种情况正在逐渐改变。在过去的几年,随着贝叶斯技术与深度学习模型间的取长补短,两个领域的交叉融合正迸发出新的活力。实际上贝叶斯技术在深度学习中的使用可以追溯到1990年代。但是在出现新需求(例如对大数据的处理)时,早期的工具无法适应,贝叶斯方法渐渐被人们遗忘。但随着该领域的新进展的产生,人们开始重新审视这一领域,并产生了许多杰出的新成果。

这一研讨会将讨论在贝叶斯深度学习的最新研究方法和工具,邀请前沿领域的研究人员就深度生成模型,基于神经网络识别模型的变分推理,贝叶斯神经网络中的实用近似推理技术,贝叶斯神经网络的应用以及深度学习中的信息理论。

除了上面的介绍,还有更多有意思的Workshops将同期举办,感兴趣的小伙伴请戳下面的链接呀,某些官方主页还提供了会议直播哦:

https://nips.cc/Conferences/2019/Schedule?type=Workshop

ref:
inverse problems:https://iopscience.iop.org/journal/0266-5611
https://www.semanticscholar.org/paper/Using-Deep-Neural-Networks-for-Inverse-Problems-in-Lucas-Iliadis/6bc4b1b9249671ae2fafe934659e14d402925000/figure/0
Graph:
https://graphbenchmark.com/
https://www.dgl.ai/
http://www.sohu.com/a/358896182_129720
system:
http://learningsys.org/neurips19/schedule.html
climate:
https://www.comp.nus.edu.sg/~david/Publications/kdd2019-preprint.pdf
https://sites.google.com/site/optneurips19/
https://sites.google.com/view/di2019/schedule
https://papertracer.com/blog/document-management-software-with-document-intelligence
bayes:
http://bayesiandeeplearning.org/
https://medium.com/@joeDiHare/deep-bayesian-neural-networks-952763a9537
https://www.bbvadata.com/bayesian-deep-learning-meets-google-cloud-for-a-better-forecasting-engine-at-bbva/
https://deepbayes.ru/

IT思维

IT思维(itsiwei.com)是互联网首个定位在科技与电商“思维”韬略的平台,我们时刻关注互联网电商行业新动向; 诚邀行业资深从业者加入“思维客家族”!

发表留言

Return to Top ▲Return to Top ▲