产业气象站|Bengio首期推特小课堂:从“AI未来五年”谈到“怎么教小孩学机器学习”( 三 )


【产业气象站|Bengio首期推特小课堂:从“AI未来五年”谈到“怎么教小孩学机器学习”】(2)如果算法准确率很高 , 可解释性是否重要?
可以分享一下您对此的看法吗?
YoshuaBengio:机器学习领域将很多研究精力放在泛化的一般形式上 , 以测试与训练数据拥有相同分布的数据 。 我认为我们正在转向分布外(out-of-distribution)泛化 , 这将实现更强的鲁棒性 。
此外 , 从拟合数据分布转向建立其抽象表征以捕获因果结构的方法(使用类似于单词的概念 , 即语义表征) , 也应该有助于解释性 。
14、VenkateshwarRagavan@ICML’2020:鉴于神经科学对理解人工神经网络产生了深远的影响 , 还有哪些学科(如物理学等)将在理解人工神经网络黑箱子方面发挥关键作用?
YoshuaBengio:物理学已经对神经网络产生了重大影响 , 比如基于能量的模型、玻尔兹曼机、熵和互信息的概念 , 以及物理和因果推理之间的关系 。
推荐你看看这个视频:https://www.youtube.com/watch?v=4qc28RA7HLQ
15、UjjwalUpadhyay:有一个观点说 , 表征学习有助于解决对抗性学习问题 , 您怎么看?
YoshuaBengio:首先 , 人类也容易遭受对抗攻击(视错觉、心理偏见等) 。 其次 , 我相信 , 一旦能够训练深层网络捕获对世界的高级抽象理解 , 我们将得到更加鲁棒的系统 。


推荐阅读