|谷歌、微软、亚马逊、阿里、字节深度学习面试问答整理(基础篇)


初学者深度学习面试题
通常会问这些问题 , 以使应聘者熟悉面试官和面试环境 。 尽管问题本身可能很难回答 , 但此级别是你最好的机会 , 可以说服面试官您关于深度学习的基本概念很清楚 。
你对这些问题的答案不必太详尽 , 但请记住 , 面试官可能会在稍后提出更高级的问题时回想起你的答案 。 相当于暗示面试官 , 你的技术大概会在什么程度 。
1.感知器和逻辑回归之间有什么区别?
多层感知器(MLP)是我们用于分类的最基本的神经网络之一 。 对于二元分类问题 , 我们知道输出可以是0或1 。 这就像我们的简单逻辑回归一样 , 其中我们使用logit函数生成介于0和1之间的概率 。
那么 , 两者有什么区别?
简而言之 , 这只是阈值函数的区别!当我们将逻辑回归模型限制为正好为1或正好为0时 , 我们得到一个Perceptron模型:
|谷歌、微软、亚马逊、阿里、字节深度学习面试问答整理(基础篇)
本文插图

2.我们是否可以对隐藏层的所有神经元具有相同的偏见?
本质上 , 你在每个层或每个神经元处也可以具有不同的偏差值 。 但是 , 最好对隐藏层中的所有神经元都有一个偏差矩阵 。
需要注意的一点是 , 这两种策略都会给你带来截然不同的结果 。
3.如果我们在神经网络中不使用任何激活函数 , 该怎么办?
这个问题的主要目的是理解为什么我们需要神经网络中的激活函数 。 你可以通过简单说明神经网络的构建方式来开始:
步骤1:根据权重计算所有输入(X)的总和 , 并包括偏差项:
Z =(权重* X)+偏差
步骤2:应用激活函数来计算预期的输出:
Y =激活(Z)
在每一层执行步骤1和2 。 如果回想一下 , 那无非是向前传播!现在 , 如果没有激活功能怎么办?
我们的Y方程基本上变为:
Y = Z =(权重* X)+偏差
等等-这不仅仅是一个简单的线性方程吗?是的-这就是为什么我们需要激活功能 。 线性方程将无法捕获数据中的复杂模式-在深度学习问题的情况下 , 这一点更加明显 。
为了捕获非线性关系 , 我们使用激活函数 , 这就是为什么没有激活函数的神经网络只是线性回归模型的原因 。
4.在神经网络中 , 如果所有权重都初始化为相同的值怎么办?
用最简单的话说 , 如果所有神经元的权重值相同 , 则每个隐藏单元将获得完全相同的信号 。 尽管这可能在正向传播过程中起作用 , 但每次反向传播过程中成本函数的导数都相同 。
简而言之 , 网络上没有学习!你怎么称呼模型无法从数据中学习任何模式的现象?是的 , 不合身 。
【|谷歌、微软、亚马逊、阿里、字节深度学习面试问答整理(基础篇)】因此 , 如果所有权重都具有相同的初始值 , 则将导致拟合不足 。
注意:这个问题可能会进一步引发有关爆炸梯度和消失梯度的问题 , 下面将对此进行介绍 。
5.列出深度学习中的受监督和不受监督的任务 。
现在 , 这可能是一个棘手的问题 。 可能存在一个误解 , 即深度学习只能解决无人监督的学习问题 。 不是这种情况 。 监督学习和深度学习的示例包括:

  • 图片分类
  • 文字分类
  • 序列标记
另一方面 , 还有一些无监督的深度学习技术:
  • 词嵌入(如跳过表和连续词袋):了解词嵌入:从Word2Vec到计数向量
  • 自动编码器:学习如何使用自动编码器增强模糊的图像!
有一篇写这个的文章叫:深度学习的要点:无监督深度学习简介(使用Python代码 , 有兴趣的可以私信我要文章链接)
6.权重和偏差在神经网络中起什么作用?
这是一个用实际例子最好地解释的问题 。 考虑您今天想出去和朋友一起玩板球比赛 。 现在 , 许多因素都会影响您的决策 , 例如:


推荐阅读