神经网络的从数学上是咋证明可以无限逼近线性函数的首先纠正

首先纠正，是连续函数。线性函数的话，实际上单个神经元就可以了不是吗？
实际上完整的陈述应该是：
神经网络可以在一个紧致集（compact set）上逼近任意连续函数。
划重点，首先是紧致集，这是集合论中的知识，你可以把它想象为在一个确切的闭区间内，可以用神经网络接近任何函数。这个边界必须要明确，实际上你是不可能使用神经网络对输入 x 在 $神经网络的从数学上是咋证明可以无限逼近线性函数的$
区间上逼近 $神经网络的从数学上是咋证明可以无限逼近线性函数的$
。

第二是逼近这个在数学上的定义，已经有答主列出了相关wiki：Universal approximation theorem，实际上逼近就是对于原函数 f(x) 来说，定义一个逼近函数函数的实现为F(x)，则对于任意小的误差 $神经网络的从数学上是咋证明可以无限逼近线性函数的$
，都有： $神经网络的从数学上是咋证明可以无限逼近线性函数的$
。数学上的证明你可以看这一篇，使用 sigmoid 进行函数逼近
Universal Approximation Bounds for Superpositions of a Sigmoidal Function
当然，其实你理解一下就能明白了，那么多节点组合起来，总能拼成一个类似的图形的不是么？所以你可以看看这一篇：
A visual proof that neural nets can compute any function

实际上能逼近任何连续函数的特性也并不是神经网络独有的，像多项式函数，样条曲线，径向基函数都可以实现逼近任意连续函数，所以这也不神奇嘛 \\手动斜眼。

■网友
是逼近任何连续函数:早上起来想到一个简单的思路，没有写严格过程:测度有限的可测集的Indicators函数稠密于L2,由于R2上borel 测度的性质(可数不相交区间逼近任何有限测度可测集),区间的indicator 也稠密。所以只需要神经网络可以逼近区间的indicator 就行。Indicators 函数本质其实就是逻辑门小于b且大于a实际上只有一个hidden layer 的神经网络激活函数sigmoid 或者relu都可以很容易模拟逻辑门，所以通过调节weight 就可以很容易逼近区间的indicators.如此就证明了神经网络表示函数集可以L2地以及几乎处处逐点地逼近连续函数集了(因为有限测度集上L2逼近的函数列里面总可以挑选几乎逐点逼近的函数列)，然后使用egorov 定理就可以证明几乎一致收敛。所以单hidden layer 的神经网络是universal approximator
■网友
不是逼近线性函数，是逼近任意连续函数。
Universal approximation theorem
其实问题和函数逼近理论相关，当然这个有点难：
北京师范大学现代数学丛书《函数逼近论》
本质上与柯尔莫哥洛夫在1957年解决了希尔伯特第13问题的定理，关联在一起。
Kolmogorov-Arnold representation theorem
【神经网络的从数学上是咋证明可以无限逼近线性函数的】 所以结果是很深刻的，我们仰望一下就好。

神经网络的从数学上是咋证明可以无限逼近线性函数的

推荐阅读

「聚玩社官方」《使命召唤：战区》数据挖掘：未来或加入13个新模式

魔术气球如何制作帽子，魔术气球制作之如何制作手枪

[默虹美海军学习小站]日本危险，网络办公新问题，美军疫情航母继续吵架

「瑜伽」平衡心情，让身体更年轻

斯佳丽的小厨房清肠刮油，排出体内黑宿便，口臭没了体重降了，西兰花和它一起

科技e视线 11.11战报新鲜出炉，开售2分钟便斩获佳绩，vivo

张翰|梁洁最想拥有梁朝伟的脸竟认不出高圆圆古早照

中国新闻网|四川泸县经济开发区一企业发生火情致5人受伤

SK2和雪肌精化妆水怎样在每天的护肤里安排一起使用

「刺猬公社」周杰伦和Netflix合作华语真人秀；许知远淘宝开播；“飞书文档”独立App将被推出丨猬报

看看新闻knews综合|10岁女孩被叔叔糟蹋怀孕医院做流产手术遭阻拦

陶虹|赚10万郭德纲与董路分享喜悦，多年后董路称其“暴发户、小心眼”

p20上市时间与价格——华为p20国内什么时候上市？

货拉拉一月能赚多少？

金雕抓着野猪幼崽在空中飞翔！网友：不敢动不敢动……

北京青年报-北青网|商务部推出家政服务员信用记录查询系统

电子|立讯精密：公司消费电子业务仍存较大发展空间

蓝忘机|陈情令：江澄跟蓝湛的遭遇互换，蓝湛的金丹被化，魏婴会怎么做？

哑铃怎么练腹肌

广州日报|近视难题别用考试解答