数码小王|TinyML：下一轮人工智能革命( 五 )
新一轮人工智能革命
在资源受限的设备上运行机器学习模型 ， 为许多新的应用打开了大门 。 使标准的机器学习更加节能的技术进步 ， 将有助于消除数据科学对环境影响的一些担忧 。 此外 ， TinyML支持嵌入式设备搭载基于数据驱动算法的全新智能 ， 进而应用在了从预防性维护到检测森林中的鸟叫声等多种场景中 。
尽管继续扩大模型的规模是一些机器学习从业者的坚定方向 ， 但面向内存、计算和能源效率更高的机器学习算法发展也是一个新的趋势 。 TinyML仍处于起步阶段 ， 在该方向上的专家很少 。 本文参考文献中列出了一些TinyML领域中的重要论文 ， 建议有兴趣的读者去阅读 。 该方向正在快速增长 ， 并将在未来几年内 ， 成为人工智能在工业领域的重要新应用 。 请保持关注 。
作者简介
MatthewStewart ， 哈佛大学环境和数据科学博士研究生 ， CriticalFuture公司机器学习顾问 ， 个人博客地址：https://mpstewart.net
参考文献
[1]Hinton,Geoffrey&Vinyals,Oriol&Dean,Jeff.(2015).DistillingtheKnowledgeinaNeuralNetwork.
[2]D.Bankman,L.Yang,B.Moons,M.VerhelstandB.Murmann,“Analways-on3.8μJ/86%CIFAR-10mixed-signalbinaryCNNprocessorwithallmemoryonchipin28nmCMOS,”2018IEEEInternationalSolid-StateCircuitsConference—(ISSCC),SanFrancisco,CA,2018,pp.222–224,doi:10.1109/ISSCC.2018.8310264.
[3]Warden,P.(2018).WhytheFutureofMachineLearningisTiny.PeteWarden’sBlog.
[4]Ward-Foxton,S.(2020).AISoundRecognitiononaCortex-M0:DataisKing.EETimes.
[5]Levy,M.(2020).DeepLearningonMCUsistheFutureofEdgeComputing.EETimes.
[6]Gruenstein,Alexander&Alvarez,Raziel&Thornton,Chris&Ghodrat,Mohammadali.(2017).ACascadeArchitectureforKeywordSpottingonMobileDevices.
[7]Kumar,A.,SaurabhGoyal,andM.Varma.(2017).Resource-efficientMachineLearningin2KBRAMfortheInternetofThings.
[8]Zhang,Yundong&Suda,Naveen&Lai,Liangzhen&Chandra,Vikas.(2017).HelloEdge:KeywordSpottingonMicrocontrollers.
[9]Fedorov,Igor&Stamenovic,Marko&Jensen,Carl&Yang,Li-Chia&Mandell,Ari&Gan,Yiming&Mattina,Matthew&Whatmough,Paul.(2020).TinyLSTMs:EfficientNeuralSpeechEnhancementforHearingAids.
[10]Lin,Ji&Chen,Wei-Ming&Lin,Yujun&Cohn,John&Gan,Chuang&Han,Song.(2020).MCUNet:TinyDeepLearningonIoTDevices.
[11]Chen,Tianqi&Moreau,Thierry.(2020).TVM:AnAutomatedEnd-to-EndOptimizingCompilerforDeepLearning.
[12]Weber,Logan,andReusch,Andrew(2020).TinyML—HowTVMisTamingTiny.
[13]Krishnamoorthi,Raghuraman.(2018).Quantizingdeepconvolutionalnetworksforefficientinference:Awhitepaper.
[14]Yosinski,Jason&Clune,Jeff&Bengio,Y.&Lipson,Hod.(2014).Howtransferablearefeaturesindeepneuralnetworks?.
[15]Lai,Liangzhen&Suda,Naveen&Chandra,Vikas.(2018).CMSIS-NN:EfficientNeuralNetworkKernelsforArmCortex-MCPUs.
[16]Chowdhery,Aakanksha&Warden,Pete&Shlens,Jonathon&Howard,Andrew&Rhodes,Rocky.(2019).VisualWakeWordsDataset.
[17]Warden,Pete.(2018).SpeechCommands:ADatasetforLimited-VocabularySpeechRecognition.
[18]Zemlyanikin,Maxim&Smorkalov,Alexander&Khanova,Tatiana&Petrovicheva,Anna&Serebryakov,Grigory.(2019).512KiBRAMIsEnough!LiveCameraFaceRecognitionDNNonMCU.2493–2500.10.1109/ICCVW.2019.00305.
推荐阅读
- 疫情重创触底反弹 2020年度数码复合ZDC报告
- 王者新声，潮玩探乐！猫王小王子OTR x鲁班七号联名潮玩音箱开启预售
- 小米11最新渲染图曝光：曲面设计，机身长这样
- 抢购 | 科物酷圣诞AI识别双语播报科教儿童数码照相机
- 京东电脑数码这份榜单厉害了！年度最受欢迎C2M产品全在这了
- 四个超实用的数码冷知识，你知道几个？
- 我的第一个数码产品：HTC 8X 和我和它的故事
- 数码技术篇：如何开通国行Apple Watch心电图功能
- 数码产品选购攻略，这样买不吃亏不上当
- 火了整个2020年，这个不起眼的数码黑科技出现后，一切都变了