江苏龙网

  1. 首页 > 人文 > >

「专利解密」举一反三！微软最新公开的趋势预测技术

【嘉德点评】微软发明的基于神经网络的趋势预测方法 ， 这种方法通过获取与对象相关联的时间序列数据 ， 利用递归神经网络来计算时间序列数据的向量 ， 这种向量可以用于确定要分析对象与预定义标签相关联的概率 ， 从而可以对于要分析的对象随时间变化的趋势进行预测 。
集微网消息 ， 随着大数据和人工智能行业的兴起 ， 趋势预测在很多应用场景中都起着不可估量的作用 ， 例如网店商家会根据库存量与可能的客户需求来存货、机场需要预测节假日游客量来安排航班以及进行应急部署 ， 很多场景中都需要有趋势预测 。
「专利解密」举一反三！微软最新公开的趋势预测技术
文章图片
在一些趋势预测应用中 ， 与对象相关联的数据可能具有突发性和时间相关性 。 例如 ， 与流行病学相关的新闻数据以及与大规模数据中心内的监控数据可能具有这样的特性 ， 因为某种疾病的出现是突然的 ， 而不具有像货物出售具有历史数据可以用于分析 。
因此 ， 基于这类数据来预测对象的趋势将变得非常困难 。 另外 ， 随着网络的发展 ， 信息的来源越来越丰富、数据的多样性越来越强 ， 这也导致信息的质量和可靠性都难以确定 。 因此 ， 在这样的大环境下 ， 需要有新的、改进后的趋势预测方案 。
为此 ， 微软在18年6月29日申请了一项名为“基于神经网络的趋势预测”的发明专利（申请号：201810716540.8） ， 申请人为微软技术许可有限责任公司 。
根据目前该专利公开的资料 ， 让我们一起来看看这项趋势预测方法的专利吧 。
「专利解密」举一反三！微软最新公开的趋势预测技术
文章图片
如上图 ， 为该专利中发明的计算设备的框图 ， 其中包括处理器110、存储器120、存储设备130、通信单元140、输入设备150以及多个输出设备160 ， 因为输出设备的形式可以有多种形式 ， 例如显示器、扬声器、打印机等 。
处理器就是在神经网络中用来进行计算的核心部件；存储器包括预测模块 ， 可以根据执行文本而完成各种功能；存储器用来存储神经网络模型以及用于训练的数据 。
而计算设备100完成的任务就是实现对对象的趋势预测 ， 例如对象是增加、减小还是保持稳定：计算设备通过输入和对象相关联的时间序列数据 ， 并根据时间序列数据进行建模 ， 通过神经网络模型来预判对象的趋势 ， 这种趋势可以通过为用户提供精准的信息判断 。
完成这个任务的核心就在于这个神经网络模型 ， 那该如何选用神经网络模型以及来完成模型的训练呢？
「专利解密」举一反三！微软最新公开的趋势预测技术
文章图片
如上图 ， 为该专利中公开的神经网络架构 ， 神经网络200包括递归神经网络(RNN)230 ， 递归神经网络可以包括门控递归单元(GRU)、长短时记忆单元(LSTM)等递归神经网络单元 。
在每一个时间步长 ， 递归神经网络单元可以接收输入数据和上一时间步长的隐状态 ， 并基于该时间步长的输入数据和上一时间步长的隐状态来确定该时间步长的隐状态 。 在单向递归神经网络中 ， 通常将最后一个时间步长的隐状态作为输出提供给后续的网络 。
神经网络的输入是与对象相关联的时间序列数据 ， 例如新闻等文本形式的数据或者数字等其他形式的数据 ， 然后通过嵌入层将新闻等数据项转换为相应的向量表示 ， 以用于提供给神经网络来确定时间序列数据 。
这样 ， 递归神经网络就可以利用所获取的时间序列数据来进行趋势预测 。 例如 ， 新闻向量表示为向量V ， 判别网络可以基于向量V来确定对象与预定义的标签相关联的概率并作为输出 ， 以便预测该对象随时间变化的趋势 ， 标签指示对象随时间变化的趋势的类别 ， 例如 ， 增大、减小或保持稳定等 。
「专利解密」举一反三！微软最新公开的趋势预测技术
文章图片
除此之外 ， 递归神经网络还可以是双向递归神经网络 ， 如上图所示 ， 递归神经网络中的递归神经网络单元314、324、334在每一个时间步长可以接收相应的输入数据以及上一时间步长的隐状态 。 递归神经网络中的递归神经网络单元312、322、332也可以在每一个时间步长接收相应的输入数据以及下一时刻的隐状态 。
在时间步长t＝1时 ， 递归神经网络单元包括相应的递归神经网络单元312和递归神经网络单元314；在时间步长t＝2时 ， 递归神经网络单元包括相应的递归神经网络单元322和递归神经网络单元324；以此类推 ， 在时间步长t＝N时 ， 递归神经网络单元则包括相应的递归神经网络单元332和递归神经网络单元334 。
「专利解密」举一反三！微软最新公开的趋势预测技术
文章图片
【「专利解密」举一反三！微软最新公开的趋势预测技术】最后我们来看看这种用于预测对象的趋势的方法的流程图 ， 首先获取与对象相关联的时间序列数据 ， 接着利用递归神经网络来计算时间序列数据的向量 ， 此时要将时间序列数据划分为与递归神经网络的多个输入相对应的多个部分 ， 这些部分包括具有多个来源的数据项 ， 利用数据项之间的重要性关系来确定时间序列数据的向量 。
接着基于时间序列数据的向量来确定对象与预定义的标签相关联的概率 ， 标签指对象随时间变化的趋势的类别 ， 通过这种的方式 ， 可以将预测问题转化为分类问题 。 最后就基于概率模型来生成对象随时间变化趋势的预测 ， 例如如果某一标签相关联的概率超过一定阈值 ， 就认为该对象的趋势与该标签相同 。
以上就是微软发明的基于神经网络的趋势预测方法 ， 这种方法通过获取与对象相关联的时间序列数据 ， 利用递归神经网络来计算时间序列数据的向量 ， 这种向量可以用于确定要分析对象与预定义标签相关联的概率 ， 从而可以对于要分析的对象随时间变化的趋势进行预测 。
关于嘉德
「专利解密」举一反三！微软最新公开的趋势预测技术
文章图片
深圳市嘉德知识产权服务有限公司由曾在华为等世界500强企业工作多年的知识产权专家、律师、专利代理人组成 ， 熟悉中欧美知识产权法律理论和实务 ， 在全球知识产权申请、布局、诉讼、许可谈判、交易、运营、标准专利协同创造、专利池建设、展会知识产权、跨境电商知识产权、知识产权海关保护等方面拥有丰富的经验 。
（校对/holly）


    推荐阅读


    上一篇：一个充满矛盾的团队反而“战斗力”更强

    下一篇：识别迷雾中的物体，谷歌提出最新目标检测算法Context R-CNN