前言上一篇文章给大家带来了GraphEmbedding技术中的代表算法Deepwalk , 今天给大家介绍graphembedding又一代表算法——LINE,LINE(large-scaleinformationNetwork , 大规模信息网络)致力于将大型的信息网络嵌入到低维的向量空间中 , 且该模型适用于任何类型(有向、无向亦或是有权重)的信息网络 。 并提出了一种解决经典随机梯度下降限制的边缘采样算法 , 提高了算法的有效性和效率,且在应用方面更广 。 总结下来LINE有以下几个特点或者优势:
(1)适用广 , 适合任意类型的网络 , 不论是有向图还是无向图还是带权图 。
(2)信息全 , 目标函数(objectivefunction)同时考虑了网络局部特征和全局特征 。
(3)效率高 , 提出一种边采样的算法 , 可以很好地解决SGD的效率问题 。
(4)时间快 , 提出了十分高效网络表示方法 , 在小时范围内的单机节点上学习百万级顶点网络的表示 。
下面一下来看看这篇文章吧 。
重要定义了解LINE算法之前需要了解一下论文里面的几个重要概念 。
信息网络
信息网络定义为G=(V,E)其中V是顶点集合 , 顶点表示数据对象 , E是顶点之间的边缘的集合 , 每条边表示两个数据对象之间的关系 。 每条边e(E)表示为有序对e=(u,v) , 并且与权重Wuv>0相关联 , 权重表示关系的强度 。 如果G是无向的 , 我们有(u,v)!=(v,u)和Wuv=Wvu;如果G是有向的 , 我们有(u,v)!=(v,u)和Wuv!=Wvu,一般情况下我们认为权重非负 。
一阶相似性
网络中的一阶相似性是两个顶点之间的局部点对的邻近度 。 对于有边(u,v)连接的每对顶点 , 该边的权重Wuv表示u和v之间的一阶相似性 , 如果在u和v之间没有观察到边 , 他们的一阶相似性为0 。
二阶相似性
二阶相似性指的是一对顶点之间的接近程度(u,v)在网络中是其邻域网络结构之间的相似性 。 数学上 , 让
大规模信息网络嵌入
给定大网络G=(V,E) , 大规模信息网络嵌入是将每个顶点v(V)表示为低维空间(d)中的向量 , 学习一个函数:
以上图为例:一阶相似性表示两个顶点直接相连 , 比如6和7两个顶点 , 它们就是相似的;二阶相似表示两个两个顶点有相同的连接顶点 , 比如5和6虽然不直接连接 , 但是同时和1,2,3,4相连 , 所以5和6是相似的 , 这和协同过滤是不是很像 , 说白了就是根据图结构来表达顶点间的相似度 。
算法介绍一阶相似性
对每个无向边(i,j) , 定义顶点vi和vj的联合概率分布为:
推荐阅读
-
央视新闻客户端|乌克兰新增848例新冠肺炎确诊病例 累计超5.6万例
-
『快科技』12全系镜头要升级 苹果要提升短板从6P到7P,郭明錤:iPhone
-
ZAKER|却怪“金童玉女”挡视线!真相是...,司机撞上斑马线上的小孩
-
-
-
-
女强人俱乐部|获数百万网友点赞:有梦就去追,万一实现了呢,男孩雨中跳芭蕾
-
季后赛|换帅后首战惨败36分,无缘季后赛成定局,上赛季CBA四强谜之下滑
-
双子座KA@贵人能够相助,事业蒸蒸日上,不用愁钱,下周开始运势大翻身
-
分享体育|退役后远嫁国外,混血女儿身材颜值出众杨晓君独自一人抚养,女排三连冠功勋
-
半岛新闻|水也不敢喝……社区卫生服务中心副主任参与核酸检测,穿上防护服
-
-
-
游戏绅士哥|网游公会招人花样多:按战绩每人奖励5千元,妹子亲自上阵宣传
-
一般面试官说回去等通知,面试官说回去等通知是什么意思-
-
COPSPOWER|为什么很多人都建议买日系车?它真的比德系车好吗?看完就明白了
-
世界上最恐怖的十大植物视频,世界上最可怕的五种植物-
-
央视新闻客户端|守卫火神山安宁和稳定 燕占飞:我是一名人民警察 我们不上谁上
-
-
摩羯座|8月底贵人相助,4属相事业突飞猛进,横财天降,好运连连