二阶相似性
二阶相似性适用于有向或者无向图(比如Deepwalk里面就用到了有向的二阶相似性) , 二阶相似性假定与其他顶点共享邻居顶点的两个点彼此相似(无向有向均可) , 一个向量u和u'分别表示顶点本身和其他顶点的特定“上下文” , 意为二阶相似 。 对于每个有向边(i,j) , 我们首先定义由生成“上下文”的概率:
模型优化
由于O2的计算代价十分的昂贵 , 因此目标函数优化时使用了负采样方法 , 为每条边指定了一个目标函数:
实验分析与展示与Deepwalk中的实验类似 。
数据集
语言网络:基于英文维基百科页面构建词共同网络社交网络:Flickr、Youtube引用网络:作者和论文引文网算法
GFDeepwalkLINE-SGD , LINELINE(1st+2nd):
对于所有方法 , 随机梯度下降的小批量大小设置为1;以起始值p0=0.025和pt=p0(1-t)设定学习速度 , T是小批量或边缘样品的总数;为了公平比较 , 语言网络嵌入的维度被设置为200;而其他网络中 , 默认设置为128;其他的默认参数设置包括:LINE的负采样k=5 , 样本总数T=100亿(LINE),T=200亿(GF) , 窗口大小win=10 , 步行长度t=40 , 对于DeepWalk , 每顶点行走y=40;所有的嵌入向量最终通过设置||w||2=1进行归一化 。
语言网络
评估学习嵌入的有效性:词类比和文档分类 。
词类比:给定一个单词对(a,b)和一个单词c , 该任务旨在找到一个单词d , 使得c
和d之间的关系类似于a和b之间的关系 。
社交网络
与语言网络相比 , 社交网络更加稀缺;将每个节点分配到一个或多个社区的多标签分类任务来评估顶点嵌入;随机抽取不同百分比的顶点进行训练 , 其余用于评估 。 结果在10次不同运行中进行平均 。 下面是在Flickr和Youtube数据集上的结果展示 。
通过GF和LINE两种方法对引用网络进行评估 。 还通过多标签分类任务评估顶点嵌入 。 我们选择7个流行会议 , 包括AAAI , CIKM , ICML , KDD , NIPS , SIGIR和WWW作为分类类别 。
稳定性
推荐阅读
-
新民晚报|上海滩最后3辆“巨龙车”要退休了!这次是真的说再会了,那些年的回忆
-
赌王|赌王家族等级森严!虽西装统一定制,但长子举照片连口罩都更高级
-
金融摩根大通:千禧一代蜂拥而入 比特币有望上涨10倍
-
怎么样让国画为大众所接受,尤其是70、80、90后
-
-
王者荣耀|王者荣耀:峡谷中“臭名昭著”的双排搭配,每一种都自带嘲讽属性
-
【中新网】让光刻机变废铁?云手机到底是啥?华为回应了
-
-
-
3DMGAME|《上古卷轴5》大型MOD“天风”15分钟内容展示
-
『搞石丸』炉石传说:暴雪为什么没开放聊天功能?就是怕遇到这种奇葩玩家!
-
-
实地探访暑期托管现状:有的学校活动丰富,有的让做一天作业
-
王者荣耀|王者荣耀:赛末段位调查,王者掉价,永恒钻石少了
-
-
-
时尚丽人派|无意间发现一“名媛装”,适合28-49女人,件件美到心坎里
-
教师|盐城一家长写公开信致校长,质疑高一来了很多新老师
-
集团|押宝文旅荒废住宅 山水文园盲目扩张显资金危机
-
『毛竹』无营销@毛竹答疑:冥想中出现“止”字,有何寓意?