二阶相似性
二阶相似性适用于有向或者无向图(比如Deepwalk里面就用到了有向的二阶相似性) , 二阶相似性假定与其他顶点共享邻居顶点的两个点彼此相似(无向有向均可) , 一个向量u和u'分别表示顶点本身和其他顶点的特定“上下文” , 意为二阶相似 。 对于每个有向边(i,j) , 我们首先定义由生成“上下文”的概率:
模型优化
由于O2的计算代价十分的昂贵 , 因此目标函数优化时使用了负采样方法 , 为每条边指定了一个目标函数:
实验分析与展示与Deepwalk中的实验类似 。
数据集
语言网络:基于英文维基百科页面构建词共同网络社交网络:Flickr、Youtube引用网络:作者和论文引文网算法
GFDeepwalkLINE-SGD , LINELINE(1st+2nd):
对于所有方法 , 随机梯度下降的小批量大小设置为1;以起始值p0=0.025和pt=p0(1-t)设定学习速度 , T是小批量或边缘样品的总数;为了公平比较 , 语言网络嵌入的维度被设置为200;而其他网络中 , 默认设置为128;其他的默认参数设置包括:LINE的负采样k=5 , 样本总数T=100亿(LINE),T=200亿(GF) , 窗口大小win=10 , 步行长度t=40 , 对于DeepWalk , 每顶点行走y=40;所有的嵌入向量最终通过设置||w||2=1进行归一化 。
语言网络
评估学习嵌入的有效性:词类比和文档分类 。
词类比:给定一个单词对(a,b)和一个单词c , 该任务旨在找到一个单词d , 使得c
和d之间的关系类似于a和b之间的关系 。
社交网络
与语言网络相比 , 社交网络更加稀缺;将每个节点分配到一个或多个社区的多标签分类任务来评估顶点嵌入;随机抽取不同百分比的顶点进行训练 , 其余用于评估 。 结果在10次不同运行中进行平均 。 下面是在Flickr和Youtube数据集上的结果展示 。
通过GF和LINE两种方法对引用网络进行评估 。 还通过多标签分类任务评估顶点嵌入 。 我们选择7个流行会议 , 包括AAAI , CIKM , ICML , KDD , NIPS , SIGIR和WWW作为分类类别 。
稳定性
推荐阅读
-
爱集微APP|1.8亿美元,谷歌母公司将收购加拿大智能眼镜制造商
-
【车动力】小车还是两厢好看?,全新奥迪A3三厢版官图
-
-
蔬菜|早上起床后,先吃一个苹果,一个月后,你可能会发生3个变化!
-
小风科技那些事母亲节送什么礼物比较特别?蓝牙耳机推荐
-
【南方Plus客户端】伊尔76将降临纽约?俄大使:俄罗斯做好支援美国抗疫准备
-
宋妍霏开撕张一山|宋妍霏开撕张一山?怒斥对方是渣男?
-
-
-
-
九州事界|知乎2000万热帖,羞辱了多少父母,你满口谎言的模样真丑
-
游戏早知道|Xbox B站官方频道将于7月24日凌晨0点同步直播Xbox Games Showcase
-
-
袁隆平|AI修复珍贵视频:这是袁隆平40年前稻田教学的样子!
-
于小伟|演员于小伟:和高圆圆恋爱2年,出道20年不火,娶普通妻子也幸福
-
ZAKER娱乐|下一场将迎战RNG,小虎被迫立下军令状,LGD锁定“第7个”季后赛名额
-
-
-
穿搭|休闲运动装这样穿搭,既简单又轻松,又不会显得很俗气、平凡
-
三毛|三毛与荷西的爱情,真像书中写得那样浪漫?其实是三毛一厢情愿