二阶相似性
二阶相似性适用于有向或者无向图(比如Deepwalk里面就用到了有向的二阶相似性) , 二阶相似性假定与其他顶点共享邻居顶点的两个点彼此相似(无向有向均可) , 一个向量u和u'分别表示顶点本身和其他顶点的特定“上下文” , 意为二阶相似 。 对于每个有向边(i,j) , 我们首先定义由生成“上下文”的概率:
模型优化
由于O2的计算代价十分的昂贵 , 因此目标函数优化时使用了负采样方法 , 为每条边指定了一个目标函数:
实验分析与展示与Deepwalk中的实验类似 。
数据集
语言网络:基于英文维基百科页面构建词共同网络社交网络:Flickr、Youtube引用网络:作者和论文引文网算法
GFDeepwalkLINE-SGD , LINELINE(1st+2nd):
对于所有方法 , 随机梯度下降的小批量大小设置为1;以起始值p0=0.025和pt=p0(1-t)设定学习速度 , T是小批量或边缘样品的总数;为了公平比较 , 语言网络嵌入的维度被设置为200;而其他网络中 , 默认设置为128;其他的默认参数设置包括:LINE的负采样k=5 , 样本总数T=100亿(LINE),T=200亿(GF) , 窗口大小win=10 , 步行长度t=40 , 对于DeepWalk , 每顶点行走y=40;所有的嵌入向量最终通过设置||w||2=1进行归一化 。
语言网络
评估学习嵌入的有效性:词类比和文档分类 。
词类比:给定一个单词对(a,b)和一个单词c , 该任务旨在找到一个单词d , 使得c
和d之间的关系类似于a和b之间的关系 。
社交网络
与语言网络相比 , 社交网络更加稀缺;将每个节点分配到一个或多个社区的多标签分类任务来评估顶点嵌入;随机抽取不同百分比的顶点进行训练 , 其余用于评估 。 结果在10次不同运行中进行平均 。 下面是在Flickr和Youtube数据集上的结果展示 。
通过GF和LINE两种方法对引用网络进行评估 。 还通过多标签分类任务评估顶点嵌入 。 我们选择7个流行会议 , 包括AAAI , CIKM , ICML , KDD , NIPS , SIGIR和WWW作为分类类别 。
稳定性
推荐阅读
-
烹饪|就馋这个馅,补钙补锌,一咬鲜香多汁,出锅吃连吃30个,过瘾
-
[幽门螺杆菌]医案:七贴中药如何治愈胃痛、腹胀、呃逆、泛酸,幽门螺杆菌
-
-
军武阅读@最多可携带12吨弹药作战,歼16战机的强悍性能:航程超4500千米
-
-
大国策|大批革命卫队参战,死伤多人,伊朗境内又爆发激战
-
上观新闻|场馆联盟缤纷再启程,世博地区:做好常态化疫情防控
-
高压锅蒸速冻小馒头要多长时间 高压锅蒸速冻小馒头要多久
-
里奇|国安主帅再现换人昏招!球员看不懂,董路批评一人:心飞到伦敦了
-
-
【】财经前瞻:中国将公布7月CPI 265家公司披露半年报
-
-
陕西省血液中心西安市中心血站|【市血站】阎良区卫生健康局开展无偿献血活动
-
-
-
终于等到你喜大普奔,终于等到你,《秦时明月之沧海横流》要来了
-
-
「快科技」Tab S6 Lite意外上架,三星新平板Galaxy
-
董事长|陆正耀继续担任瑞幸咖啡董事长,罢免未获2/3以上赞成票
-