当前位置: 首页 > article >正文

HeterGCL 论文写作分析

HeterGCL 论文写作分析

这篇文章,由于理论证明较少,因此写作风格了polygcl是两种风格的。polygcl偏向理论的写作风格,而hetergcl就是实践派的风格

首先看标题,其的重点是Graph contrastive learning Framework。其重点是framework,以及heterophy

摘要

第一句:设定背景 图对比学习效果好

图对比学习(GCL)因其学习稳健节点表示的自我监督能力而引起了研究的广泛关注。

Graph Contrastive Learning (GCL) has attracted significant research attention due to its selfsupervised ability to learn robust node representations.

语法学习:due to A to do be。可以用到(防止千篇一律)

第二句:提出问题 图对比学习在异配图上匮乏

不幸的是,大多数方法主要集中在同嗜图上,这使得它们对异嗜图的效果较差。此外,由于问题背景的不同,因此对比学习的增强方案等需要重新设计

Unfortunately, most methods primarily focus on homophilic graphs, rendering them less effective for heterophilic graphs. In addition, the complexity of node interactions in heterophilic graphs poses considerable challenges to augmentation schemes, coding architectures, and contrastive designs for traditional GCL.

语法学习:render,导致。considerable challenges,相当多的挑战

第三步:引出解决方案 引入结构和语义信息的新型对比学习框架

In this work, we propose HeterGCL, a novel graph contrastive learning framework with structural and semantic learning to explore the true potential of GCL on heterophilic graphs.

在这项工作中,我们提出了HeterGCL,这是一个具有结构和语义学习的新型图对比学习框架,以探索GCL在异性图上的真正潜力。

第四步:具体的做法

Specifically, We abandon the random augmentation scheme that leads to the destruction of the graph structure, instead introduce an adaptive neighbor aggregation strategy (ANA) to extract topology-supervised signals from neighboring nodes at different distances and explore the structural information with an adaptive local-to-global contrastive loss. In the semantic learning module, we jointly consider the original nodes’ features and the similarity between nodes in the latent feature space to explore hidden associations between nodes.

介绍了两种结构和语义的具体做法

第五步:广泛的实验证明我们有很高的性能

与polygcl写作手法的对比分析

由于polygcl在有监督方向,光谱GNN已经取得了很不错的进展,因此作者引入了有监督的解决方法。但是,本文作者提出了半监督和有监督的学习框架。如果同时介绍,可能篇幅过长。因此在摘要中没有介绍

引言

首先,设置背景:有监督到无监督

GNN在节点分类上取得很好的性能->遵循同配性假设,他们可以很好的聚集邻居信息->有监督的GNN需要label,但现实世界标签信息匮乏->这驱动了很多图自监督学习的发展,尤其是图对比学习的发展

第二步:对比学习

具体介绍了传统的对比学习是"增强-编码-对比“的框架。以及在异配图上的缺点

去除边或者节点的图增强的缺陷

总分的结构

传统图GCL通过去除边,来进行图增强->缺点1:破坏图潜在的结构信息->缺点2: 删节点相关的边可能阻断传播->举例子,阻断传播->理论和经验分析表明,随机增强保留同配图的低频成分,但是抑制了高频成分

image

GCL与异配性

总分总结构

GCL的编码和对比模式继承了GNN的同源性假设(限制范围)->现有方法通过同配性去增强,利用结构信息增强(过去的方法)->但是,现实世界的图经常展现出异配性,限制了应用->GCL在异配图的潜力未被探索

第三步:提出方法:

分析了图的异配性,发现异配图的节点有复杂的作用->提出新的对比框架->(什么样的框架呢)结构和语义信息以及具体介绍->我们的方法好啊

第四步:贡献

  1. 我们介绍了传统GCL用于异配图的局限性
  2. 提出新的对比学习框架
  3. 广泛实验表明,我们是sota

相关工作

Graph Neural Network Meet Heterophy

  1. 大部分GNN采用来促进传播
  2. 不幸的是,GNN不适用于异配图(同类节点不相连)
  3. 异配图的GNN有了进展
  4. 其仍需要有监督的标记(适用于有监督)

图自监督学习

  1. 自监督取得了很多的成功
  2. 早起的采用了随机游走等策略
  3. GCL出来了,有了更大的成功(介绍了传统GCL方法,这部分重点写了)
  4. GCL的缺点(重点介绍)(因为这部分是创新点)

定义和背景介绍

分为Notation和Problem Difinition

方法部分

其与polygcl对比,写的就很详细了

尝试对对比学习这部分做个总结

这些论文一般都成了套路。个人觉得分四步走:

  1. 介绍有监督
  2. 有监督的方法(但是缺少标签)
  3. 很自然,引入无监督
  4. 无监督的缺点
  5. 异配图


http://www.kler.cn/news/362810.html

相关文章:

  • uniapp使用webView打开的网页有缓存如何解决(APP,微信小程序)
  • 系统登录接口文档Demo
  • C++ 图像处理框架
  • MongoDB Shell 基本命令(三)生成学生脚本信息和简单查询
  • Golang 并发编程:Context 包的使用与并发控制
  • 【python openai function2json小工具】
  • C语言汇编概述
  • R语言机器学习算法实战系列(十)自适应提升分类算法 (Adaptive Boosting)
  • SCR相对标准偏差、氨氮比、截面速度,多平面计算
  • WIFI、NBIOT、4G模块调试AT指令连接华为云物联网服务器(MQTT协议)
  • 基于Java微信小程序的的儿童阅读系统的详细设计和实现(源码+lw+部署文档+讲解等)
  • int argc, char *argv[]
  • Pr 视频效果:时间
  • 刷题 - 图论
  • 哥德巴赫猜想渐行渐远
  • 软件分享丨Marktext 编辑器
  • 如何在复杂的信息物理系统中实施风险管理
  • leetcode 无重复字符串的排列和组合
  • 基于Django+Python的宾馆管理系统设计与实现
  • illustrator免费插件 截图识别文字插件 textOCR
  • 使用SearXNG-搭建个人搜索引擎(附国内可用Docker镜像源)
  • 等保测评常见误区破解:避免陷入安全盲区
  • 【redis】初识非关系型数据库——redis
  • 【日志】网络传输协议TCP/UDP/HTTP // unity泛型类单例模式
  • 基于yolov5只进行人物目标检测
  • 简单的 curl HTTP的POSTGET请求以及ip port连通性测试