过多强调「对齐」可能会对「图对比学习」造成负面影响——最新研究发现

<img src="过多强调「对齐」可能会对「图对比学习」造成负面影响——最新研究发现">

标题:AIGC动态欢迎阅读

最新研究来自人民大学指出,在图对比学习中,过度强调「对齐」可能会产生负面影响。尽管更好的数据增强可以提高模型在下游任务中的泛化能力,但同时也可能削弱对比学习的原始性能。近年来,由于数据量的增加和标签信息的不足,自监督方法得到了广泛应用。在图结构数据中,利用边和节点的丢弃进行增强变得更加容易,因此对比学习成为一种天然的自监督模式。图对比学习在数据增强后,会生成两个视图,其中对应节点作为正样本,其余节点作为负样本。过去的研究…

文章来源:新智元

内容字数:6243字

作者微信:AI_era

作者简介:新智元致力于推动中国从互联网+向智能+新纪元的转变,关注人工智能、机器人等前沿领域发展。重点关注人机融合、人工智能和机器人对人类社会与文明进化的影响,引领中国迈入新智能时代。

原文链接:点击这里阅读原文完整内容:「对齐」太强是坏事?人大最新研究:完美正样本反而会损害「图对比学习」

© 版权声明

相关AI热点

暂无评论

none
暂无评论...