马毅教授最新研究：白盒ViT实现「分割涌现」，深度学习经验将迎来转折？

AIGC动态欢迎阅读

原标题：马毅教授最新研究成果：白盒ViT成功实现「分割涌现」，潜在意义重大？

关键词：模型、语义、研究人员、表征、属性

文章来源：新智元

内容字数：11129字

内容摘要：最新报道显示，由马毅教授领导的研究团队的CRATE模型，凭借理论指导设计，仅通过自监督学习即可实现分割语义的涌现。基于Transformer的视觉基础模型在诸如分割和检测等下游任务中展现出了极强的性能表现，而经过自监督训练的DINO等模型已经展现出了语义分割属性。然而，有趣的是，在有监督分类训练后的视觉Transformer模型中，类似的涌现能力尚未显现。最近，马毅教授及其团队对基于Transformer的…

原文链接：[点击阅读原文：马毅教授新研究：白盒ViT成功实现「分割涌现」，经验深度学是否将终结？](原文链接)

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：新智元是一个推动中国从互联网+向智能+新纪元迈进的主要平台，致力于前沿领域发展，特别关注人工智能、机器人等技术。我们关注人机融合、人工智能以及机器人对人类社会和文明进步的影响，引领中国智能时代。