马里兰大学与NYU研究人员揭秘神经网络结构：CLIP模型神经元惊为骷髅头形状

AIGC动态欢迎阅读

原文标题：AI生图太诡异？马里兰大学与纽约大学合作解剖神经网络，揭示CLIP模型神经元形似骷髅头

关键词：模型、图像、方法、架构、研究人员

文章来源：新智元

内容字数：4920字

内容摘要：新智元报道编辑：桃子【新智元导读】如何解释神经网络的黑匣子？马里兰大学与纽约大学的研究人员正在尝试一种全新的方法。在神经网络模型的训练过程中，一些ReLU节点可能会“死亡”，即永远输出0，不再有用。这些节点通常会被删除或者忽略。值得注意的是，这一研究逢上了模糊了生与死界限的节日——万圣节，正是探索这些“死节点”的绝佳时机。对于大多数图像生成模型来说，其输出通常是积极正面的。然而，通过优化算法，模型却可以生成更多奇异、令人恐惧的图像…

原文链接：点击查看原文：AI生图太诡异？马里兰大学与纽约大学合作解剖神经网络，揭示CLIP模型神经元形似骷髅头

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：智能+中国主平台，致力于推动中国由互联网+向智能+新纪元迈进。专注前沿领域如人工智能、机器人等的发展，关注人机结合、人工智能以及机器人对人类社会和文明进步的影响，引领中国迈入智能时代。