OpenAI发现方法解密大型神经网络，揭开AI黑盒谜团

诸如Anthropic之类的机构正在通过采用稀疏自动编码器的弱字典学习算法，从512个神经元中提取出了4000多个可解释特征，从而在解决大型模型“黑盒”难题上迈出了重要的一步。这项研究的结果为AI决策和输出的过程带来了更多的透明度，有助于消除AI不可解释性障碍。传统上，AI的决策过程对我们来说是完全不可见的，模型的内部工作被认为是封闭的“黑盒”，模型开发者只能通过算法和数据来影响输出结果。然而，Anthropic的研究为打破这种局面提供了新的思路。

原文链接：点击阅读原文：打破大模型黑盒，彻底分解神经元！OpenAI对头Anthropic击破AI不可解释性障碍。

如需联系作者，请查看以下信息：

• 文章来源：新智元
• 作者微信：AI_era
• 作者简介：新智元是一个致力于推动中国从互联网+迈向智能+新纪元的智能+中国主平台。他们着重关注人工智能、机器人等前沿领域的发展，并关注人机融合、人工智能和机器人对人类社会与文明进化的影响，旨在引领中国迈入智能时代。