
欢迎阅读AIGC动态
本文转载自机器之心,题为“苹果创新大模型压缩技术,大模型有机会塞进手机里了”。主要内容涉及权重、张量、内存、研究者和设备等关键词。
文章介绍了一个关于大型语言模型(LLM)在移动设备上的拓展应用。由于大模型的内容安全问题,人们希望能够在终端设备上进行模型训练和运行,尤其希望可以在手机上本地运行这些模型以保护用户隐私。然而即使是小型的LLM,也因为数据量过大而难以在移动设备上运行。因此,苹果等公司不断探索创新的大模型压缩技术,希望能够将大模型成功应用于手机等设备之中。
原文链接:苹果创新大模型压缩技术,大模型有机会塞进手机里了
联系作者
文章来源:机器之心
作者微信:almosthuman2014
作者简介:专注人工智能领域的媒体和产业服务平台。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关AI热点
暂无评论...