微软小模型挑战27亿参数大模型,手机也能轻松运行

微软小模型挑战27亿参数大模型,手机也能轻松运行的封面图

本文介绍了微软最新研发的小尺寸模型Phi-2,该模型仅有27亿参数,但在常识推理、语言理解和逻辑推理方面表现出色。微软CEO纳德拉在最近的Ignite大会上宣布Phi-2将完全开源,并且公布了更多有关Phi-2模型以及全新提示技术promptbase的细节。这个小尺寸模型在多个任务上胜过了其他大模型,如Llama2 7B、Llama2 13B、Mistral 7B,并且与Llama2 70B的差距也在逐渐缩小。更令人惊讶的是,Phi-2模型可以运行在笔记本电脑、手机等移动设备上。

微软表示他们很高兴能够与研发人员分享这一一流的小语言模型(SLM)以及SOTA提示技术。在今年6月的一篇论文中,微软展示了规模仅为7B token的模型在文本任务上的出色表现。有兴趣的读者可以通过微软小模型击败大模型:27亿参数,手机就能跑查看原文详情。如果需要联系作者或了解更多信息,可以关注文章来源机器之心,并添加作者微信almosthuman2014。机器之心是一个专业的人工智能媒体和产业服务平台。

© 版权声明

相关AI热点

暂无评论

none
暂无评论...