
在刚刚结束的MEET 2024智能未来大会上,终端侧AI成为备受关注的热门话题。高通技术公司产品管理高级副总裁颜辰巍在会上指出,终端侧AI是生成式AI规模化的未来。他提到,随着模型参数不断增大、相关应用和用户不断增加,云计算的推理成本和综合成本将急剧上升,这将限制生成式AI的发展规模。此外,数据应在哪里,AI推理就应在哪里进行,不仅经济效益更好,而且更能保护用户隐私。另外,一些场景缺乏5G数据连接,因此需要本地计算能力支持。颜辰巍认为,只有当终端能够运行基于AI大型模型的用例时,端侧和云侧才能有效结合,生成式AI才能大规模普及,并发挥出全部潜力。
MEET 2024大会是由量子位主办的智能科技领域的顶级商业峰会,旨在探讨前沿科技技术的实际应用。今年,数十家主流媒体和直播平台报道了MEET 2024大会,吸引了超过300万行业用户在线参会,全网总曝光量累积超过2000万次。
如果您需要查看更多信息,请访问原文链接:终端侧AI才是生成式AI规模化的未来 | 高通颜辰巍@MEET2024。如果您想联系作者,可以通过以下方式:
- 文章来源:量子位
- 作者微信:QbitAI
- 作者简介:专注追踪人工智能新趋势,关注科技行业的最新突破。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关AI热点
暂无评论...