苹果开源M芯专用ML框架，支持运行70亿参数的大模型

欢迎阅读AIGC的最新动态

本文原题为：苹果发布重磅消息：开源M芯专用ML框架，支持运行70亿大模型

主要关键词：框架、苹果、芯片、模型、特点

文章来源：量子位

文章字数：3141字

内容简介：最新消息指出，苹果发布了专为M系列芯片打造的机器学习框架，该框架开源后备受瞩目。使用该框架，用户可以在苹果GPU上运行70亿参数的大型模型，进行Transformer模型训练或进行LoRA微调。该框架由苹果官方发布，与PyTorch风格相似，但并非基于任何已有框架开发。许多知名专家如LeCun纷纷点赞并转发，英伟达高级AI科学家Jim Fan更是称赞此举是苹果在AI开源领域的一大进步。有网友甚至开始想象在iPhone上运行A芯的可能性。该框架被命名为MLX，寓意着探索机器学习的新视角。MLX具有以下主要特点：熟悉的API（包括C++ API、类似NumPy的Python API和一些高级功能，类似于PyTorch的API）、可组合的函数转换、惰性计算、动态图构建、多设备适用以及统一内存。框架的作者是A…

原文链接：点击查看完整文章：苹果大举开源M芯专用ML框架，支持运行70亿大模型