本文介绍了复旦大学发布的大模型训练效率工具CoLLiE,以提升效率。该工具针对大型语言模型(LLM)进行定制化训练,适用于不同的应用场景,包括高效的多GPU并行训练和指令微调等。论文标题为《CoLLiE: Collaborative Training of Large Language Models...
AIGC动态欢迎阅读 近日,谷歌发布了被称为“Gemini”的 AI 模型,被誉为“迄今功能最强、通用性最高”的一个突破。Gemini拥有三个版本:Ultra、Pro和Nano,旨在不同规模的应用中实现最优效果。这一举措被谷歌及Alphabet的CEO桑达尔·皮查伊(Sundar Pichai)视为...