12月26日,市场有消息传出,小米正在着手搭建自己的GPU万卡集群,将对AI大模型大力投入。传言称,小米大模型团队在成立时已有6500张GPU资源。
媒体就此消息联系小米方面,截至发稿,对方暂未置评。
万卡集群是指由一万张及以上的加速卡(如GPU、TPU或其他专用AI加速芯片)组成的高性能计算系统,用以训练基础大模型。建设万卡集群是个“百亿元”成本的投入,其中单是GPU采购成本就高达几十亿元。
据了解,去年4月,小米正式组建AI实验室大模型团队,任命栾剑担任大模型团队负责人,向小米技术委员会副主席、AI实验室主任王斌汇报。
当下,AI正成为手机厂商、科技公司布局的重点领域,而算力集群成为训练大模型的必备选项。
上个月,在世界互联网大会乌镇峰会上,小米集团董事长雷军曾表示,2016年小米就All In AI,小米的智能语音助理小爱同学,月活跃量1.2亿台,目前AI广泛应用在小米的各个业务板块。
关于AI大模型,小米集团副总裁、首席财务官林世伟当时透露,“已经把业内大模型团队都过了一遍”,小米会采用惯用的“打法”,也就是战略投资等方式,来实现AI大模型方面的生态合作。
去年8月,小米集团高级副总裁、手机部总裁曾学忠透露,基于和高通、联发科的深度底层技术合作和高频沟通,“小米很快会推出端侧AI大模型应用,相信消费者一定不会失望”。
随后雷军在同月的2023年年度演讲上宣布,小米已经在手机端跑通了Demo,手机端侧大模型(13亿参数)部分场景效果媲美云端,同时该公司还有一个60亿参数的自研大模型。
“小米从2016年组建第一支视觉AI团队,到2023年4月第一时间成立专职大模型团队。7年,6次扩展,小米人工智能团队已经有3000多人了。逐步建立了视觉、语音、声学、知识图谱、NLP、机器学习、多模态等AI技术能力。与其他公司不同,小米大模型技术的主力突破方向为轻量化、本地部署。”雷军表示。
但在今年的年度演讲上,雷军把焦点放在了汽车业务讲解,基本没怎么涉及AI相关内容。
市场分析人士指出,手机融入AI功能已成为大势所趋。手机与操作系统正向AI技术兼容与应用提升的方向发展,操作系统的AI技术创新应用无疑是未来的主流趋势。未来手机操作系统的竞争将很大程度上围绕AI能力展开,厂商需要不断提升AI技术的深度和广度,以满足用户多样化的需求。