cg模型网官方网站无问芯穹(Infinigence AI)依托行业领先且经过验证的AI计算优化能力与算力解决方案摩尔线程团结无问芯穹宣告,两边期近日正式竣事基于邦产全功效GPU千卡集群的3B范围大模子实训。该模子名为“MT-infini-3B”,正在摩尔线程夸娥(KUAE)千卡智算集群与无问芯穹AIStudio PaaS平台上竣事了高效平静的操练。本次实训充沛验证了夸娥千卡智算集群正在大模子操练场景下的牢靠性,同时也熟行业内率先开启了邦产狂言语模子与邦产GPU千卡智算集群深度协作的新范式。
MT-infini-3B模子操练总用时13.2天,颠末精度调试,达成全程平静操练延续绝,集群操练平静性到达100%,千卡操练和单机比拟扩展服从高出90%。目前,实训出来的MT-infini-3B本能正在同范围模子中跻身前哨,比拟正在邦际主流硬件上操练而成的其他模子,正在C-Eval,MMLU,CMMLU等3个测试集上均达成本能领先。
无问芯穹团结创始人兼CEO夏立雪流露:“邦内大模子与邦产芯片的软硬件协同兴盛,最终方针是构修一个成熟的生态编造。无问芯穹正正在打造‘M种模子’和‘N种芯片’间的‘M×N’中央层产物,达成众种大模子算法正在众元芯片上的高效、同一铺排。摩尔线程是第一家接入无问芯穹并实行千卡级别大模子操练的邦产GPU公司,而‘MT-infini-3B’的操练是行业内初次达成基于邦产GPU芯片从0到1的端到端大模子实训案例。”
摩尔线程创始人兼CEO张修中流露:“无问芯穹正在夸娥千卡智算集群上达成的从零先导的大模子操练,不但是对摩尔线程本领势力的有力认证,更是达成了邦内大模子操练的邦产化闭环。摩尔线程夸娥千卡智算集群以全功效GPU为底座,供给软硬一体化的全栈处理计划,具备高兼容性、高平静性、高扩展性等归纳上风,咱们悉力于成为AGI期间大模子操练坚实牢靠的前辈根基举措。”
此前,摩尔线程与无问芯穹已完毕深度策略协作。无问芯穹大模子开采与任事平台“无穹Infini-AI”和摩尔线程大模子智算千卡集群夸娥已竣事编造级调和适配,该平台能够乖巧移用夸娥的集群才力以竣事大模子的操练、微调与推理工作。另日,两边还将发展更众适配与测试,推进邦产大模子本领的迅疾兴盛与利用普及,为中邦人工智能家产的振奋兴盛进献气力。
无问芯穹(Infinigence AI)依托行业领先且颠末验证的AI揣度优化才力与算力处理计划,寻求大模子落地的极致能效。打造“M种模子”和“N种芯片”间的“M×N”中央层产物,达成众种大模子算法正在众元芯片上的高效、同一铺排。链接上下逛,共修AGI期间大模子根基举措,加快AGI落地千行百业。
摩尔线程是一家以全功效GPU芯片策画为主的集成电道高科技公司,不妨为通常的科技生态协作伙伴供给壮健的揣度加快才力,悉力于打造为下一代互联网供给众元算力的元揣度平台。