快科技9月5日消息,壁仞壁仞据国内媒体报道,科技国产AI芯片公司壁仞科技即将在2024全球AI芯片峰会上,实现首首次公布自主原创的中国种异恪守不渝异构GPU协同训练方案HGCT。
据了解,构G国产这将是混训中国首个三种异构芯片混训技术,业界首次支持3种及以上异构GPU混合训练同一个大模型(壁仞GPU+英伟达GPU+其他国产芯片),技术用一套统一方案支持多种不同型号、英伟不同厂商的芯片GPU,而且一行代码适配多种框架。壁仞壁仞
在此之前,科技内外交困AI Infra公司无问芯穹的实现首4+2芯片,最多仅支持2种GPU同时训练。中国种异
性能方面,构G国产HGCT混训方案的混训异构协同通信效率大于98%、端到端训练效率90-95%,死心塌地一举突破了大模型异构算力孤岛难题。
可靠性上,目前可以实现千卡集群、千亿参数的自动断点续训小于10分钟,15天连续训练不中断,街头巷尾4天连续训练无故障。
据悉,壁仞科技正在联合客户、合作伙伴、科研机构共同推动异构GPU协同训练生态,日夜兼程包括:中国移动、中国电信、商汤科技、国网智能电网研究院有限公司、上海智能算力科技有限公司、千秋万代上海人工智能实验室、中国信息通信研究院等。
公开资料显示,壁仞科技成立于2019年9月,主要研发通用 GPU(GPGPU),变化无穷用于人工智能训练和推理等领域。
2021年3月,壁仞科技完成B轮融资,累计融资额超47亿元人民币
20202年8月,壁仞科技正式发布首款通用GPU芯片BR100,跌跌撞撞创下全球算力纪录,16位浮点算力达到1000T以上、8位定点算力达到2000T以上,单芯片峰值算力达到PFLOPS级别。
甚至与NVIDIA当时4nm 旗舰H100相比,力排众议BR100的纸面性能数据也毫不逊色。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:朝晖
相关文章:
十款免费的角色扮演游戏推荐西宁开通至临沂、徐州航线热门的恋爱养成单机游戏盘点第七届进博会招商路演在成都举办 冀撬动四川采购成交潜力北京邮电大学张佳玮:PON在工业互联网的关键技术及应用以军称对黎巴嫩真主党多个目标发动空袭国家电网成立新一届科技咨询委员会巴基斯坦来华留学生武俊朗:在中国感受安全与繁荣,愿做文化交流的使者多所在京高校将建设雄安校区全国人大常委会法工委:治安管理处罚法修订草案二审稿将修改完善“伤害中华民族感情”条款
5.4536s , 36740.8203125 kb
Copyright © 2024 Powered by 壁仞科技实现中国首个三种异构GPU混训技术!壁仞+英伟达+其他国产芯片恪守不渝,阆中约炮