11月20日蚂蚁集团开源万亿参数强化学习高性能权重交换框架Awex,10月已开源两款万亿参数旗舰模型 。
【11月20日蚂蚁集团开源万亿参数强化学习高性能权重交换框架Awex】 11月20日,蚂蚁集团开源万亿参数强化学习高性能权重交换框架Awex。 今年10月,蚂蚁集团已开源两款万亿参数旗舰模型,即非思考的Ling - 1T和思考模型Ring - 1T。 Ring - 1T基于自研的高性能权重交换框架Awex,能在数千卡GPU集群上5 - 10秒内完成万亿参数级别的权重同步。
本文由 AI 算法生成,仅作参考,不涉投资建议,使用风险自担
【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com
最新评论