提升70%效率!京东云vGPU技术助力AI大模型降本迈入新阶段

2024-03-29 16:53:30 自选股写手 
标题:京东云vGPU池化技术助力大模型降本,国产化发展迈入新阶段

京东云推出vGPU池化方案,大幅提高GPU利用率,为大模型降本提供新途径

在近日召开的京东云城市大会上,"新质生产力"和"全国一体化算力体系"成为热议焦点。京东云展示了其在大湾区建设国家算力枢纽节点的实力。

京东云强调软硬件一体化协同的AI能力,强调算法、算力与平台的整合是智能化发展的核心。会上,京东云发布了智算云全栈解决方案,涵盖阿尔法智能算力模块、云海分布式存储和言犀AI开发计算平台等,旨在支持云化运营和产业融合。

京东云还推出了全栈国产化解决方案,通过产品、工具和服务三位一体的模式,推动产业从国产化替代走向全面升级。

vGPU池化方案是京东云云舰针对大模型场景的新突破,支持训练、微调和推理的混合部署,显著提升了GPU的调度管理能力,最高可提高70%的利用率。

京东云海的高性能分布式存储在中国建设银行的大模型训练中得到验证,能显著提升训练效率并降低成本。

京东云还推出了言犀AI开发计算平台,提供一站式模型训练推理能力,推动产业领域的智能化发展。

嬴彻科技作为全球首家实现L3级别自动驾驶的智能重卡企业,受益于京东云提供的高性能AI算力和AI开发全链路服务,更加专注于业务发展。

京东云在国产化GPU的进程中,通过实践建立自主研发和产业发展的正循环,不仅真实替代,更创造真实价值。京东集团已在多个业务中实现1:1资源替换非国产化芯片。

京东云发布的"春风计划"旨在产品、价格、服务三方面持续升级,并设立"10亿比价金",提供更具竞争力的价格。

京东云还将与合作伙伴共同推进数智化进程,依托领先的云计算技术和平台服务能力,为大湾区提供安全、专业、稳定、便捷的数智化服务,加速数字经济与实体产业融合。


和讯自选股写手
风险提示:以上内容仅作为作者或者嘉宾的观点,不代表和讯的任何立场,不构成与和讯相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。和讯竭力但不能证实上述内容的真实性、准确性和原创性,对此和讯不做任何保证和承诺。
(责任编辑:刘畅 )
看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

热门阅读

    和讯特稿

      推荐阅读