8万8上“满血”DeepSeek,第四范式发布SageOne Lite

2025-03-25 11:42:34 格隆汇 
新闻摘要
第四范式今日推出大模型推理一体机解决方案SageOneLite,8.8万元可运行满血版DeepSeek,以极致性价比帮助企业乃至个人实现本地使用DeepSeek。该方案基于KTransformers,支持单机运行满血模型服务。此外,一体机解决方案还集成了ModelHub平台实现模型管理及不同模型服务的灵活切换,内置智能算力池化管理平台提升GPU资源使用效率,并搭载了大模型开发平台及开箱即用AI应用套件,帮助企业及开发者体验满血强大智能同时,快速创建生成式AI应用

第四范式今日推出大模型推理一体机解决方案SageOne Lite,8.8万元可运行满血版DeepSeek,以极致性价比帮助企业乃至个人实现本地使用DeepSeek。该方案基于 KTransformers ,支持单机运行满血模型服务。此外,一体机解决方案还集成了ModelHub平台实现模型管理及不同模型服务的灵活切换,内置智能算力池化管理平台提升GPU资源使用效率,并搭载了大模型开发平台及开箱即用AI应用套件,帮助企业及开发者体验满血强大智能同时,快速创建生成式AI应用。

SageOne Lite大模型推理一体机解决方案,具备三大核心优势:

1) 低成本,单机体验满血版DeepSeek。

2) 集成ModelHub、大模型工具链,内置SageSuite AI应用套件:包含数百个开放模型服务供给及模型全生命周期管理、可视化workflow流程编排等,并预装AI应用套件,包括AIGC、智能办公、数字员工、智能问答等。

3) 智能算力池化,资源动态调度:通过业界领先的第四范式GPU资源池化(vGPU)技术,可对算力和显存进行智能切分,对计算任务智能调度,灵活在不同尺寸的大模型中进行切换。

(责任编辑:刘静 HZ010)

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读