云天励飞：力争实现百万Tokens推理成本降低100倍以上

快讯正文

　　云天励飞：力争实现百万Tokens推理成本降低100倍以上 人民财讯2月3日电，2月3日，云天励飞正式举办“大算力芯片战略前瞻会”，首次对外公布未来三年的大算力AI推理芯片战略布局。公司高管宣布，未来云天励飞将以GPNPU架构为核心，大力推进云端大算力强化软硬协同与存储体系攻坚，力争将百万Tokens推理成本降低100倍以上，推动大模型从示范应用走向规模化交付。据介绍，去年公司架构调整，形成四大事业部，其中，政企事业部将战略重点转向推理设备和智算中心的建设。此外，云天励飞还计划打造区域级“千卡集群”，树立城市AI算力赋能的新标杆。