华为公开AI模型新专利,能够减少处理延时

2025-09-05 17:26:55 企查查 
新闻摘要
企查查APP显示,9月5日,华为技术有限公司“AI模型的运行方法、装置、程序产品和存储介质”专利公布。摘要显示,该专利应用于主机,主机包括处理器,并连接计算卡,包括 处理器确定AI模型相邻的两组输入数据中在第二数据组中但不在第一数据组中的第一数据,第二数据组在第一数据组之后训练,将第一数据对应的第一嵌入向量预取至处理器的第一内存,并确定第一数据对应的第一嵌入向量信息,在第二数据组在计算卡上处理过程中,根据第一嵌入向量信息将第一嵌入向量从第一内存预取至计算卡的第二内存。采用该专利所示的方案,能够减少嵌入向量搬运带来的处理延时

企查查APP显示,9月5日,华为技术有限公司“AI模型的运行方法、装置、程序产品和存储介质”专利公布。摘要显示,该专利应用于主机,主机包括处理器,并连接计算卡,包括:处理器确定AI模型相邻的两组输入数据中在第二数据组中但不在第一数据组中的第一数据,第二数据组在第一数据组之后训练,将第一数据对应的第一嵌入向量预取至处理器的第一内存,并确定第一数据对应的第一嵌入向量信息,在第二数据组在计算卡上处理过程中,根据第一嵌入向量信息将第一嵌入向量从第一内存预取至计算卡的第二内存。采用该专利所示的方案,能够减少嵌入向量搬运带来的处理延时。

(责任编辑:郭健东 )

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读