当前位置: 首页 » 资讯 » 新科技 » 正文

华为AI模型运行专利公布

IP属地 中国·北京 编辑:苏婉清 鞭牛市 时间:2025-09-05 15:01:18

9月5日,天眼查App显示,华为技术有限公司申请的“AI模型的运行方法、装置、程序产品和存储介质”专利公布。

摘要显示,本公开属于机器学习技术领域。该方法应用于主机,主机包括处理器,并连接计算卡,该方法包括:处理器确定AI模型相邻的两组输入数据中在第二数据组中但不在第一数据组中的第一数据,第二数据组在第一数据组之后训练,将第一数据对应的第一嵌入向量预取至处理器的第一内存,并确定第一数据对应的第一嵌入向量信息,在第二数据组在计算卡上处理过程中,根据第一嵌入向量信息将第一嵌入向量从第一内存预取至计算卡的第二内存。

采用本公开所示的方案,能够减少嵌入向量搬运带来的处理延时。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。