内存卸载 - AI在线

华为AI模型生成专利公布，可提升生成AI模型效率

企查查APP显示，近日，华为技术有限公司“一种AI模型的生成方法及装置”专利公布。企查查专利摘要显示，该专利涉及人工智能技术领域，能够在一定程度上提升生成AI模型的效率、降低资源消耗。该方法包括:第一处理器基于AI模型的多个算子中的每一个算子的执行时长、每一个算子运行过程中第二处理器的第二内存的内存占用大小以及内存卸载时长，构建以操作指示信息为优化变量的目标优化函数;并且对目标优化函数进行全局寻优，得到用于指示对多个算子中的每一个算子是否执行目标操作的操作指示信息，目标操作包括重计算操作或者内存卸载操作;以及向第二处理器发送包括操作指示信息的调整指令，以指示第二处理器根据操作指示信息执行多个算子以对AI模型进行训练得到目标AI模型。