tag: inference

Tensor 背景 在推理框架中，只需要进行模型结构的加载、模型权重的加载，然后进行前向运算，整个过程不需要反向传播。 有时模型结构和权重信息会放在一个文件...