Skip to content

Latest commit

 

History

History
 
 

user_guide

Folders and files

NameName
Last commit message
Last commit date

parent directory

..
 
 
 
 
 
 

模型编译推理参考Jupyter脚本:User_guide,脚本中包含了单输入和多输入的示例。也可以使用单独的编译脚本 Single build完成kmodel的编译。

如果在Docker中运行Jupyter脚本,可以参考配置Jupyter lab进行配置。

在执行脚本之前需要根据自身需求修改以下内容:

  1. compile_kmodel函数中 compile_options,ptq_options相关信息 compile_options详细信息见CompileOptions ptq_options详细信息见PTQTensorOptions
  2. compile kmodel single input(multiple inputs)部分 修改 model_pathdump_path,用于指定模型路径和编译期间文件生成路径。 修改 calib_data的实现,数据格式见注释。
  3. run kmodel(simulate)部分,修改 input_data的实现,数据格式见注释。

推理结束后,会在 dump_path路径下生成 kmodel、输出结果和编译期间的文件。