参数说明
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
- 基础功能参数
总体选项
- --help或--h
- --mode
- --raw_ge_options
- --raw_ge_options_ignore_unsupported
输入选项
- --dynamic_batch_size
- --dynamic_dims
- --dynamic_image_size
- --framework
- --input_format
- --input_shape
- --model
- --om
- --singleop
- --weight
输出选项
- --check_report
- --host_env_cpu
- --host_env_os
- --json
- --output
- --output_type
目标芯片选项
- --aicore_num
- --core_type
- --soc_version
- --virtual_type
高级功能参数
功能配置选项
- --external_weight
- --input_fp16_nodes
- --insert_op_conf
- --is_input_adjust_hw_layout
- --is_output_adjust_hw_layout
- --op_name_map
- --out_nodes
模型调优选项
- --ac_parallel_enable
- --buffer_optimize
- --cluster_config
- --compression_optimize_conf
- --disable_reuse_memory
- --enable_attr_compression
- --enable_scope_fusion_passes
- --enable_single_stream
- --enable_small_channel
- --fusion_switch_file
- --hccl_sub_comm_config
- --mdl_bank_path
- --oo_constant_folding
- --oo_dead_code_elimination
- --oo_level
- --quant_dumpable
- --sparsity
- --tiling_schedule_optimize
- --topo_sorting_mode
算子调优选项
- --allow_hf32
- --customize_dtypes
- --is_weight_clip
- --jit_compile
- --keep_dtype
- --modify_mixlist
- --op_bank_path
- --op_precision_mode
- --optimization_switch
- --precision_mode
- --precision_mode_v2
- --static_model_ops_lower_limit
调试选项
- --atomic_clean_policy
- --debug_dir
- --deterministic
- --deterministic_level
- --display_model_info
- --dump_mode
- --export_compile_stat
- --log
- --op_compiler_cache_dir
- --op_compiler_cache_mode
- --op_debug_config
- --op_debug_level
- --status_check
后续版本废弃参数
- --input_shape_range
- --op_select_implmode
- --optypelist_for_implmode
- --shape_generalized_build_mode
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考