当前位置: 首页 > article >正文

使用C++编写接口调用PyTorch模型,并生成DLL供.NET使用

一、将PyTorch模型保存为TorchScript格式

1)构造一个pytorch2TorchScript.py,示例代码如下:

import torch
import torch.nn as nn
import argparse
from networks.seg_modeling import model as ViT_seg
from networks.seg_modeling import CONFIGS as CONFIGS_ViT_seg
import warnings
warnings.filterwarnings("ignore")

def get_model(args):
    """
    加载并配置模型。
    根据输入的配置参数创建模型并加载预训练的权重文件。
    
    Args:
        args: 命令行输入的参数集合。
    
    Returns:
        解包后的模型实例。
    """
    # 根据配置文件选择模型
    config_vit = CONFIGS_ViT_seg[args.vit_name]
    
    # 根据模型类型配置跳跃连接与分类数
    if 'R50' in args.vit_name:
        config_vit.n_classes = args.num_classes
        config_vit.n_skip = 3
    else:
        config_vit.n_classes = args.num_classes
        config_vit.n_skip = 0

    # 配置模型的输入图像patch大小
    config_vit.patches["size"] = (args.vit_patches_size, args.vit_patches_size)

    # 实例化模型,并将其转移到GPU上
    model = ViT_seg(config_vit, img_size=args.img_size, num_classes=config_vit.n_classes).cuda()
    model = nn.DataParallel(model)  # 使用多个GPU进行并行计算
    
    # 加载预训练的模型权重
    model.load_state_dict(torch.load(args.model_path))
    
    # 返回解包后的模型实例
    return model.module

def export_to_torchscript(model, example_input, output_path):
    """
    将模型导出为TorchScript格式。
    
    Args:
        model: 要导出的模型实例。
        example_input: 示例输入张量,用于模型的跟踪(tracing)。
        output_path: 导出后的TorchScript模型保存路径。
    """
    model.eval()  # 设置模型为推理模式
    
    # 使用trace方法将模型导出为TorchScript
    traced_model = torch.jit.trace(model, example_input)
    
    # 将导出的模型保存为.pt文件
    traced_model.save(output_path)
    print(f"模型已保存为TorchScript格式: {output_path}")

def main(args):
    # 加载模型
    model_to_export = get_model(args)

    # 创建一个示例输入张量 (大小为[BZ, channel, args.img_size, args.img_size])
    example_input = torch.randn(1, 1, args.img_size, args.img_size).cuda() 

    # 模型导出的保存路径
    output_path = "torchscript/model_scripted.pt"
    
    # 导出模型为TorchScript格式
    export_to_torchscript(model_to_export, example_input, output_path)

if __name__ == "__m

http://www.kler.cn/a/292524.html

相关文章:

  • Python学习26天
  • Android 13 实现屏幕熄屏一段时候后关闭 Wi-Fi 和清空多任务列表
  • conda创建 、查看、 激活、删除 python 虚拟环境
  • 设计模式练习(一) 单例模式
  • 开发语言中,堆区和栈区的区别
  • leetcode hot100【LeetCode 114.二叉树展开为链表】java实现
  • pytest 常用的辅助函数和工具函数
  • springboot 实现策略模式通过id进入不同的服务类service
  • C++ 设计模式——解释器模式
  • 免费OCR 文字识别工具
  • 【机器学习】神经网络、隐藏层的基本概念、如何选择隐藏层数量以及胶囊网络对神经网络的影响
  • PowerShell脚本编写:自动化Windows开发工作流程实例介绍
  • 2024年全国大学生数学建模C题解题思路
  • 第 2 章:AJAX 的使用
  • C++:类型转换
  • 12、Flink 解决流上的确定性最佳实践
  • 使用视图方式操作MySQL数据表
  • Java笔试面试题AI答之JDBC(1)
  • C语言-数据结构 无向图普里姆Prim算法(邻接矩阵存储)
  • selenium连接远程chrome浏览器
  • MIT线性代数
  • 【java】将Map的value类型定义为Object
  • 第十五题:三数之和
  • rancher搭建k8s及jenkins自动化部署
  • 骨传导耳机哪款好?精选五款热门骨传导耳机分享让你避免踩雷
  • 对HashMap的理解