分类标签归档:部署

nvidia TAO Toolkit使用总结


TAO表示train、adapt、optimize,TAO Toolkit是nvidia TAO框架的低代码版本,使用者无需专业的AI知识即可轻松构建高准确度的AI模型,在英伟达设备上做到训练部署一条龙。
流程参考快速上手tao toolkit
1、注册英伟达开发者账号,略。
2、去ngc官网ngc官网目录 右上角登陆,选用英伟达账号登陆。
3、回到ngc首页,右上角点卡自己的账号,点Setup,此时里面会出现Generate API Key选项卡,点击Get API Key进入。 4、点击Generate API Key,下方会生成专属Key值,这个Key需要记下来,以后都用这个Key登

Read more

django设置时区支持导致mysql查询报错


        django settings中设置USE_TZ = True,这是django官方推荐的方法,也是django5.0之后默认的设置。

        当启用对时区的支持时,Django 在数据库中以 UTC 为单位存储日期时间信息,在内部使用具有时区的日期时间对象,并在模板和表单中将其转换为最终用户的时区。
        如果用户

Read more

yolov5 fp16动态输入转TensorRT部署到triton服务


目的:yolov5训练出的pytorch模型需要转换成tensorrt模型扔到triton里部署

需求:

        1、为加快推理速度,需要把fp32精度的模型转成fp16
        2、为支持yolov5动态padding和批推理,输入的batch和图片size需要是动态的

版本:

        yolov5——v6.1;
 &nb

Read more