无话不谈|用PyTorch部署模型( 三 )


这里 , torchserve有一个endpoint /predictions/resnet34 , 我们可以通过发送图像来预测 。 这可以使用curl来实现 。
curl -X POST-T inputs/kitten.jpg
无话不谈|用PyTorch部署模型kitten.jpg
回复:
{"label": "tiger_cat","index": 282}工作正常!
总结

  • 使用docker安装torchserve
  • 默认以及自定义handlers
  • 模型打包生成
  • 使用docker提供模型服务
英文原文:


推荐阅读