包含标签：在线推理 的文章
-
实践演练Pytorch Bert模型转ONNX模型及预测
在之前的文章 《GPU服务器初体验：从零搭建Pytorch GPU开发环境》 中，我通过Github上一个给新闻标题做分类的Bert项目，演示了Pytorch模...
果冻虾仁 2023-01-02
283 0 0 -
使用bRPC和ONNX Runtime把Bert模型服务化
在上文《实践演练Pytorch Bert模型转ONNX模型及预测》中，我们将Bert的Pytorch模型转换成ONNX模型，并使用onnxruntime-gpu...
282 0 0
