Nodejs Tensorflow服务客户端错误3

问题描述：

我正在服务一个预先训练的启动模型，并且我已经按照官方教程直到现在都提供它。目前，我得到一个错误代码3，如下：Nodejs Tensorflow服务客户端错误3

{ Error: contents must be scalar, got shape [305] 
    [[Node: map/while/DecodeJpeg = DecodeJpeg[_output_shapes=[[?,?,3]], acceptable_fraction=1, channels=3, dct_method="", fancy_upscaling=true, ratio=1, try_recover_truncated=false, _device="/job:localhost/replica:0/task:0/device:CPU:0"](map/while/TensorArrayReadV3)]] 
    at /server/node_modules/grpc/src/client.js:554:15 code: 3, metadata: Metadata { _internal_repr: {} } }

我使用的prediction_service.proto，因为它是从Tensorflow服务的API。这是我的文件的NodeJS，我定义函数：

const PROTO_PATH = "./pb/prediction_service.proto"; 
const TensorflowServing = grpc.load(PROTO_PATH).tensorflow.serving; 

const testClient = new TensorflowServing.PredictionService(
    TF_TEST, grpc.credentials.createInsecure() 
); 

function getTestModelMsg(val){ 
    return { 
     model_spec: { name: "inception", signature_name: "predict_images", version: 1}, 
     inputs: { 
      images: { 
       dtype: "DT_STRING", 
       tensor_shape: { 
        dim: [{size: 220}, {size: 305}], 
        unknown_rank: false 
       }, 
       string_val: val 
      } 
     } 
    } 
} 


function predictTest(array, callback) { 
    testClient.predict(getTestModelMsg(array), (error, response) => { 
     if(error) 
      return callback(error); 

    callback(null, response.outputs) 
})}

而我路过的图像作为二进制图像如下：

fs.readFile('./test/Xiang_Xiang_panda.jpg', (err, data) => { 
    if(err) { 
     return res.json({message: "Not found"}); 
    } 

    predictTest(data.toString('binary') , (error, outputs) => { 
     if (error) { 
      console.error(error); 
      return res.status(500).json({ error }); 
     } 
     res.status(200).json({ outputs }); 
    }) 
})

我一直停留在这一段时间，以便如果有人能帮助我，我会很感激！任何帮助将是伟大的！在此先感谢！ :)

答

好吧，所以我终于设法解决这个问题。如果有人面临完全相同的问题，请将其作为答案发布。

所以以来模型预计base64编码的图像：

fs.readFile('./test/Xiang_Xiang_panda.jpg', (err, data) => { 
    if(err) { 
     return res.json({message: "Not found"}); 
    } 

    predictTest(data.toString('base64') , (error, outputs) => { 
     if (error) { 
      console.error(error); 
      return res.status(500).json({ error }); 
     } 
     res.status(200).json({ outputs }); 
    }) 
})

然后看着从Tensorflow服务的inception_client.py，我发现了张量却有shape=[1]。所以这使得getTestModelMsg如下：

function getTestModelMsg(val){ 
return { 
    model_spec: { name: "inception", signature_name: "serving_default", version: 1}, 
    inputs: { 
     images: { 
      dtype: "DT_STRING", 
      tensor_shape: { 
       dim: [{size: 1}], 
       unknown_rank: false 
      }, 
      string_val: val 
     } 
    } 
}

希望能帮助别人。祝你好运。 :)

Nodejs Tensorflow服务客户端错误3

相关推荐