我正在尝试在google cloud ml-engine上部署一个初始模型的重新训练版本.从SavedModel文档,此参考和rhaertel80的这篇文章中收集信息,我成功地将我的再培训模型导出到SavedModel,将其上传到存储桶并尝试将其部署到ml-engine版本.
最后一个任务实际上创建了一个版本,但它输出了这个错误:
Create Version failed. Bad model detected with error: "Error loading the model: Unexpected error when loading the model"
当我尝试通过命令行从模型中获得预测时,我收到以下错误消息:
"message": "Field: name Error: Online prediction is unavailable for this version. Please verify that CreateVersion has completed successfully."
我曾经多次尝试,尝试不同的method_name
和tag
选择,但没有奏效.
添加到原始初始代码的代码是
### DEFINE SAVED MODEL SIGNATURE in_image = graph.get_tensor_by_name('DecodeJpeg/contents:0') inputs = {'image_bytes': tf.saved_model.utils.build_tensor_info(in_image)} out_classes = graph.get_tensor_by_name('final_result:0') outputs = {'prediction': tf.saved_model.utils.build_tensor_info(out_classes)} signature = tf.saved_model.signature_def_utils.build_signature_def( inputs=inputs, outputs=outputs, method_name='tensorflow/serving/predict' ) ### SAVE OUT THE MODEL b = saved_model_builder.SavedModelBuilder('new_export_dir') b.add_meta_graph_and_variables(sess, [tf.saved_model.tag_constants.SERVING], signature_def_map={'predict_images': signature}) b.save()
另外,这可能有助于考虑:我已经使用了一个出口trained_graph.pb
与graph_def.SerializeToString()
获得当地的预测,它工作正常,但是当我用它代替saved_model.pb
它失败.
关于问题可能是什么的任何建议?
在signature_def_map中,使用键'serving_default',其定义signature_constants
如下DEFAULT_SERVING_SIGNATURE_DEF_KEY
:
b.add_meta_graph_and_variables(sess, [tf.saved_model.tag_constants.SERVING], signature_def_map={'serving_default': signature})