ptb\_platform.py 代码文件将 ptb\_word\_lm.py 文件中执行模型训练的相关处理逻辑按照 CaiCloud TaaS 深度学习平台的模型训练任务框架进行了调整。我们可以直接使用该代码文件在 TaaS 平台上启动一个分布式 TensorFlow 模型训练任务。

ptb\_platform.py 文件中提供了训练模型导出的实现。我们可以将导出的模型在 CaiCloud TaaS 深度学习平台上启动一个模型托管 Serving。grpc\_client.py 文件提供了访问 TaaS 平台 gRPC Serving API 的 client 代码，该代码中使用 PTB 测试数据集的第一个样本数据来调用 gRPC Serving 的预测方法。

通过运行命令来测试。

$ python grpc_client.py --data_path=/path/to/ptb/data

test-grpc.sh 脚本提供了一个快速运行该命令的入口。

from __future__ import print_function

import tensorflow as tf

import ptb_word_lm

import reader

from caicloud.clever.serving.client import grpc_client as serving_grpc_client

FLAGS = tf.flags.FLAGS

def run():

client = serving_grpc_client.GRPCClient('localhost:50051')

# 读取 PTB 数据集

print("Loading ptb data...")

train_data, valid_data, test_data, _ = reader.ptb_raw_data(FLAGS.data_path)

inputs = {

'input': tf.contrib.util.make_tensor_proto(test_data[0], shape=[1,1]),

}

outputs = client.call_predict(inputs)

result = tf.contrib.util.make_ndarray(outputs["logits"])

print('logits: {0}'.format(result))

if __name__ == '__main__':

run()

python grpc_client.py --data_path=./simple-examples/data