README.md

基于PaddleNLP SimpleServing 的服务化部署

目录

• 环境准备
• Server服务启动
• Client请求启动
• 服务化自定义参数

环境准备

使用有SimpleServing功能的PaddleNLP版本(或者最新的develop版本)

pip install paddlenlp >= 2.4.4

Server服务启动

paddlenlp server server:app --workers 1 --host 0.0.0.0 --port 8189

Client请求启动

python client.py

服务化自定义参数

Server 自定义参数

schema替换

# Default schema
schema = ['出发地', '目的地', '费用', '时间']

设置模型路径

# Default task_path
uie = Taskflow('information_extraction', task_path='../../../checkpoint/model_best/', schema=schema)

多卡服务化预测

PaddleNLP SimpleServing 支持多卡负载均衡预测，主要在服务化注册的时候，注册两个Taskflow的task即可，下面是示例代码

uie1 = Taskflow('information_extraction', task_path='../../../checkpoint/model_best/', schema=schema, device_id=0)
uie2 = Taskflow('information_extraction', task_path='../../../checkpoint/model_best/', schema=schema, device_id=1)
service.register_taskflow('uie', [uie1, uie2])

Client 自定义参数

# Changed to input texts you wanted
texts = ['城市内交通费7月5日金额114广州至佛山', '5月9日交通费29元从北苑到望京搜后']