llm-lb

此仓库是视频

B站: 如何在Dify社区版实现企业版的模型负载功能|Dify实战教程

youtube: 如何在Dify社区版实现企业版的模型负载功能|Dify实战教程

的配套代码仓库

使用

镜像打包示例

docker build llm-lb:test .

运行容器示例

docker run -p 80:80 llm-lb:test