This topic created in 763 days ago, the information mentioned may be changed or developed.
想上线一个 web ui 套壳自己的 gguf 的一些模型给内部一堆人用，需要如下的功能： 1 ，多用户 2 ，后台可以配置接入多种模型，接入自己起的 gguf 的 rest api 3 ，前端可以隐藏模型参数，用户只能聊天。 4 ，最好可以有一些简单的统计功能。。。
不知道各位高手有没有推荐的 webui 。。。
No Comments Yet
Select Language