必须配置项
1、首次登录
平台首次登录的用户默认是“管理员”,在创建管理员时务必确认邮箱和密码。

2、网页打开速度慢
初次登录,在不能科学上网情况下,网站打开会特别慢,查看后台,是因为访问了OpenAI API链接,网络不通,延时失败,这里需要稍等2分钟,正常登录平台后,打开“管理员面板”->"设置"->"外部链接",如果使用的是本地的OpenAI API,把URL修改成本地的地址。如果是使用的是ollama API,就可以把OpenAI API关掉。


3、用户配置
平台提供多种用户管理方式,一种是管理员手动/批量创建,一种是开放用户注册,还一种是对接LDAP等。平台可以创建权限组,可针对不同的权限组配置模型可见和一些操作功能。
手动注册:
“管理员面板”->"设置"->"用户"->"添加用户",输入对应的邮箱、名称和密码就可以。

开放用户注册:
“管理员面板”->"设置"->"通用"->"允许新用户注册",设定用户默认角色。

对接ldap:
“管理员面板”->"设置"->"通用"->"LDAP",没有测试。
4、模型权限设置
平台模型默认为私有模式,管理员可见,其他全部用户均不可见,需要配置模型可见性。
“管理员面板”->"设置"->"模型",会展示平台上的全部可用模型,可以对模型进行启动和禁用。选择一个模型点击“编辑”,在“可见性”设置,修改为某个特权组或者public全局可见,注意,修改完成后要在最下面点击“保存并更新”才能生效。



其他配置
1、语义向量模型引擎修改
在平台中上传文档时,会报一个“400:'NoneType' object has no attribute 'encode'”的错误,这个是“语义向量模型引擎”需要科学上网下载的问题,不能科学上网会报错,需要进行修改。该配置影响平台的知识库和其他一些涉及文件上传的功能。
“管理员面板”->"设置"->"文档",“语义向量模型引擎”修改成本地部署的模型,如ollama等。


或者将向量模型(https://dl.hpc.market/llm/huggingface.tar.xz)添加到如下目录:
/root/.cache/huggingface/hub/models--sentence-transformers--all-MiniLM-L6-v2