24小时在线平台

当前位置: 24小时在线平台 > 部署教程大全 > 文章页

全部本地化!ChatGLM+oneapi+fastgpt+微秘+微信 部署实操

时间:2025-05-12 08:34来源: 作者:admin 点击: 21 次
文章浏览阅读5.6k次,点赞22次,收藏53次。问题:chatglm的openAPI报错await fut解决:参考将openai_api.py文件中3处替换为。_fastgpt 微信

主要修改“llmModels”键值对中“model”和“name”的名字和其它需要的配置,如果不用其它的模型,保留这样一个字典就行,同时也要修改一下向量模型 "vectorModels"的“model”和“name”。在私有化和客制化大模型庞大需求推动下,除了从大模型的全量训练和微调这两个模型改动层面上,在大模型外添加一个知识库也是一种解决思路。在openai_api_demo/api_server.py 中修改本地大模型权重和向量模型地址,(向量模型可先不设置,本文使用的是M3E模型)。

(责任编辑:)
------分隔线----------------------------
发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:
发布者资料
查看详细资料 发送留言 加为好友 用户等级: 注册时间:2025-07-05 21:07 最后登录:2025-07-05 21:07
栏目列表
推荐内容