来源:互联网 更新时间:2026-07-20 13:02
如果正在寻找一个能快速搭建知识库问答系统的方案,FastGPT 搭配 SiliconCloud 的组合,是一个值得关注的选择。FastGPT 是环界云团队开发的开源知识库问答系统,基于 LLM 大语言模型,提供开箱即用的数据处理和模型调用能力,还能通过 Flow 可视化工作流编排来应对复杂的问答场景。目前,它在 GitHub 上已获得 19.4k 个 star,社区活跃度相当可观。
而 SiliconCloud,是硅基流动推出的大模型云服务平台,自带加速引擎,能帮助用户低成本、快速地测试和使用各类开源模型。实际体验下来,模型种类丰富,覆盖语言、向量、重排序、TTS、STT、绘图、视频生成等数十款,速度和稳定性也相当不错,完全能够满足 FastGPT 的所有模型需求。下面,我们来梳理一套完全使用 SiliconCloud 模型在本地开发部署 FastGPT 的方案。
首先,需要拿到一个 API Key,这是打通整个流程的关键一步。
接下来,调整 FastGPT 的环境变量,让它指向 SiliconCloud 的服务端地址,并填入刚刚获取的 API Key。
OPENAI_BASE_URL=https://api.siliconflow.cn/v1 # 填写 SiliconCloud 控制台提供的 API Key CHAT_API_KEY=sk-xxxxxx
FastGPT 开发与部署文档可以参考官方资料,这里不再赘述。
这一步,需要把 SiliconCloud 上的模型,映射到 FastGPT 的配置中。我们挑选了几个常用模型:选择 Qwen2.5 72B 和其视觉版本来处理语言和图像任务;选用 bge-m3 作为向量模型,bge-reranker-v2-m3 作为重排模型,以提升知识库检索质量;语音方面,则选择了 fish-speech-1.5 和 SenseVoiceSmall 分别负责语音合成和语音输入。
需要特别提醒的是,ReRank 模型需要单独配置一次 API Key。具体配置如下:
{
"llmModels": [
{
"provider": "Other",
"model": "Qwen/Qwen2.5-72B-Instruct",
"name": "Qwen2.5-72B-Instruct",
"maxContext": 32000,
"maxResponse": 4000,
"quoteMaxToken": 30000,
"maxTemperature": 1,
"charsPointsPrice": 0,
"censor": false,
"vision": false,
"datasetProcess": true,
"usedInClassify": true,
"usedInExtractFields": true,
"usedInToolCall": true,
"usedInQueryExtension": true,
"toolChoice": true,
"functionCall": false,
"customCQPrompt": "",
"customExtractPrompt": "",
"defaultSystemChatPrompt": "",
"defaultConfig": {},
"fieldMap": {}
},
{
"provider": "Other",
"model": "Qwen/Qwen2-VL-72B-Instruct",
"name": "Qwen2-VL-72B-Instruct",
"maxContext": 32000,
"maxResponse": 4000,
"quoteMaxToken": 30000,
"maxTemperature": 1,
"charsPointsPrice": 0,
"censor": false,
"vision": true,
"datasetProcess": false,
"usedInClassify": false,
"usedInExtractFields": false,
"usedInToolCall": false,
"usedInQueryExtension": false,
"toolChoice": false,
"functionCall": false,
"customCQPrompt": "",
"customExtractPrompt": "",
"defaultSystemChatPrompt": "",
"defaultConfig": {}
}
],
"vectorModels": [
{
"provider": "Other",
"model": "Pro/BAAI/bge-m3",
"name": "Pro/BAAI/bge-m3",
"charsPointsPrice": 0,
"defaultToken": 512,
"maxToken": 5000,
"weight": 100
}
],
"reRankModels": [
{
"model": "BAAI/bge-reranker-v2-m3",
"name": "BAAI/bge-reranker-v2-m3",
"requestUrl": "https://api.siliconflow.cn/v1/rerank",
"requestAuth": "siliconflow 上申请的 key"
}
],
"audioSpeechModels": [
{
"model": "fishaudio/fish-speech-1.5",
"name": "fish-speech-1.5",
"voices": [
{
"label": "fish-alex",
"value": "fishaudio/fish-speech-1.5:alex",
"bufferId": "fish-alex"
},
{
"label": "fish-anna",
"value": "fishaudio/fish-speech-1.5:anna",
"bufferId": "fish-anna"
},
{
"label": "fish-bella",
"value": "fishaudio/fish-speech-1.5:bella",
"bufferId": "fish-bella"
},
{
"label": "fish-benjamin",
"value": "fishaudio/fish-speech-1.5:benjamin",
"bufferId": "fish-benjamin"
},
{
"label": "fish-charles",
"value": "fishaudio/fish-speech-1.5:charles",
"bufferId": "fish-charles"
},
{
"label": "fish-claire",
"value": "fishaudio/fish-speech-1.5:claire",
"bufferId": "fish-claire"
},
{
"label": "fish-da vid",
"value": "fishaudio/fish-speech-1.5:da vid",
"bufferId": "fish-da vid"
},
{
"label": "fish-diana",
"value": "fishaudio/fish-speech-1.5:diana",
"bufferId": "fish-diana"
}
]
}
],
"whisperModel": {
"model": "FunAudioLLM/SenseVoiceSmall",
"name": "SenseVoiceSmall",
"charsPointsPrice": 0
}
}
配置文件修改完成后,重启 FastGPT 服务,让改动生效。
现在,已经完成了基础配置,可以开始测试各项功能是否正常。
新建一个简易应用,选择对应的 Qwen2.5 模型,并开启图片上传功能。然后随便上传一张图片,看看效果。
可以看到,72B 的模型响应速度相当迅猛。如果本地部署,没有几个 4090 恐怕难以实现这样的体验,输出时间可能都要 30 秒以上。
接下来测试知识库。新建一个知识库,由于只配置了一个向量模型,页面上不会展示向量模型选择,直接点击下一步即可。
导入本地文件,选好文件后一路下一步。79 个索引,大约 20 秒就完成了索引构建。速度还是能接受的。现在,回到刚才创建的应用,选择该知识库,调整参数后开始对话。
对话结束后,点击底部的引用按钮,可以查看引用详情,同时能看到具体的检索和重排得分,方便调试优化。
继续在应用左侧配置中,找到语音播放选项,点击后可以从弹窗中选择语音模型并进行试听。这里配置了 fish-speech-1.5,效果流畅自然。
最后测试语音输入。在应用左侧配置中找到语音输入,开启后,对话输入框中会多出一个话筒图标,点击即可进行语音输入。
如果你想快速体验开源模型或便捷使用 FastGPT,又不想在不同服务商间重复申请各类 API Key,那么选择 SiliconCloud 的模型组合会是一个非常高效的方案。从对话、知识库到多模态能力,整个流程跑下来,流畅度与稳定性都让人印象深刻。
七麦数据官网网页地址 七麦数据官方入口在线首页
问卷星官方网站入口地址 问卷星网页版在线使用
币安Binance官方中文网站 币安App最新版下载及新手注册指南
闲鱼的严选验货在哪里看?闲鱼严选和验货宝哪个可靠
PokePay加密卡2026完整指南:申请开卡全攻略+多场景应用技巧
淘宝直播如何看回放在哪里看?怎么查看淘宝直播回放
摩托车活塞环性能如何
为何比特币BTC价格跌破7.3万美元?一文拆解影响近期比特币行情的五大原因
ThinkBook系列最新价格全解析:2026年选购避坑与实时询价指南
迷你网名古风男生霸气(精选100个)
文雅简易网名男生可爱(精选100个)
GPT5.6惨遭切脑,Fable 5回归要变弱鸡版?
《梦幻西游》特殊鬼怪怎么抓-隐藏变异鬼应对要点
王者荣耀「西行封妖记」【孙权-仙扇使者】6月25日上线!
豆包AI专业版使用教程【新手必看】
索尼限时赠送PS Plus Premium七日会员,需手
闲鱼严选和验货宝哪个可靠?闲鱼的验货宝怎么样,,
币圈十大实用工具:从实时行情监控到数据分析、资产管理
币安杀入美股市场,重头戏bStocks还没来
陈姓和杨姓网名大全男生(精选100个)
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc