来源:互联网 更新时间:2026-08-20 13:04
需同时调用Qwen、GLM、Claude三个模型来处理合同文本:Qwen用于条款摘要,GLM负责识别风险点,Claude提供合规建议。通过asyncio.gather实现并发执行,采用dataclass或小写key dict统一响应格式,并通过FastAPI暴露/analyze接口。

需要在同一个业务请求中并行调用多个大模型(如Qwen、GLM、Claude)完成不同子任务,并统一编排响应结果,比如用户提交一份合同文本,同时让Qwen做条款摘要、GLM做风险点识别、Claude做合规性建议。
安装必要依赖:pip install dashscope zhipuai anthropic python-dotenv。
在项目根目录创建 .env 文件,填入各平台 API Key:注意必须使用各自平台最新版 SDK 支持的环境变量名,旧版 key 名会导致初始化失败:
DASHSCOPE_API_KEY=sk-xxx(通义千问)
ZHIPUAI_API_KEY=123456(智谱GLM)
ANTHROPIC_API_KEY=sk-ant-api03-xxx(Claude)
新建 models.py,定义三个独立客户端实例,不共用 session 或超时设置——
使用 asyncio.gather 并发触发三路请求,不采用线程池——模型 API 原生支持异步 HTTP,线程反而增加调度开销。
首先,定义单模型推理函数async_qwen(),其输入为text,输出为摘要字符串;其次,定义async_glm(),输入text后,返回JSON格式的风险列表(包含位置、类型、描述字段);最后,定义async_claude(),输入text,返回带有段落编号的合规建议Markdown字符串。
将三个函数传入 asyncio.gather(),等待全部完成。这一步不能用 asyncio.wait() 或 create_task 单独 await,否则失去并发性。
方法一:用 dataclass 定义 ResponseModel,包含 qwen_summary: str、glm_risks: list、claude_advice: str 三个字段。
方法二:直接用 dict 组装,键名固定为 "summary" / "risks" / "advice",便于前端消费——
把 gather 返回的三元组按顺序解包,塞进 dict,最后 json.dumps() 输出。
创建 main.py,初始化 FastAPI 实例,添加 POST /analyze 后端接口。
接收 JSON body:{"contract_text": "甲方应于…"},校验字段存在且非空,长度不超过 128KB(防止 OOM)。
调用上一步封装好的并发函数,await 得到结果字典,直接 return 它——FastAPI 会自动处理 JSON 序列化和 Content-Type 头。
启动服务:uvicorn main:app --reload --host 0.0.0.0 --port 8000。
腾讯ima怎么把微信内容一键导入知识库?
黄金价格不断创新高!黄金稳定币XAU、PAXG市值达11亿美元
CC币价格预测(2026-2035):Canton币今日价格走势+长期价格预测
腾讯ima怎么创建共享知识库?
今日比特币暴涨分析:Metaplanet的比特币BTC投资推动股价上涨17%
新浪互联网热点小时报丨2026年07月26日16时_今日实时互联网热点速递
新浪机器学习热点小时报丨2026年07月25日18时_今日实时机器学习热点速递
Celestia价格预测2026-2032:TIA币能否引领山寨币上涨行情?历史价格回顾
新浪人工智能热点小时报丨2026年07月30日18时_今日实时人工智能热点速递
比特币(BTC)核心周期指标复刻历史走势 价格或跌破5.8万美元关键支撑位
蚂蚁庄园今日答案7月21日(今日已更新) 蚂蚁庄园今天正确答案是什么呢
WorkBuddy微信版怎么获得积分?
车载冰箱重置到出厂设置几步?
短剧《史上最强洪荒修为》剧情介绍
TRUMP价格走势与WEPE预售进展解析
结婚家电首选:Leader懒人三筒Ultra热泵洗烘一体
腾讯ima知识库怎么分类管理?
抖音怎么取消申请退货退款?抖音上取消退货怎么操作
短剧《仙人跳获透视,古玩玉器我全拿捏》剧情介绍
Windy卫星云图怎么看?云层变化识别技巧
手机号码测吉凶
本站所有软件,都由网友上传,如有侵犯你的版权,请发邮件haolingcc@hotmail.com 联系删除。 版权所有 Copyright@2012-2013 haoling.cc