在笔记本电脑上，实现NL2SQL对话式数据查询与分析

在企业里，业务数据大多躺在关系型数据库里，想查个东西得写SQL，对非技术用户来说门槛不低。现在有了大模型，NL2SQL（自然语言转SQL）这条路似乎通了——你直接问一句“上个月华东区销售额最高的产品是哪几个”，模型就能帮你生成查询语句。但问题也随之而来：准确率够用吗？怎么让它落地？

之前我们聊过在笔记本上用Ollama跑Llama2、Gemma这些模型，再结合AnythingLLM搭个本地知识库做RAG。这次换一个更聚焦的场景：用NL2SQL做对话式数据查询。本文要介绍的开源项目Vanna，就是冲着这个方向来的——它提供了一套基于RAG的NL2SQL应用框架，而且完全可以在你手头的笔记本上跑起来。

在之前的两篇文章里（《在笔记本电脑上，轻松使用Gemma模型》《在笔记本电脑上，实现大模型检索增强生成》），已经铺垫了本地模型和RAG的基础。现在咱们再往前推一步：用Vanna把NL2SQL这件事落地到本地。

什么是对话式数据查询

关系型数据库几乎支撑了所有企业应用。以往想查数据，要么找IT写SQL，要么去BI工具里拖拽。大模型的出现让我们可以直接“说人话”要数据，这就是NL2SQL的核心能力。

近年来，大模型在NL2SQL上的表现确实进步神速。但说实话，离“拿来即用”还有距离——准确率仍然不够稳。要让它在实际业务中扛得住，要么用高质量SQL问答语料做微调，要么像Vanna这样，靠RAG技术来兜底。

Vanna本质上就是一个基于RAG的NL2SQL框架。当用户提问时，它会先去知识库里检索相关的上下文——比如库表结构、字段说明、历史验证通过的问答对——把这些信息拼进prompt，再发给大模型，期望它生成更靠谱的SQL。流程大致如下：

（来源：https://vanna.ai/docs/）

这套方案最吸引人的地方是，它允许你按需选择组件：大模型可以换、数据库可以换、向量数据库和前端也能自由搭配。下面看具体怎么装。

如何安装和使用Vanna

动手之前先说一下环境：笔记本上已经装了Ollama，模型用的是DeepSeek-Coder 7B（代码能力不错）。关系型数据库选默认的SQLite，向量数据库用Chroma，前端直接用Vanna自带的Flask应用。具体可参考官方说明：https://vanna.ai/docs/sqlite-ollama-chromadb/

第一步：安装Vanna及Chroma向量数据库

pip install 'vanna[chromadb]'

第二步：创建demo.py，写入以下代码

from vanna.ollama import Ollama
from vanna.chromadb.chromadb_vector import ChromaDB_VectorStore

class MyVanna(ChromaDB_VectorStore, Ollama):
    def __init__(self, config=None):
        ChromaDB_VectorStore.__init__(self, config=config)
        Ollama.__init__(self, config=config)

vn = MyVanna(config={'model': 'deepseek-coder:6.7b'})

# 连接SQLite，使用Vanna提供的样例数据库
vn.connect_to_sqlite('https://vanna.ai/Chinook.sqlite')

# 抽取数据库表结构DDL作为训练数据（只需执行一次）
df_ddl = vn.run_sql("SELECT type, sql FROM sqlite_master WHERE sql is not null")
for ddl in df_ddl['sql'].to_list():
    vn.train(ddl=ddl)

# 启动前端Flask Web应用
from vanna.flask import VannaFlaskApp
app = VannaFlaskApp(vn)
app.run()

第三步：运行demo.py，浏览器打开 http://localhost:8084，就可以在界面上用自然语言问问题了。Vanna生成SQL后会自动执行，拿回DataFrame，再调用Plotly画图表。系统还附带一个反馈机制：如果你觉得某条SQL准确，可以点个赞，它就会被加入训练数据，知识库会越来越丰富。

SQL生成准确率如何

RAG这套路到底能帮多大忙？Vanna官方做过实验，白皮书《How to get high SQL accuracy rates using AI》里给出了数据：

（来源：https://vanna.ai/blog/ai-sql-accuracy.html）

以GPT-4为例：

• 只用表结构（schema）：准确率只有10%
• 加上3条样例查询：准确率直接跳到74%
• 提供完整的上下文（结构、文档、验证过的问答对）：准确率冲到88%

这个提升幅度说明，知识库的质量才是NL2SQL落地的关键。测试中，用Vanna自带的Chinook样例数据库跑了几个简单问题，能生成正确的SQL并画图，确实让人兴奋。

但换了个场景——把数据换成ChatGLM金融挑战赛的上市公司数据集——结果就不太乐观了：生成的SQL连基本字段都找不对。问题出在哪儿？下文拆解。

有哪些改进方向

要让大模型生成准确的SQL，核心就是给它足够的、相关的上下文信息。构建高质量的训练数据（知识库）是Vanna能否实用的分水岭。

从测试暴露的问题来看，可以从三个方向改进：

• 当前知识库只塞了数据表结构（DDL），缺少经过人工校验的优质问答语料——这恰恰是最能提升准确率的部分。
• 如果能先自动判断用户问题涉及哪个数据库、哪些表和字段，再把这些提示喂给大模型，准确率还能再上一个台阶。
• 用户提问往往口语化、有歧义。可以先做一轮意图识别和问题规整，把模糊的表述补充完整，再发给模型。

不过话说回来，测试用的大多是整理过的样例数据。真实企业环境里，数据库可能有成百上千张表，关系复杂，字段命名也经常不按套路出牌。这种情况下，光靠Vanna的RAG框架和几个文档，落地难度很大。

如果需要商业化落地，大概率要在具体场景上构建成千上万条训练语料，做增量预训练和微调，才能保证体验。但构建知识库、做微调的成本确实不低。

所以，如果业务场景用户量不大、查询频次不高，投入产出比可能就不划算了。这种场合，不如考虑其他方案来得实在。