3K star！为RAG而生的数据清洗神器

先说几个核心判断：在当前的AI时代，大模型的能力有多强，很大程度上取决于喂给它的数据质量有多高。但现实很骨感——数据千奇百怪，形态各异，有大有小，处理起来相当棘手。

今天要聊的这个开源项目，正好切中了这个痛点。它专门为微调和RAG场景设计，使命就是把各种乱七八糟的非结构化数据，统统变成规规矩矩的结构化数据。它叫：

OmniParse 是什么

简单来说，OmniParse 是一个数据预处理平台。它能提取和解析任何非结构化数据，然后把这些数据转换成针对生成式AI应用优化过的结构化、可用数据。

不管你是面对文档、表格、图像、视频、音频还是网页，OmniParse 都能帮你把数据收拾得清清爽爽、结构化，直接拿去用在RAG、微调这些AI任务上。

以下是目前支持处理的文件类型：

安装和使用

源码安装

目前OmniParse源码安装仅适用于基于Linux的系统。原因嘛，是某些依赖和系统配置跟Windows或macOS不太兼容。

git clone https://github.com/adithya-s-k/omniparse
cd omniparse

创建虚拟环境：

conda create --n omniparse-venv python=3.10
conda activate omniparse-venv

安装依赖：

poetry install
# 或
pip install -e .
# 或
pip install -r pyproject.toml

Docker安装

如果觉得源码安装有点麻烦，用Docker会更省心。

docker build -t omniparse .
# 如果是在GPU环境下运行
docker run --gpus all -p 8000:8000 omniparse
# 否则
docker run -p 8000:8000 omniparse

运行服务

# 启动服务器：
python server.py --host 0.0.0.0 --port 8000 --documents --media --web

# --documents：加载文档解析和提取相关的模型（Surya OCR系列和Florence-2）
# --media：加载Whisper模型用于音频和视频转录
# --web：设置selenium爬虫

启动后，会提供一个API服务，具体内容可以参考官方文档。

执行示例

以下是解析文档的例子，支持PDF、PowerPoint或Word文档。

# Curl命令：
curl -X POST -F "file=@/path/to/document" http://localhost:8000/parse_document

解析图像文件（PNG、JPEG、JPG、TIFF、WEBP）：

# Curl命令：
curl -X POST -F "file=@/path/to/image.jpg" http://localhost:8000/parse_media/image

产品特点

• ✅ 完全本地运行，不需要外部API
• ✅ T4 GPU就能跑得动
• ✅ 支持约20种文件类型
• ✅ 能把文档、多媒体和网页转换成高质量的结构化markdown
• ✅ 支持表格提取、图像提取/字幕、音频/视频转录、网页抓取
• ✅ 用Docker和Skypilot就能轻松部署
• ✅ Colab友好
• ✅ 提供基于Gradio的交互式UI

总结

OmniParse 的设计思路很清晰——做一个通用的数据摄取/解析平台。不管是文档、图像、音频、视频还是网页内容，扔进去就能得到结构化、可用、对生成式AI友好的输出。从实用性的角度来看，这个项目确实很有价值。

当然，项目目前也还有一些不完善的地方。比如它对英语的处理很出色，但对中文等语言可能会有些吃力；PDF中的公式转换成LaTeX也是个难题。具体细节可以参考项目官方给出的信息。