【AI Skills 实例 0003】适合 AI 操作的文件格式

放在这个系列里有些牵强了,不过确实是必要的基础知识。


结构化文件格式

纯文本或带结构的格式是 AI 操作的最佳选择:可直接读写、无需额外解析库、人机共读。以下按使用频率排列。

格式 扩展名 为什么便于 AI 操作
JSON .json 嵌套结构清晰,几乎所有编程语言和 AI 工具都直接支持,纯文本可读。
JSON Lines .jsonl 每行一条独立 JSON,可逐行处理海量数据,不用一次性全部加载到内存。
CSV .csv 最简单通用的表格格式,任何表格工具都能打开,人机共读。
YAML .yaml 层次分明,支持注释,天然适合写配置和元数据,可读性极强。
XML .xml 严格的标签结构自带描述信息,适合文档型数据交换,解析库成熟。
Parquet .parquet 列式存储压缩率高,读取速度极快,专门为大规模分析型数据设计,AI 训练首选。
Avro .avro 自带 Schema 的紧凑二进制格式,跨系统交换数据高效且不会产生歧义。
SQLite .db 一个文件就是一个完整数据库,能用 SQL 直接查询,无需安装数据库服务器。
Feather .feather 为 Python 和 R 量身定制的极速读写格式,保存和加载数据帧几乎没有延迟。
Markdown .md 带格式的纯文本,易读易写,大量用作 AI 提示词和训练语料。
Protocol Buffers .pb 强 Schema 二进制格式,体积小、解析快,适合高性能服务间数据交换。

类 ZIP 文件格式

许多常见文档格式本质上是 ZIP 压缩包,内含 XML 或其他结构化文件。AI 只需解压即可提取内容,无需安装对应的桌面软件。

格式 扩展名 为什么便于 AI 操作
Word 文档 .docx 本质是 ZIP 压缩的 XML,直接解压就能提取纯文本或结构化内容,无需安装 Word。
Excel 表格 .xlsx 同样是 ZIP 内含 XML,可批量转换为 CSV,方便喂给 AI 训练。
PowerPoint .pptx 解压后每页幻灯片为独立 XML,方便提取所有文字用于摘要或分析。
ODF 文档 .odt/.ods 开源文档格式,ZIP 结构,通用工具即可提取内容,不受商业软件限制。
EPUB 电子书 .epub ZIP 打包的 XHTML 章节,能一次性提取整本书的文本进行自然语言处理。
Java 归档 .jar 就是 ZIP,内含资源文件和配置,可提取元数据或文本资源。
Android 应用 .apk ZIP 格式,利用反编译工具可拿到清单文件和资源,用于安全分析或数据挖掘。
Python 包 .whl 可直接解压查看源码和资源,方便 AI 理解代码库。
浏览器扩展 .xpi/.crx ZIP 压缩的插件包,内含 JavaScript 和 JSON,可直接分析代码逻辑。
漫画书 .cbz 只是改名的 ZIP,里面是顺序图片,图像类 AI 可直接批量处理。
NuGet 包 .nupkg 类似 ZIP,可解压提取 DLL 和元数据,用于代码分析。

基础且强大的命令行工具

命令行工具是 AI 操作文件的"双手":无需 GUI、可脚本化、可管道组合。以下按用途分类介绍九大类核心工具。

Pandoc — 文档与文本万能转换器

支持 50+ 格式互转,是文档处理领域的"万能插座",一条命令替代无数导出导入。

可操作格式(部分) 可执行操作 为什么便于使用
输入/输出:markdown, HTML, docx, odt, epub, LaTeX, PDF(需引擎), rst, textile, wiki等 50+ 格式 格式互转、提取文本、合并文档、生成目录、编写学术论文、制作幻灯片 一条命令替代无数导出导入,无软件绑定,批量自动化处理海量文档。

FFmpeg — 音视频瑞士军刀

几乎所有音视频格式都能处理,是音视频处理的底层标准工具。

可操作格式(部分) 可执行操作 为什么便于使用
容器/编码:mp4, mkv, avi, mov, flv, mp3, aac, wav, ogg, h264, h265, vp9 等几乎所有格式 转码、压缩、截取片段、合并音视频、提取音频、加水印、调整分辨率、GIF制作 全格式覆盖,无需图形界面,可脚本化批量处理,服务器端核心工具。

ImageMagick — 图像魔法师

命令 convert/magick,支持 200+ 图像格式读写与批处理。

可操作格式(部分) 可执行操作 为什么便于使用
读取/写入超过 200 种格式:JPEG, PNG, GIF, TIFF, BMP, SVG, PDF, EPS, WebP, HEIC 等 格式转换、缩放、裁剪、旋转、添加文字/边框、拼接、颜色调整、创建动图、PDF转图片 无需打开编辑器,一行命令处理批量图片,支持管道与脚本深度集成。

PDF 工具箱 — Poppler / QPDF / Ghostscript

三件套覆盖 PDF 文本提取、页面操作、专业打印全场景。

工具 可操作格式 可执行操作 为什么便于使用
pdftotext (poppler) PDF → TXT/HTML 提取纯文本,保留布局 直接输出 AI 可直接使用的清洁文本。
qpdf PDF 合并、拆分、旋转、解压缩、去密码 轻量级 PDF 页面操作,比臃肿的桌面软件快百倍。
gs (Ghostscript) PDF, PS, EPS 压缩、合并、转换 PDF/A、打印处理 处理专业打印和矢量化文档的必备底层引擎。

LibreOffice — Office 文档无界面转换

命令行模式下批量转换 Office 文档,无需安装微软 Office。

可操作格式 可执行操作 为什么便于使用
doc, docx, xls, xlsx, ppt, pptx, odf, csv, html 等 批量转换为 PDF、纯文本、HTML、其他办公格式 无需安装微软Office,一条循环命令即可将上千份办公文档转成统一格式。

结构化数据处理 — jq / csvkit / xmlstarlet

针对 JSON、CSV、XML 三大格式的命令行查询与变形工具。

工具 可操作格式 可执行操作 为什么便于使用
jq JSON, JSONL 查询、过滤、变形、统计、格式化 相当于 JSON 的"数据库查询语言",纯命令行流式处理。
csvkit (in2csv, csvgrep 等) CSV, Excel, JSON 导入导出、查看、筛选、统计 Excel 与 CSV 互转,命令行下完成表格分析。
xmlstarlet XML 查询、编辑、验证、转换 像处理数据库一样操作 XML 树,无需学习复杂的 XSLT。

压缩与归档 — unzip / 7z / tar

解压是 AI 接触 ZIP 系格式(docx、xlsx、epub 等)的第一步。

工具 可操作格式 可执行操作 为什么便于使用
unzip .zip, .docx, .xlsx, .epub, .jar, .apk 等 解压、查看文件列表、提取特定文件、不解压直接读取内容 揭秘所有 ZIP 系格式,管道式提取数据直通后续处理。
7z 7z, zip, rar, tar, iso 等 50+ 格式 极高压缩率、解压、自解压、加密 压缩率之王,支持几乎所有归档,跨平台无障碍。
tar .tar, .tar.gz, .tar.bz2 等 打包、解包、流式解压 类 Unix 系统的空气般存在,打包分发必备。

SoX — 音频专用

Sound eXchange,音频界的瑞士军刀,无需打开 DAW 即可批处理。

可操作格式 可执行操作 为什么便于使用
wav, mp3, flac, ogg, aiff 等 转换、拼接、混音、变速、降噪、生成频谱 音频界的 swiss knife,批量处理声音文件不打开 DAW。

Inkscape 命令行 — SVG 处理

无需 GUI 即可操作矢量图,适合自动化生成图标和插图。

可操作格式 可执行操作 为什么便于使用
SVG, PNG, PDF, EPS, AI 等 矢量转光栅、批量导出、格式转换、文本提取 无需 GUI 即可操作矢量图,适合自动化生成图标和插图。

巧妙工具:从意想不到的角度解决问题

有些工具的用法超出其原始设计意图,能从意想不到的角度解决 AI 数据处理问题。

工具 意想不到的转换 为什么巧妙
Pandoc Markdown → PPT/PDF 幻灯片 写文档的同时生成演示文稿,纯文本可纳入版本控制,彻底分离内容与排版。
Marp Markdown → 精美幻灯片 专为 Markdown 转 PPT 而生,实时预览,导出 PPTX/PDF,比传统软件更高效。
Graphviz 纯文本关系描述(.dot) → 自动布局图表 用代码写"谁和谁连接",一键生成复杂流程图,无需手动拖拽对齐。
Mermaid Markdown 内嵌文本 → 流程图/时序图/甘特图 文档即绘图,只用几行简单的语法就在 README 或笔记中画出专业图表。
q CSV/TSV → 执行 SQL 查询 直接在表格文件上写 SELECT, WHERE, GROUP BY,把任意分隔文本当数据库用,零导入。
wkhtmltopdf 网页/HTML → PDF 将任何网页及其 CSS 样式完美"打印"为文档,保留布局与超链接。
ImageMagick 文本/URL → 二维码图片 一条命令从字符串生成 PNG 二维码,批量生成名片或分享链接极方便。
FFmpeg 音频/视频 → 波形图/频谱视频 可视化声音:提取音频生成动态波形或频谱,制作音乐可视化封面无需专门软件。
ExifTool 读写数十种文件元数据 照片、PDF、音视频的隐藏信息任意修改和迁移,批量纠正拍摄日期或 GPS 坐标。
Jupyter nbconvert .ipynb 笔记本 → 幻灯片/PDF/HTML 数据分析代码直接变成可演示的幻灯片,省去单独制作 PPT 的重复劳动。
Calibre 任意电子书格式互转 打通 EPUB、MOBI、PDF、DOCX 等壁垒,一次转换适配所有阅读设备。
yt-dlp 视频平台链接 → 本地文件 URL 变媒体文件,可提取纯音频或字幕,构建本地语料库。

我是老鼠,给我买咖啡!!! 爱发电 · 连接创作者与粉丝的会员制平台

3 个赞

md转PPT方案哈哈哈

这个我用过,它不能去除 PDF 中多余的换行符(这也算是 PDF 格式自身的局限性)。

感谢推荐,之前一直想找这样的工具。顺便说一下,在 Ubuntu、Debian 系统上,其软件包名为 python3-q-text-as-data

这个需要安装 marp-cli

不清楚blender的.bpy算不算

内容是 AI 整理的,所以技术细节上很可能不怎么准确。不过用来给小白科普,应该也算够用了。

有一些专门的文本数据库,只不过相对冷门,毕竟效率不高,限制还多。主要适用于某些限制比较大的特定场景。