放在这个系列里有些牵强了,不过确实是必要的基础知识。
结构化文件格式
纯文本或带结构的格式是 AI 操作的最佳选择:可直接读写、无需额外解析库、人机共读。以下按使用频率排列。
| 格式 | 扩展名 | 为什么便于 AI 操作 |
|---|---|---|
| JSON | .json | 嵌套结构清晰,几乎所有编程语言和 AI 工具都直接支持,纯文本可读。 |
| JSON Lines | .jsonl | 每行一条独立 JSON,可逐行处理海量数据,不用一次性全部加载到内存。 |
| CSV | .csv | 最简单通用的表格格式,任何表格工具都能打开,人机共读。 |
| YAML | .yaml | 层次分明,支持注释,天然适合写配置和元数据,可读性极强。 |
| XML | .xml | 严格的标签结构自带描述信息,适合文档型数据交换,解析库成熟。 |
| Parquet | .parquet | 列式存储压缩率高,读取速度极快,专门为大规模分析型数据设计,AI 训练首选。 |
| Avro | .avro | 自带 Schema 的紧凑二进制格式,跨系统交换数据高效且不会产生歧义。 |
| SQLite | .db | 一个文件就是一个完整数据库,能用 SQL 直接查询,无需安装数据库服务器。 |
| Feather | .feather | 为 Python 和 R 量身定制的极速读写格式,保存和加载数据帧几乎没有延迟。 |
| Markdown | .md | 带格式的纯文本,易读易写,大量用作 AI 提示词和训练语料。 |
| Protocol Buffers | .pb | 强 Schema 二进制格式,体积小、解析快,适合高性能服务间数据交换。 |
类 ZIP 文件格式
许多常见文档格式本质上是 ZIP 压缩包,内含 XML 或其他结构化文件。AI 只需解压即可提取内容,无需安装对应的桌面软件。
| 格式 | 扩展名 | 为什么便于 AI 操作 |
|---|---|---|
| Word 文档 | .docx | 本质是 ZIP 压缩的 XML,直接解压就能提取纯文本或结构化内容,无需安装 Word。 |
| Excel 表格 | .xlsx | 同样是 ZIP 内含 XML,可批量转换为 CSV,方便喂给 AI 训练。 |
| PowerPoint | .pptx | 解压后每页幻灯片为独立 XML,方便提取所有文字用于摘要或分析。 |
| ODF 文档 | .odt/.ods | 开源文档格式,ZIP 结构,通用工具即可提取内容,不受商业软件限制。 |
| EPUB 电子书 | .epub | ZIP 打包的 XHTML 章节,能一次性提取整本书的文本进行自然语言处理。 |
| Java 归档 | .jar | 就是 ZIP,内含资源文件和配置,可提取元数据或文本资源。 |
| Android 应用 | .apk | ZIP 格式,利用反编译工具可拿到清单文件和资源,用于安全分析或数据挖掘。 |
| Python 包 | .whl | 可直接解压查看源码和资源,方便 AI 理解代码库。 |
| 浏览器扩展 | .xpi/.crx | ZIP 压缩的插件包,内含 JavaScript 和 JSON,可直接分析代码逻辑。 |
| 漫画书 | .cbz | 只是改名的 ZIP,里面是顺序图片,图像类 AI 可直接批量处理。 |
| NuGet 包 | .nupkg | 类似 ZIP,可解压提取 DLL 和元数据,用于代码分析。 |
基础且强大的命令行工具
命令行工具是 AI 操作文件的"双手":无需 GUI、可脚本化、可管道组合。以下按用途分类介绍九大类核心工具。
Pandoc — 文档与文本万能转换器
支持 50+ 格式互转,是文档处理领域的"万能插座",一条命令替代无数导出导入。
| 可操作格式(部分) | 可执行操作 | 为什么便于使用 |
|---|---|---|
| 输入/输出:markdown, HTML, docx, odt, epub, LaTeX, PDF(需引擎), rst, textile, wiki等 50+ 格式 | 格式互转、提取文本、合并文档、生成目录、编写学术论文、制作幻灯片 | 一条命令替代无数导出导入,无软件绑定,批量自动化处理海量文档。 |
FFmpeg — 音视频瑞士军刀
几乎所有音视频格式都能处理,是音视频处理的底层标准工具。
| 可操作格式(部分) | 可执行操作 | 为什么便于使用 |
|---|---|---|
| 容器/编码:mp4, mkv, avi, mov, flv, mp3, aac, wav, ogg, h264, h265, vp9 等几乎所有格式 | 转码、压缩、截取片段、合并音视频、提取音频、加水印、调整分辨率、GIF制作 | 全格式覆盖,无需图形界面,可脚本化批量处理,服务器端核心工具。 |
ImageMagick — 图像魔法师
命令 convert/magick,支持 200+ 图像格式读写与批处理。
| 可操作格式(部分) | 可执行操作 | 为什么便于使用 |
|---|---|---|
| 读取/写入超过 200 种格式:JPEG, PNG, GIF, TIFF, BMP, SVG, PDF, EPS, WebP, HEIC 等 | 格式转换、缩放、裁剪、旋转、添加文字/边框、拼接、颜色调整、创建动图、PDF转图片 | 无需打开编辑器,一行命令处理批量图片,支持管道与脚本深度集成。 |
PDF 工具箱 — Poppler / QPDF / Ghostscript
三件套覆盖 PDF 文本提取、页面操作、专业打印全场景。
| 工具 | 可操作格式 | 可执行操作 | 为什么便于使用 |
|---|---|---|---|
pdftotext (poppler) |
PDF → TXT/HTML | 提取纯文本,保留布局 | 直接输出 AI 可直接使用的清洁文本。 |
qpdf |
合并、拆分、旋转、解压缩、去密码 | 轻量级 PDF 页面操作,比臃肿的桌面软件快百倍。 | |
gs (Ghostscript) |
PDF, PS, EPS | 压缩、合并、转换 PDF/A、打印处理 | 处理专业打印和矢量化文档的必备底层引擎。 |
LibreOffice — Office 文档无界面转换
命令行模式下批量转换 Office 文档,无需安装微软 Office。
| 可操作格式 | 可执行操作 | 为什么便于使用 |
|---|---|---|
| doc, docx, xls, xlsx, ppt, pptx, odf, csv, html 等 | 批量转换为 PDF、纯文本、HTML、其他办公格式 | 无需安装微软Office,一条循环命令即可将上千份办公文档转成统一格式。 |
结构化数据处理 — jq / csvkit / xmlstarlet
针对 JSON、CSV、XML 三大格式的命令行查询与变形工具。
| 工具 | 可操作格式 | 可执行操作 | 为什么便于使用 |
|---|---|---|---|
jq |
JSON, JSONL | 查询、过滤、变形、统计、格式化 | 相当于 JSON 的"数据库查询语言",纯命令行流式处理。 |
csvkit (in2csv, csvgrep 等) |
CSV, Excel, JSON | 导入导出、查看、筛选、统计 | Excel 与 CSV 互转,命令行下完成表格分析。 |
xmlstarlet |
XML | 查询、编辑、验证、转换 | 像处理数据库一样操作 XML 树,无需学习复杂的 XSLT。 |
压缩与归档 — unzip / 7z / tar
解压是 AI 接触 ZIP 系格式(docx、xlsx、epub 等)的第一步。
| 工具 | 可操作格式 | 可执行操作 | 为什么便于使用 |
|---|---|---|---|
unzip |
.zip, .docx, .xlsx, .epub, .jar, .apk 等 | 解压、查看文件列表、提取特定文件、不解压直接读取内容 | 揭秘所有 ZIP 系格式,管道式提取数据直通后续处理。 |
7z |
7z, zip, rar, tar, iso 等 50+ 格式 | 极高压缩率、解压、自解压、加密 | 压缩率之王,支持几乎所有归档,跨平台无障碍。 |
tar |
.tar, .tar.gz, .tar.bz2 等 | 打包、解包、流式解压 | 类 Unix 系统的空气般存在,打包分发必备。 |
SoX — 音频专用
Sound eXchange,音频界的瑞士军刀,无需打开 DAW 即可批处理。
| 可操作格式 | 可执行操作 | 为什么便于使用 |
|---|---|---|
| wav, mp3, flac, ogg, aiff 等 | 转换、拼接、混音、变速、降噪、生成频谱 | 音频界的 swiss knife,批量处理声音文件不打开 DAW。 |
Inkscape 命令行 — SVG 处理
无需 GUI 即可操作矢量图,适合自动化生成图标和插图。
| 可操作格式 | 可执行操作 | 为什么便于使用 |
|---|---|---|
| SVG, PNG, PDF, EPS, AI 等 | 矢量转光栅、批量导出、格式转换、文本提取 | 无需 GUI 即可操作矢量图,适合自动化生成图标和插图。 |
巧妙工具:从意想不到的角度解决问题
有些工具的用法超出其原始设计意图,能从意想不到的角度解决 AI 数据处理问题。
| 工具 | 意想不到的转换 | 为什么巧妙 |
|---|---|---|
| Pandoc | Markdown → PPT/PDF 幻灯片 | 写文档的同时生成演示文稿,纯文本可纳入版本控制,彻底分离内容与排版。 |
| Marp | Markdown → 精美幻灯片 | 专为 Markdown 转 PPT 而生,实时预览,导出 PPTX/PDF,比传统软件更高效。 |
| Graphviz | 纯文本关系描述(.dot) → 自动布局图表 | 用代码写"谁和谁连接",一键生成复杂流程图,无需手动拖拽对齐。 |
| Mermaid | Markdown 内嵌文本 → 流程图/时序图/甘特图 | 文档即绘图,只用几行简单的语法就在 README 或笔记中画出专业图表。 |
| q | CSV/TSV → 执行 SQL 查询 | 直接在表格文件上写 SELECT, WHERE, GROUP BY,把任意分隔文本当数据库用,零导入。 |
| wkhtmltopdf | 网页/HTML → PDF | 将任何网页及其 CSS 样式完美"打印"为文档,保留布局与超链接。 |
| ImageMagick | 文本/URL → 二维码图片 | 一条命令从字符串生成 PNG 二维码,批量生成名片或分享链接极方便。 |
| FFmpeg | 音频/视频 → 波形图/频谱视频 | 可视化声音:提取音频生成动态波形或频谱,制作音乐可视化封面无需专门软件。 |
| ExifTool | 读写数十种文件元数据 | 照片、PDF、音视频的隐藏信息任意修改和迁移,批量纠正拍摄日期或 GPS 坐标。 |
| Jupyter nbconvert | .ipynb 笔记本 → 幻灯片/PDF/HTML | 数据分析代码直接变成可演示的幻灯片,省去单独制作 PPT 的重复劳动。 |
| Calibre | 任意电子书格式互转 | 打通 EPUB、MOBI、PDF、DOCX 等壁垒,一次转换适配所有阅读设备。 |
| yt-dlp | 视频平台链接 → 本地文件 | URL 变媒体文件,可提取纯音频或字幕,构建本地语料库。 |
我是老鼠,给我买咖啡!!! 爱发电 · 连接创作者与粉丝的会员制平台