Chaty —— 免费开源的本地 AI 桌面应用:离线跑大模型,带编码智能体、文档知识库和语音对话,数据不出你的电脑。

软件名称

Chaty —— 本地离线 AI 桌面应用(GGUF & MLX)

应用平台

  • Windows 10/11(x64,Vulkan GPU 加速)
  • macOS 13+(Apple Silicon,Metal + 原生 MLX)

推荐类型

【开发者自荐】

是否收费

免费(MIT 开源,无内购、无订阅、无广告)

一句简介

把开源大模型完全离线跑在自己电脑上的一站式应用:聊天、编码智能体、文档知识库、深度研究、语音对话,数据永远不出你的机器。

应用简介

无需注册账号、没有云端、零遥测。首次启动会按你的内存大小推荐一个合适的模型,一键下载即可开聊。

  1. 跑什么模型都行 —— 内置模型商店直接搜 Hugging Face,任意 GGUF 模型(llama.cpp 内核);Apple Silicon 上还能原生跑 MLX 模型,弹出模型时内存必定全数归还。每个量化版本都有"能否完整载入你的内存"提示,不怕下错。
  2. 本地编码智能体 —— 选一个文件夹、描述任务,它自己读代码、改文件、跑测试,每一步先给你看 diff 再执行;还能驱动一个真实的 Chrome 浏览器读网页、填表单(你能全程围观)。给小模型做了"工具端智能化":8B 模型也能独立完成"找 bug → 修复 → 验证"。
  3. 私密文档知识库 —— PDF / Word / Excel / 图片(自动 OCR)丢进去建索引,提问时答案带出处引用,悬停可预览原文段落;文档里没有的它会直说,不瞎编。
  4. 深度研究 —— 给个主题,多轮联网搜索 + 推理,产出带引用的结构化报告,可导出 PDF / Markdown。
  5. 免手语音 —— 完全离线的语音识别 + 11 种合成音色,连续对话模式;还能把知识库文档生成双人对谈"播客"。
  6. 聊天体验齐全 —— 可折叠的思考过程面板、KaTeX 公式、Mermaid 图表、代码高亮、单文件 HTML 应用内直接渲染(小游戏可玩)、⌘K 命令面板、全文搜索,界面中英双语、深浅主题。
  7. 对弱硬件友好 —— GPU 按显存自动调优、放不下平稳回退 CPU;16G 内存跑 7-8B 模型很舒服。

截图预览

编码智能体演示



官方网站