Vesta：原生macOS AI应用，融合Apple Intelligence、MLX、llama.cpp及云API，实现多模型本地/云端一体化运行
摘要
Vesta 是一款专为 macOS Apple Silicon 设计的原生 AI 应用，旨在提供一体化的本地与云端 AI 模型运行体验。它独特地集成了 Apple Intelligence、MLX、llama.cpp 等本地推理框架，并支持 OpenAI、HuggingFace 等 31+ 云端 API。核心亮点包括创新的自然语言接口（NLI）和智能体助手（Agentic Sidekick），允许用户通过对话控制应用、配置模型，甚至让 AI 模型之间进行交互。Vesta 还具备强大的多模态能力，支持图像拖拽分析、设备端 TTS/STT 及语音克隆，并集成了多种图像/视频生成模型。该应用采用 SwiftUI、Metal 等原生技术栈构建，为开发者和研究人员提供了一个高效、灵活的 AI 实验与应用平台。
正文
Vesta 是一款专为 macOS 设计的原生 SwiftUI 应用，旨在为 Apple Silicon 用户提供一体化的本地与云端 AI 模型运行体验。它不仅支持在设备上运行 Apple Intelligence（Foundation Models）、MLX 和 llama.cpp 等本地模型，还能通过 API 连接超过 31 家云端推理服务提供商，包括 OpenAI 和 HuggingFace。
该应用的核心亮点在于其独特的交互方式和强大的功能集：
- 多后端集成：Vesta 允许用户在 Apple Intelligence、MLX、llama.cpp、OpenAI 和 HuggingFace 五大后端之间无缝切换，极大地扩展了模型选择的灵活性。
- 自然语言接口 (NLI) 与智能体助手 (Agentic Sidekick)：用户可以通过自然语言与应用系统进行对话，助手能够帮助设置配置、与其他模型进行交流，甚至控制应用本身（如加载模型、切换后端、检查状态），实现高度自动化和智能化的操作。
- 视觉/多模态能力：支持将图像拖拽到聊天界面，利用本地或云端模型进行分析。此外，还集成了设备端的文本转语音 (TTS) 功能（支持 45+ 种声音，包括 Kokoro 和 Marvis 语音克隆），以及语音转文本 (STT) 功能（基于 WhisperKit）。
- 丰富的 AI 工具：内置图像与视频生成功能，支持 FLUX、Stable Diffusion、Wan2.2 和 HunyuanVideo 等模型（通过 HuggingFace 推理服务）。
- HuggingFace Explorer：提供探索 HuggingFace 推理服务的能力，结合其 Pro 订阅可获得更佳体验。
- 高级渲染：支持 LaTeX/KaTeX 公式、代码块语法高亮和 Markdown 表格的正确渲染，提升了内容展示的专业性。
Vesta 并非基于 Electron 或简单的 API 封装，而是采用 SwiftUI、Metal、llama.cpp 库和 Swift MLX、HuggingFace Swift SDK 等原生技术栈构建，专为 M1/M2/M3/M4/M5 等 Apple Silicon 芯片优化，并要求 macOS 26+ 版本。值得一提的是，该应用的部分代码是在 AI 编码代理（如 Claude Code）的辅助下完成的，展示了 AI 在软件开发中的潜力。
安装方式：
- 通过 Homebrew：
brew install --cask scouzi1966/afm/vesta-mac - 下载 DMG 安装包：访问 https://kruks.ai/
项目 GitHub 地址：https://github.com/scouzi1966/vesta-mac-dist
开发者欢迎来自 Apple Silicon 本地模型运行用户的反馈。