01 · 介绍
Strata 是什么
Strata 是一款免费的开源程序（MIT 许可证），让你可以在自己的电脑上运行大型 AI 模型，包括只配有普通显卡的机器。聊天记录、文件和图片都保存在你的电脑上，而且无需注册账号。
它解决的问题是：目前最强的开源模型体积非常庞大。通常情况下，模型必须装进显卡的内存（VRAM）中，而一张游戏显卡通常只有 8 到 24 GB。Strata 通过采用**混合专家模型（MoE）**架构来绕过这一限制。这类模型被拆分为许多小型的“专家”，每个词只由其中少数几个专家来处理。因此，Strata 会把最常用的专家保留在 VRAM 中，其余的放在普通内存（RAM）里；对于超大型模型，则会从你的 SSD 中读取剩下的部分。你需要以一定的速度为代价，换来运行原本根本无法启动的模型的能力。
你将获得：
- 一款桌面应用（支持 Windows、Linux、Mac），包含聊天、文件和实时预览功能；以及一款终端应用（
strata launch）。 - 可供下载并为你运行的模型，例如 Qwen3.8-Flash-Next、Qwen3.6-35B-A3B 和 DeepSeek V4.1-Flash。项目推荐使用压缩（“量化”，quantized）形式的模型，这类模型比原版更小，但会在一定程度上损失质量。
- 一个兼容 OpenAI 和 Anthropic API 格式的本地服务器，因此编程智能体（Claude Code、Codex CLI、OpenCode 等）可以调用你本地的模型。
新名词：本地模型（local model）运行在你自己的机器上，而不是公司的服务器上。量化（Quantization）以更少的位数存储模型的数值，从而让文件更小。每秒 token 数（Tokens per second）表示模型生成回答的速度。
名称提醒：还有其他项目也叫“Strata”。本手册介绍的是位于 github.com/Niko1221/Strata 的本地模型引擎。
02 · 适合什么场景
何时有用
- 隐私。 你的代码、文档和图片永远不会离开你的电脑。模型下载完成后，Strata 无需联网即可运行。
- 没有按 token 计费。 下载完成后，运行模型的成本只有电费。
- 为你的编程智能体配一个本地模型。 把 Claude Code、Codex CLI 或类似工具指向它，处理那些你不想发送到云端的任务。
- 在无需租用服务器的情况下试用大型开源模型。
- 学习如何在你已经拥有的硬件上运行本地 AI。
请实事求是地看待：把大模型塞进一台游戏电脑，速度会比云服务慢；经过大幅压缩的模型，效果可能比完整版略差。如果你需要最快的速度或最强的闭源模型，云端 API 仍然是更好的选择。
03 · 配置
如何开始
先检查你的电脑。 支持：NVIDIA GeForce RTX 20/30/40/50 系列、AMD Radeon RX 7000/9000 系列和 AI PRO R9700、Intel Arc（Linux）、Apple Silicon Mac（M1 或更新机型，macOS 15+）、AMD Ryzen AI Max，以及 NVIDIA DGX Spark。Windows 10/11 和 Linux x86-64 受支持；Intel 芯片的 Mac 不支持。
需要多少内存？ 关键是内存（RAM）加显存（VRAM）的总量。项目指南列出，例如推荐的 Qwen3.8-Flash-Next 模型包合计约 38 到 55 GB（一块 12 GB 显存的显卡加 32 到 64 GB 内存是常见的游戏电脑配置），较小的 35B 模型则需要 32 到 52 GB 内存。请为 Windows 和其他应用预留内存。DeepSeek V4.1-Flash 要大得多，需要约 245 到 280 GB 的可用磁盘空间，因为其中一部分会从 SSD 中读取。
安装（简便方式）：
- 从最新版本下载适合你系统的安装包（Windows 安装程序、Linux AppImage 或 Mac dmg）。
- 打开应用并选择一个模型。首次启动时，它会为你的显卡下载对应的引擎。
- 开始聊天。
或者使用终端：
# Linux / Mac
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh -o install.sh && sh install.sh
# Windows PowerShell
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
然后运行 strata launch，并按照提示操作。若想在下载任何内容之前查看缺少什么，请添加 --plan。
这些命令会从互联网下载并运行软件，因此如果你想确保安全，请先阅读安装脚本，并且只从官方 GitHub 发布页面下载。
04 · 使用说明
日常使用
桌面应用中的聊天。 选择一个模型，输入内容，它就会回答。你还可以向它提供文件和图片（部分模型支持图像输入）。
连接编程智能体。 Strata 运行一个本地服务器，模拟 OpenAI 和 Anthropic 的 API。运行：
strata connect
它会为你的工具打印设置步骤。该项目列出了 Claude Code、Codex CLI、OpenCode、oh-my-pi、pi.dev、Hermes Agent 和 OpenClaw，其他工具也可以通过同样的两种 API 工作。
观察运行情况。 终端应用会显示模型活动、速度、内存占用和最近的请求，帮助你判断模型是否适合你的机器。
选择不同的规格。 较大的模型包回答得更好，但速度更慢，并且需要更多内存。该项目的默认推荐是 ISTA-DASLab 的模型包：Q2_0 最快，IQ3_S 质量最好。如果某个模型运行缓慢或崩溃，请降低一个规格。
速度。 速度在很大程度上取决于你的硬件。对于庞大的 DeepSeek V4.1-Flash 模型，作者自己的测试显示：在配备 64 GB 内存的 RTX 5070 上约为每秒 4 到 6 个 token，在配备 46 GB 内存的 RTX 3060 上约为每秒 9 到 11 个 token。这些是作者的数据，因此请在你自己的机器上进行测试。
05 · 注意事项
需要注意的事项
- 它是新项目，变化很快。 该项目只有几个月的历史，每隔几天就会发布更新（2026 年 11 月 5 日的版本为 0.2.11）。命令、模型名称和体积都可能变化，请查看 README。
- 非常占用内存和磁盘。 模型体积从几十 GB 到几百 GB 不等。下载前请先检查可用磁盘空间和内存表。
- 比云端慢。 在游戏电脑上运行大型模型明显比托管服务慢，而且压缩程度很高的版本可能会损失一些质量。
- 速度说法不一。 介绍 Strata 的文章给出的速度和配置要求各不相同，还有一些文章把显卡型号弄混了。请以项目官方文档和你自己的测试为准。
- 模型许可证各不相同。 Strata 采用 MIT 许可证，但每个模型都有各自的许可证。商业使用前请先确认。
- 安装程序会运行代码。 安装命令会下载并运行程序。请只使用官方 GitHub 发布页面。Strata 表示其下载文件会与固定哈希值进行校验，并且不发送任何遥测数据。
- 保持服务器私密。 默认情况下，它只监听你的电脑。如果你将其开放给其他设备或互联网，请使用 API 密钥，并充分了解其中的风险。
- 编码智能体可能修改你的文件。 在默认模式下，内置智能体在修改任何内容之前都会先询问你。在你充分信任它之前，请保持这一设置。
06 · 资源