跳到主要内容

从这里开始

在 Edge 里,设备就是 Agent。App 是载体。

App 仍然重要:它负责 UI、权限、本地产品策略、设置、用户控制和 App Store 边界。但长期存在的智能不是云端 profile,也不是为每个 App 分叉出来的模型。它是用户设备上的本地 Agent runtime:本地推理、App 批准的本地信号、RPP 自学习、Neural Imprint 恢复,以及用户可控删除。

先看一个具体理财助手场景。用户说:

我不喜欢高风险推荐,我更关注现金流和稳健收益。

之后,同一个用户问:

这个月扣掉账单后我还剩 800 美元,应该怎么处理?

基础模型可以给出通用建议。设备 Agent 应该带着本地偏好回答:先保护现金流,先解释保守选项,再讨论收益空间,并避免没有依据的收益承诺。这就是 Edge 要交付的产品变化:每个用户的设备都能持续学习用户,同时基础模型包保持稳定。

Edge 把这种本地学习产物叫做 Neural Imprint。它只在兼容性检查通过后恢复,是可删除的本地数据,也不需要把私有 profile 文本塞进每一次 prompt。

开发者预览

当前预览版可运行。Edge Studio、Edge Kit、Edge Engine、Edge Scaffold 和 Edge Halo binary package 都是公开发布面。Edge Halo 源码保持私有。API 可能在 release candidate 之间变化,因此请固定版本,并在每次升级后用真机验证。当前版本固定集中在一页:当前版本

选择你的路径

这份文档提供三条路径。选一条最贴近你当前目标的开始——每条路径自成一体,之后可以随时切换。

你想做的事从这里开始你需要
在 Mac 上跑通设备 Agent 学习环——装一个 CLI,看基础模型在本地学会一个偏好,检查回执快速开始 / 设备 AgentApple Silicon Mac,Python 3.11
用 Edge Kit 构建 iOS App——Swift 里的 LLM/VLM/语音、模型管理、EdgeMeshEdge Kit (Swift)Xcode,一台真实 iPhone 或 iPad 用于验证
优化、基准测试并导出模型——本地工作台 UI 与导出管线Edge Studio 工作台Apple Silicon Mac

本地知识与开发者工具(facts 库、URL 导入、自定义 Python 工具、工具学习)是独立一条线:本地知识与工具

Edge 解决什么问题

你的问题Edge 的做法
用户级偏好不应该变成一次模型发布工程保持基础模型包稳定,在运行时恢复本地学习产物。
敏感本地状态不应该被塞进每次请求把学习状态作为 App 管理的本地数据,而不是重复 prompt 文本。
用户必须可以移除学习状态载体 App 可以删除本地产物,并保持基础模型路径可用。
恢复必须安全激活前检查模型 identity、tokenizer/template、runtime version、工具 schema 和 artifact metadata。
产品策略属于 App用户数据、工具、权限、删除 UX 和评估规则留在载体层。

第一条路径:Mac 上的设备 Agent

默认路径,按顺序走。每一步都以一个可检查的结果收尾:

步骤指南预期结果
1. 安装 Edge Studio安装 Edge Studio从公开的 edge-studio Python 软件包安装 edge CLI。
2. 构建第一个设备 Agent第一个设备 Agent合成理财信号生成本地 Neural Imprint;同一个基础模型在恢复后给出不同回答。
3. 导出载体构建 Agent 载体Edge Studio 导出 Edge Scaffold 项目,并在真实 iPhone 或 iPad 上验证。

两个有用的侧门,不算步骤:用 edge studio 启动本地工作台(http://127.0.0.1:18842),或经 最小 iOS app 只构建 iOS 应用壳。

第一组命令

创建环境,安装 Edge Studio,并运行本地 doctor 检查:

python3.11 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
python -m pip install --upgrade --pre edge-studio
edge doctor

然后准备演示模型,并运行理财学习路径:

edge models fetch qwen3.5-9b-4bit --source auto
edge demo learn run \
--sample finance_conservative_cashflow_v1 \
--model qwen3.5-9b-4bit \
--max-tokens 160 \
--include-text

样本是合成数据,所以你可以安全查看学习信号。这次运行会写入本地回执,里面包含生成出来的 Neural Imprint 产物路径,以及可以直接复制的 edge demo chat --with-imprint ".../learn_receipt.json" 命令。

产品栈

产品你用它做什么
Edge Studio本地工作台与 CLI:模型就绪检查、模型下载回执、本地学习演示、Neural Imprint 生成、设备管理、基准测试与导出。
Edge KitSwift SDK:LLM、VLM、语音、模型管理、EdgeData、EdgeMesh、EdgeDataMeshBridge、EdgeSession 和 EdgeUI。
Edge Engine原生端侧推理运行时。由 Edge Kit 打包使用,App 通常不直接 import。
Edge Halo个性化生命周期层:profile jobs、Neural Imprint capsule 校验、恢复编排和兼容性检查。App 使用公开二进制包接入。
Edge ScaffoldEdge Studio 导出的 iOS 集成参考载体模板。

隐私模型

Edge 围绕用户自有计算设计:

  • 推理在本地运行。
  • 纠错、偏好和对话历史由 App 在本地管理。
  • 学习产物留在本地、可移除,并在恢复前做兼容性校验。
  • App 启用 EdgeMesh 时,传输也是本地网络并受信任关系约束。

不要把用户 transcript、纠错内容、财务细节或画像产物上传到分析、崩溃日志或远程支持系统。

核心概念

概念面向开发者的含义
设备 Agent私有端侧 runtime,负责本地推理、App 批准的学习信号、Neural Imprint 恢复和删除。
载体 AppApp 表面,负责 UI、权限、工具、设置、本地策略和用户控制。
Neural ImprintEdge 的本地学习产物:可移除、受兼容性检查保护,恢复时不替换基础模型包。
App 自有工具App 定义自己的工具 schema 和动作空间。Edge 基础设施不内嵌 App 业务规则。
EdgeMesh面向用户自有设备的本地网络信任、发现与设备间传输。
Fail-closed 兼容性如果产物和模型、tokenizer/template、runtime 或工具 schema 不匹配,载体保持基础模型路径 active。