跳到主要内容
开发者预览

先跑通本地模型,再验证学习闭环

Edge 的第一条开发者路径很简单:下载预览基准模型,进入本地多轮对话,然后用合成样本生成并恢复 Neural Imprint,用本地回执对比结果。

当前文档以 qwen3.5-9b-4bit 为预览基准;首次下载和加载需要时间。

最快验证路径
# 预览阶段安装一次
git clone https://github.com/AtomGradient/edge-studio.git
cd edge-studio
python3.11 -m venv .venv
source .venv/bin/activate
python -m pip install -e .

# 第一次本地多轮对话
edge models fetch qwen3.5-9b-4bit --source auto
edge demo chat --model qwen3.5-9b-4bit --interactive

三步完成:下载、对话、学习

从本地模型对话开始,然后用合成样本验证学习闭环。

选择你的集成路径

CLI 是最快的体验路径。iOS/Swift 是应用集成路径,需要预览访问权限和真机验证。

Python / CLI

CLI 和本地模型工作流

下载模型、运行本地对话、检查合成纠错样本、生成并恢复 Neural Imprint 产物,在本地回执中对比回答哈希。

核心能力

推理

文本生成

用多轮 session state 流式生成本地 LLM 回答。

文本生成指南
多模态

视觉理解

在端侧使用视觉语言模型理解图像。

视觉指南
语音

语音与声音

构建本地 speech-to-text 和 text-to-speech 闭环。

语音指南
核心概念

Neural Imprint

本地个性化产物,在兼容性闸门下恢复用户相关运行时状态,不改模型权重。

模型进化
SDK

Edge Kit

面向本地推理、模型管理、EdgeData、EdgeMesh、EdgeSession、EdgeUI、语音和视觉的 Swift API。

Edge Inference API
本地设备网格

Device Mesh

在用户可信自有 Apple 设备之间路由和传输产物。

Device Mesh 指南