Python / CLI
CLI 和本地模型工作流
下载模型、运行本地对话、检查合成纠错样本、生成并恢复 Neural Imprint 产物,在本地回执中对比回答哈希。
Edge 的第一条开发者路径很简单:下载预览基准模型,进入本地多轮对话,然后用合成样本生成并恢复 Neural Imprint,用本地回执对比结果。
当前文档以 qwen3.5-9b-4bit 为预览基准;首次下载和加载需要时间。
# 预览阶段安装一次
git clone https://github.com/AtomGradient/edge-studio.git
cd edge-studio
python3.11 -m venv .venv
source .venv/bin/activate
python -m pip install -e .
# 第一次本地多轮对话
edge models fetch qwen3.5-9b-4bit --source auto
edge demo chat --model qwen3.5-9b-4bit --interactive
从本地模型对话开始,然后用合成样本验证学习闭环。
CLI 是最快的体验路径。iOS/Swift 是应用集成路径,需要预览访问权限和真机验证。
下载模型、运行本地对话、检查合成纠错样本、生成并恢复 Neural Imprint 产物,在本地回执中对比回答哈希。
构建最小 iOS 应用壳,再接入 Edge Kit、Edge Halo 和 Edge Scaffold。需要预览访问权限和真机验证。
用多轮 session state 流式生成本地 LLM 回答。
文本生成指南在端侧使用视觉语言模型理解图像。
视觉指南构建本地 speech-to-text 和 text-to-speech 闭环。
语音指南本地个性化产物,在兼容性闸门下恢复用户相关运行时状态,不改模型权重。
模型进化面向本地推理、模型管理、EdgeData、EdgeMesh、EdgeSession、EdgeUI、语音和视觉的 Swift API。
Edge Inference API在用户可信自有 Apple 设备之间路由和传输产物。
Device Mesh 指南