跳到主要内容

导出

Edge Studio 导出优化后的模型和 app 项目,供下游使用。

导出格式

格式用途
Edge Kit native使用 Edge Kit engine 运行模型。
Edge Scaffold生成完整 iOS app 项目。
GGUF在兼容推理 engine 中使用模型。
CoreML在支持的 Core ML 工作流中集成。

导出工作流

  1. 选择优化后的候选。
  2. 选择导出格式。
  3. 配置模型名称、类别和目标 app 设置。
  4. 导出。
  5. 在目标运行时中验证输出。

Edge Scaffold 导出

Edge Scaffold 导出会创建一个 iOS 项目,其中包含:

  • App 元数据。
  • 模型引用。
  • 生成的配置文件。
  • Edge Kit 集成。
  • 所选模型类别的 UI 路径。

导出后,打开生成的项目,在真实设备上运行 app,并验证首次启动、模型加载和生成。

Edge Kit native 导出

当你已经有 app,只需要模型 bundle 时使用此格式。

import EdgeInference

let engine = LLMEngine()
let modelURL = URL(fileURLWithPath: "/path/to/exported-model")

try await engine.loadLocal(directory: modelURL)

验证检查清单

  • 导出的目录包含 config.json
  • 文本模型包含 tokenizer 文件。
  • 所选 engine 可以加载模型。
  • 首次推理在目标设备上完成。
  • app 可以在不重启的情况下卸载或切换模型。