基础模型框架入门指南

开始使用 Foundation Models 框架

Foundation Models 框架是任何大型语言模型在您的应用中使用的最佳方式。无论您是生成快速摘要还是创建动态代理，该框架都具备您所需的一切。

概述

Foundation Models 框架是一个原生 Swift API，用于将任何大型语言模型集成到您的应用中——包括对 Apple Foundation Models 的设备端和 Private Cloud Compute 访问。内置了引导生成、工具调用、图像理解和 Dynamic Profiles 等强大功能，因此您拥有构建独特体验所需的一切。

Foundation Models 框架的新功能

认识 Foundation Models 框架

· Foundation Models 框架

· 生成式 AI 的人机交互指南

图像理解

多模态提示允许您在传递文本的同时传递图像，以便您的应用能够对视觉内容进行推理。这为您使用图像理解构建的新体验类别打开了大门——就像在提示中附加图像一样简单。Vision 框架也已直接集成，为您的模型提供了专为 OCR（光学字符识别）设计的工具，用于精确的文本提取，以及用于快速代码扫描的条形码读取器——所有这些都可在设备端完成。

图像理解的新功能

模型支持

Foundation Models 框架让您可以直接访问 Apple Intelligence 核心中的设备端基础模型，从而构建智能、私密且无需互联网连接即可工作的体验。

设备端模型对于许多任务非常有用，但有时您需要更大的模型来完成更复杂的工作流程。Foundation Models 框架现已扩展到服务器模型——如 Claude、Gemini 等——所有这些都通过同一个 Swift API，并完全支持工具调用和引导生成等功能。

任何模型提供商都可以创建一个符合 Language Model 协议的 Swift 包，这是框架的一个基本组件，允许您为应用选择合适的大型语言模型。

支持的第三方模型

· Core AI Language Models

· MLX Language Models

Private Cloud Compute

对于初学者，加入 App Store 小型企业计划的开发者，且首次 App Store 下载量少于 200 万次，可以无云 API 成本地访问在 Private Cloud Compute 上运行的 Apple Foundation Models。* 这带来了前沿级别的智能和无与伦比的隐私保护，确保您的用户数据不会被存储或被 Apple 或其他人访问。

了解更多关于 Private Cloud Compute 的信息

使用 Private Cloud Compute 上的新 Apple Foundation Model 构建

将 LLM 提供商引入 Foundation Models 框架

Dynamic Profiles

Dynamic Profiles 是用于实时持续更新会话模型、工具和指令的新声明式 API。与其创建具有固定配置的会话，不如定义 Profiles —— 每个都有其自己的模型、温度、推理级别和工具集 —— 并在单个连续会话中切换它们。

会话记录在每次切换 Profile 时共享，因此您的应用在更少提示的情况下获得更多上下文智能。Dynamic Profiles 被设计为可适应的构建块：使用它们来构建 AI 代理、技能或您的应用需要的任何其他高层抽象。

使用 Foundation Models 框架构建代理式应用体验

使用 Instruments 调试和分析代理式应用体验

使用 Core Spotlight 进行 LLM 搜索

评估框架

Evaluations 框架使您能够测试提示词并验证您的智能驱动功能在动态条件下是否正常工作，这超出了单元测试单独所能捕获的范围。无论您是在迭代指令、切换模型，还是调整 Dynamic Profile，Evaluations 都能让您在发布前对应用的行为充满信心。

了解 Evaluations 框架