README.md

Phi-3 烹饪书: 微软Phi-3模型的实践例子

Phi 是微软开发的一系列开放AI模型。Phi模型是现有最强大且性价比最高的小型语言模型（SLMs），在各种语言、推理、编码和数学基准测试中，表现优于同等规模和更大规模的模型。Phi-3系列包括迷你、小型、中型和视觉版本，根据不同参数量进行训练，以服务于各种应用场景。有关微软Phi系列的更多详细信息，请访问欢迎来到Phi家族页面。

按照以下步骤操作：

1. Fork此仓库：点击本页面右上角的“Fork”按钮。
2. 克隆此仓库： git clone https://github.com/microsoft/Phi-3CookBook.git

目录

• 介绍

  • 设置您的环境(✅)
  • 欢迎来到Phi家族(✅)
  • 理解关键技术(✅)
  • Phi模型的AI安全(✅)
  • Phi-3硬件支持(✅)
  • Phi-3模型及其在各平台上的可用性(✅)
  • 使用Guidance-ai和Phi(✅)
  • GitHub Marketplace模型(✅)
  • Azure AI模型目录(✅)

• 快速开始

  • 在GitHub模型目录中使用Phi-3(✅)
  • 在Hugging face中使用Phi-3(✅)
  • 使用OpenAI SDK与Phi-3(✅)
  • 使用Http请求与Phi-3(✅)
  • 在Azure AI Studio中使用Phi-3(✅)
  • 使用Azure MaaS或MaaP进行Phi-3模型推理(✅)
  • 使用GitHub和Azure AI的Azure推理API与Phi-3
  • 在Azure AI Studio中将Phi-3模型部署为无服务器API(✅)
  • 在Ollama中使用Phi-3(✅)

• 在 LM Studio 中使用 Phi-3(✅)

  • 在 AI Toolkit VSCode 中使用 Phi-3(✅)
  • 使用 Phi-3 和 LiteLLM(✅)

• Phi-3 推理

  • 在 iOS 中推理 Phi-3(✅)
  • 在 Android 中推理 Phi-3.5(✅)
  • 在 Jetson 中推理 Phi-3(✅)
  • 在 AI PC 中推理 Phi-3(✅)
  • 使用 Apple MLX 框架推理 Phi-3(✅)
  • 在本地服务器中推理 Phi-3(✅)
  • 使用 AI Toolkit 在远程服务器中推理 Phi-3(✅)
  • 使用 Rust 推理 Phi-3(✅)
  • 在本地推理 Phi-3-Vision(✅)
  • 使用 Kaito AKS、Azure Containers（官方支持）推理 Phi-3(✅)
  • 推理您的微调 ONNX Runtime 模型(✅)

• 微调 Phi-3

  • 下载和创建示例数据集(✅)
  • 微调场景(✅)
  • 微调 vs RAG(✅)
  • 微调让 Phi-3 成为行业专家(✅)
  • 使用 AI Toolkit for VS Code 微调 Phi-3(✅)
  • 使用 Azure 机器学习服务微调 Phi-3(✅)
  • 使用 Lora 微调 Phi-3(✅)
  • 使用 QLora 微调 Phi-3(✅)
  • 使用 Azure AI Studio 微调 Phi-3(✅)
  • 使用 Azure ML CLI/SDK 微调 Phi-3(✅)
  • 使用 Microsoft Olive 微调(✅)
  • Microsoft Olive 实践实验室微调(✅)
  • 使用 Weights and Bias 微调 Phi-3-vision(✅)
  • 使用 Apple MLX 框架微调 Phi-3(✅)
  • Phi-3-vision 微调（官方支持）(✅)

• 使用 Kaito AKS 微调 Phi-3 和 Azure Containers（官方支持）(✅)

  • 微调 Phi-3 和 3.5 Vision(✅)

• 评估 Phi-3

  • 负责任的 AI 简介(✅)
  • Promptflow 简介(✅)
  • Azure AI Studio 评估简介(✅)

• Phi-3-mini 的端到端示例

  • 端到端示例简介(✅)
  • 准备您的行业数据(✅)
  • 使用 Microsoft Olive 构建您的项目(✅)
  • 在 Android 上使用 Phi-3、ONNXRuntime Mobile 和 ONNXRuntime Generate API 的本地聊天机器人(✅)
  • Hugging Face Space WebGPU 和 Phi-3-mini 演示 - Phi-3-mini 提供用户一个私密（且强大）的聊天机器人体验。您可以试试(✅)
  • 在浏览器中使用 Phi3、ONNX Runtime Web 和 WebGPU 的本地聊天机器人(✅)
  • OpenVino 聊天(✅)
  • 多模型 - 互动 Phi-3-mini 和 OpenAI Whisper(✅)
  • MLFlow - 构建一个包装器并使用 MLFlow 和 Phi-3(✅)
  • 模型优化 - 如何使用 Olive 优化 Phi-3-min 模型以适应 ONNX Runtime Web(✅)
  • 使用 Phi-3 mini-4k-instruct-onnx 的 WinUI3 应用(✅)
  • WinUI3 多模型 AI 驱动的笔记应用示例(✅)
  • 使用 Prompt flow 微调并集成自定义 Phi-3 模型(✅)
  • 在 Azure AI Studio 中使用 Prompt flow 微调并集成自定义 Phi-3 模型(✅)
  • 在 Azure AI Studio 中评估微调后的 Phi-3 / Phi-3.5 模型，重点关注 Microsoft 的负责任 AI 原则(✅)
  • Phi-3.5-mini-instruct 语言预测示例（中文/英文）(✅)

• Phi-3-vision 的端到端示例

  • Phi-3-vision-图像文本到文本(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 嵌入(✅)
  • 演示：Phi-3 回收(✅)
  • Phi-3-vision - 使用 Phi3-Vision 和 OpenVINO 的视觉语言助手(✅)
  • Phi-3 Vision Nvidia NIM(✅)
  • Phi-3 Vision OpenVino(✅)
  • Phi-3.5 Vision 多帧或多图像示例(✅)

• Phi-3.5-MoE 的端到端示例

  • Phi-3.5 专家模型混合（MoEs）社交媒体示例(✅)

• 构建一个基于NVIDIA NIM Phi-3 MOE、Azure AI Search和LlamaIndex的检索增强生成（RAG）管道(✅)

• 实验和研讨会示例 Phi-3

  • C# .NET 实验(✅)
  • 使用Microsoft Phi-3系列构建你自己的Visual Studio Code GitHub Copilot聊天(✅)
  • 本地WebGPU Phi-3迷你RAG聊天机器人示例与本地RAG文件(✅)
  • Phi-3 ONNX 教程(✅)
  • Phi-3-vision ONNX 教程(✅)
  • 使用 ONNX Runtime generate() API 运行 Phi-3 模型(✅)
  • Phi-3 ONNX 多模型 LLM 聊天界面，这是一个聊天演示(✅)
  • C# Hello Phi-3 ONNX 示例 Phi-3(✅)
  • 支持 Phi3-Vision 的 C# API Phi-3 ONNX 示例(✅)
  • 在 CodeSpace 中运行 C# Phi-3 示例(✅)
  • 使用 Promptflow 和 Azure AI Search 与 Phi-3(✅)
  • 使用 Windows Copilot Library 的 Windows AI-PC API

• 学习 Phi-3.5

  • Phi-3.5 系列的最新动态(✅)
  • 量化 Phi-3.5 系列(✅)
    • 使用 llama.cpp 量化 Phi-3.5(✅)
    • 使用 onnxruntime 的生成 AI 扩展量化 Phi-3.5(✅)
    • 使用 Intel OpenVINO 量化 Phi-3.5(✅)
    • 使用 Apple MLX 框架量化 Phi-3.5(✅)
  • Phi-3.5 应用示例
    • Phi-3.5-Instruct WebGPU RAG 聊天机器人(✅)
    • 使用 GitHub 模型创建你自己的 Visual Studio Code 聊天 Copilot 代理与 Phi-3.5(✅)
    • 使用 Windows GPU 创建与 Phi-3.5-Instruct ONNX 的 Prompt flow 解决方案(✅)
    • 使用 Microsoft Phi-3.5 tflite 创建 Android 应用(✅)

使用 Phi-3 模型

Azure AI Studio 上的 Phi-3

你可以学习如何使用 Microsoft Phi-3 以及如何在不同的硬件设备上构建 E2E 解决方案。要亲自体验 Phi-3，可以通过Azure AI Foundry Azure AI Model Catalog开始使用模型并根据你的场景定制 Phi-3。你可以在Azure AI Studio 快速入门中了解更多信息。

Playground 每个模型都有一个专门的测试平台 Azure AI Playground。

GitHub 模型上的 Phi-3

你可以学习如何使用 Microsoft Phi-3 以及如何在不同的硬件设备上构建 E2E 解决方案。要亲自体验 Phi-3，可以通过GitHub Model Catalog开始使用模型并根据你的场景定制 Phi-3。你可以在GitHub Model Catalog 快速入门中了解更多信息。

Playground 每个模型都有一个专门的测试平台。

Hugging Face 上的 Phi-3

你也可以在 Hugging Face 上找到模型。

Playground Hugging Chat playground

🌐 多语言支持

Note: 这些翻译是使用开源的 co-op-translator 自动生成的，可能包含错误或不准确的信息。对于关键信息，建议参考原文或咨询专业的人工翻译。如果您想添加或更新翻译，请参考 co-op-translator 仓库，您可以使用简单的命令轻松贡献。

语言	代码	翻译后的 README 链接	最后更新
中文（简体）	zh	中文翻译	2024-11-29
中文（繁体）	tw	中文翻译	2024-11-29
法语	fr	法语翻译	2024-11-29
日语	ja	日语翻译	2024-11-29
韩语	ko	韩语翻译	2024-11-29
西班牙语	es	西班牙语翻译	2024-11-29

商标

本项目可能包含项目、产品或服务的商标或标志。经授权使用 Microsoft 商标或标志必须遵守并遵循 Microsoft 的商标和品牌指南。 在修改版本的项目中使用 Microsoft 商标或标志不得引起混淆或暗示 Microsoft 的赞助。任何使用第三方商标或标志的行为均需遵循第三方的相关政策。

免责声明： 本文档已使用基于机器的人工智能翻译服务进行翻译。尽管我们努力确保准确性，但请注意，自动翻译可能包含错误或不准确之处。应将原文档的母语版本视为权威来源。对于关键信息，建议使用专业人工翻译。对于因使用此翻译而引起的任何误解或误读，我们不承担任何责任。