031.WebGPUWithPhi35Readme.md

Phi-3.5-Instruct WebGPU RAG Chatbot

演示 WebGPU 和 RAG 模式

使用 Phi-3.5 Onnx 托管模型的 RAG 模式利用了检索增强生成方法，结合了 Phi-3.5 模型的强大功能和 ONNX 托管的高效 AI 部署。这种模式在微调特定领域任务的模型方面非常重要，提供了质量、成本效益和长上下文理解的结合。它是 Azure AI 套件的一部分，提供了广泛的模型选择，易于查找、试用和使用，满足各行业的定制需求。

什么是 WebGPU

WebGPU 是一种现代网页图形 API，旨在直接从网页浏览器高效访问设备的图形处理单元 (GPU)。它被设计为 WebGL 的继任者，提供了几个关键改进：

1. 兼容现代 GPU：WebGPU 旨在与现代 GPU 架构无缝协作，利用系统 API 如 Vulkan、Metal 和 Direct3D 12。
2. 性能提升：它支持通用 GPU 计算和更快的操作，适用于图形渲染和机器学习任务。
3. 高级功能：WebGPU 提供了对更多高级 GPU 功能的访问，能够处理更复杂和动态的图形和计算工作负载。
4. 减少 JavaScript 负担：通过将更多任务卸载到 GPU，WebGPU 显著减少了 JavaScript 的负担，从而提高性能和流畅度。

WebGPU 目前在 Google Chrome 等浏览器中得到支持，并正在努力扩展到其他平台。

03.WebGPU

所需环境：

支持的浏览器：

• Google Chrome 113+
• Microsoft Edge 113+
• Safari 18 (macOS 15)
• Firefox Nightly.

启用 WebGPU：

• 在 Chrome/Microsoft Edge 中

启用 chrome://flags/#enable-unsafe-webgpu 标志。

打开浏览器：

启动 Google Chrome 或 Microsoft Edge。

访问 Flags 页面：

在地址栏中输入 chrome://flags 并按 Enter。

搜索标志：

在页面顶部的搜索框中输入 'enable-unsafe-webgpu'

启用标志：

在结果列表中找到 #enable-unsafe-webgpu 标志。

点击旁边的下拉菜单并选择 Enabled。

重启浏览器：

启用标志后，您需要重启浏览器以使更改生效。点击页面底部出现的 Relaunch 按钮。

• 对于 Linux，使用 --enable-features=Vulkan 启动浏览器。
• Safari 18 (macOS 15) 默认启用 WebGPU。
• 在 Firefox Nightly 中，在地址栏中输入 about:config 并 set dom.webgpu.enabled to true。

为 Microsoft Edge 设置 GPU

以下是在 Windows 上为 Microsoft Edge 设置高性能 GPU 的步骤：

• 打开设置： 点击开始菜单并选择设置。
• 系统设置： 转到系统然后显示。
• 图形设置： 向下滚动并点击图形设置。
• 选择应用： 在“选择应用以设置偏好”下，选择桌面应用然后浏览。
• 选择 Edge： 导航到 Edge 安装文件夹（通常是 C:\Program Files (x86)\Microsoft\Edge\Application）并选择 msedge.exe。
• 设置偏好： 点击选项，选择高性能，然后点击保存。 这将确保 Microsoft Edge 使用您的高性能 GPU 以获得更好的性能。
• 重启 您的机器以使这些设置生效。

示例：请 点击此链接

免责声明: 本文档已使用基于机器的AI翻译服务进行翻译。尽管我们努力确保准确性，但请注意，自动翻译可能包含错误或不准确之处。应将原始语言的文档视为权威来源。对于关键信息，建议使用专业人工翻译。对于因使用此翻译而产生的任何误解或误读，我们不承担任何责任。