Skip to content

Latest commit

 

History

History
68 lines (48 loc) · 2.81 KB

03.DeployPhi3VisionOnAzure.md

File metadata and controls

68 lines (48 loc) · 2.81 KB

实验室 3 - 在 Azure 机器学习服务上部署 Phi-3-vision

我们使用 NPU 完成本地代码的生产部署,然后我们希望通过它引入 PHI-3-VISION 的能力,实现从图片生成代码。

在本次介绍中,我们可以快速在 Azure 机器学习服务中构建一个 Model As Service Phi-3 Vision 服务。

Note: Phi-3 Vision 需要计算能力以更快地生成内容。我们需要云计算能力来帮助我们实现这一目标。

1. 创建 Azure 机器学习服务

我们需要在 Azure Portal 中创建一个 Azure 机器学习服务。如果你想了解如何操作,请访问此链接 https://learn.microsoft.com/azure/machine-learning/quickstart-create-resources?view=azureml-api-2

2. 在 Azure 机器学习服务中选择 Phi-3 Vision

目录

3. 在 Azure 中部署 Phi-3-Vision

部署

4. 在 Postman 中测试端点

测试

Note

  1. 要传输的参数必须包括 Authorization、azureml-model-deployment 和 Content-Type。你需要检查部署信息以获取这些参数。

  2. 传输参数时,Phi-3-Vision 需要传输一个图片链接。请参考 GPT-4-Vision 方法传输参数,例如

{
  "input_data":{
    "input_string":[
      {
        "role":"user",
        "content":[ 
          {
            "type": "text",
            "text": "You are a Python coding assistant.Please create Python code for image "
          },
          {
              "type": "image_url",
              "image_url": {
                "url": "https://ajaytech.co/wp-content/uploads/2019/09/index.png"
              }
          }
        ]
      }
    ],
    "parameters":{
          "temperature": 0.6,
          "top_p": 0.9,
          "do_sample": false,
          "max_new_tokens": 2048
    }
  }
}
  1. 使用 Post 方法调用 /score

恭喜 !你已经完成了快速 PHI-3-VISION 部署,并尝试了如何使用图片生成代码。接下来,我们可以结合 NPU 和云构建应用程序。

免责声明: 本文件使用基于机器的人工智能翻译服务进行翻译。虽然我们努力确保准确性,但请注意,自动翻译可能包含错误或不准确之处。应将原始语言的文件视为权威来源。对于关键信息,建议使用专业人工翻译。对于因使用本翻译而引起的任何误解或误读,我们不承担责任。