Skip to content

Latest commit

 

History

History
51 lines (33 loc) · 3.01 KB

FineTuning_Scenarios.md

File metadata and controls

51 lines (33 loc) · 3.01 KB

微调场景

使用微软服务进行微调

平台 这包括各种技术,如Azure AI Foundry、Azure Machine Learning、AI Tools、Kaito和ONNX Runtime。

基础设施 这包括CPU和FPGA,它们是微调过程中的关键部分。让我向你展示每种技术的图标。

工具和框架 这包括ONNX Runtime和ONNX Runtime。让我向你展示每种技术的图标。 [插入ONNX Runtime和ONNX Runtime的图标]

使用微软技术进行微调过程涉及各种组件和工具。通过理解和利用这些技术,我们可以有效地微调我们的应用程序并创建更好的解决方案。

模型即服务

使用托管微调来微调模型,无需创建和管理计算资源。

MaaS微调

无服务器微调适用于Phi-3-mini和Phi-3-medium模型,使开发人员能够快速轻松地为云和边缘场景定制模型,而无需安排计算资源。我们还宣布,Phi-3-small现在通过我们的模型即服务产品提供,使开发人员可以快速轻松地开始AI开发,而无需管理底层基础设施。

微调示例

模型即平台

用户管理自己的计算资源以微调他们的模型。

Maap微调

微调示例

微调场景

场景 LoRA QLoRA PEFT DeepSpeed ZeRO DORA
将预训练的LLM适应特定任务或领域
为NLP任务(如文本分类、命名实体识别和机器翻译)进行微调
为QA任务进行微调
为聊天机器人生成类似人类的响应进行微调
为生成音乐、艺术或其他形式的创意进行微调
减少计算和财务成本
减少内存使用
使用更少的参数进行高效微调
内存高效的数据并行形式,可访问所有可用GPU设备的总GPU内存

微调性能示例

微调性能

免责声明: 本文档是使用基于机器的人工智能翻译服务进行翻译的。尽管我们力求准确,但请注意,自动翻译可能包含错误或不准确之处。应将原始语言的文档视为权威来源。对于关键信息,建议进行专业的人类翻译。我们对使用此翻译所产生的任何误解或误读不承担责任。