Skip to content

Latest commit

 

History

History
112 lines (57 loc) · 6.87 KB

ResponsibleAI.md

File metadata and controls

112 lines (57 loc) · 6.87 KB

介绍负责任的人工智能

Microsoft Responsible AI 是一个旨在帮助开发者和组织构建透明、可信和负责的人工智能系统的倡议。该倡议为开发符合隐私、公平和透明等伦理原则的负责任的人工智能解决方案提供指导和资源。我们还将探讨构建负责任的人工智能系统所面临的一些挑战和最佳实践。

Microsoft Responsible AI 概述

RAIPrinciples

伦理原则

Microsoft Responsible AI 遵循一套伦理原则,如隐私、公平、透明、问责和安全。这些原则旨在确保人工智能系统以伦理和负责任的方式开发。

透明的人工智能

Microsoft Responsible AI 强调人工智能系统的透明性。这包括提供清晰的解释人工智能模型如何工作,以及确保数据来源和算法是公开的。

负责任的人工智能

Microsoft Responsible AI 鼓励开发能够提供人工智能模型决策过程洞见的负责任的人工智能系统。这可以帮助用户理解和信任人工智能系统的输出。

包容性

人工智能系统应设计为惠及所有人。Microsoft 旨在创建考虑多样化观点和避免偏见或歧视的包容性人工智能。

可靠性和安全性

确保人工智能系统的可靠性和安全性至关重要。Microsoft 专注于构建表现一致并避免有害结果的稳健模型。

人工智能中的公平性

Microsoft Responsible AI 认识到,如果人工智能系统基于有偏见的数据或算法进行训练,它们可能会延续这些偏见。该倡议为开发不基于种族、性别或年龄等因素进行歧视的公平人工智能系统提供指导。

隐私和安全

Microsoft Responsible AI 强调保护用户隐私和数据安全在人工智能系统中的重要性。这包括实施强大的数据加密和访问控制,以及定期审计人工智能系统的漏洞。

问责和责任

Microsoft Responsible AI 在人工智能开发和部署中提倡问责和责任。这包括确保开发者和组织意识到人工智能系统的潜在风险,并采取措施减轻这些风险。

构建负责任人工智能系统的最佳实践

使用多样化数据集开发人工智能模型

为了避免人工智能系统中的偏见,使用代表多种观点和经验的多样化数据集非常重要。

使用可解释的人工智能技术

可解释的人工智能技术可以帮助用户理解人工智能模型如何做出决策,从而增加对系统的信任。

定期审计人工智能系统的漏洞

定期审计人工智能系统可以帮助识别需要解决的潜在风险和漏洞。

实施强大的数据加密和访问控制

数据加密和访问控制可以帮助保护人工智能系统中的用户隐私和安全。

在人工智能开发中遵循伦理原则

遵循公平、透明和问责等伦理原则可以帮助建立对人工智能系统的信任,并确保它们以负责任的方式开发。

使用 AI Foundry 实现负责任的人工智能

Azure AI Foundry 是一个强大的平台,允许开发者和组织快速创建智能、前沿、市场就绪和负责任的应用程序。以下是 Azure AI Foundry 的一些关键功能和能力:

开箱即用的 API 和模型

Azure AI Foundry 提供预构建和可定制的 API 和模型。这些涵盖了广泛的人工智能任务,包括生成式人工智能、对话自然语言处理、搜索、监控、翻译、语音、视觉和决策。

Prompt Flow

Azure AI Foundry 中的 Prompt Flow 使您能够创建对话式人工智能体验。它允许您设计和管理对话流,从而更容易构建聊天机器人、虚拟助手和其他交互式应用程序。

检索增强生成 (RAG)

RAG 是一种结合基于检索和生成方法的技术。它通过利用现有知识(检索)和创造性生成(生成)来提高生成响应的质量。

生成式人工智能的评估和监控指标

Azure AI Foundry 提供评估和监控生成式人工智能模型的工具。您可以评估其性能、公平性和其他重要指标,以确保负责任的部署。此外,如果您已经创建了仪表板,可以使用 Azure Machine Learning Studio 中的无代码 UI 自定义和生成基于 Repsonsible AI Toolbox Python 库的负责任人工智能仪表板和相关记分卡。此记分卡帮助您与技术和非技术利益相关者分享与公平性、特征重要性和其他负责任部署考虑相关的关键见解。

要使用 AI Foundry 实现负责任的人工智能,您可以遵循以下最佳实践:

定义人工智能系统的问题和目标

在开始开发过程之前,明确定义您的人工智能系统要解决的问题或目标非常重要。这将帮助您识别构建有效模型所需的数据、算法和资源。

收集和预处理相关数据

用于训练人工智能系统的数据质量和数量对其性能有显著影响。因此,收集相关数据、清理、预处理并确保其代表您试图解决的人群或问题非常重要。

选择合适的评估算法

有各种评估算法可用。根据您的数据和问题选择最合适的算法非常重要。

评估和解释模型

一旦构建了人工智能模型,使用适当的指标评估其性能并以透明的方式解释结果非常重要。这将帮助您识别模型中的任何偏见或限制,并在必要时进行改进。

确保透明性和可解释性

人工智能系统应具有透明性和可解释性,以便用户理解它们的工作原理和决策过程。这对于对人类生活有重大影响的应用程序尤为重要,如医疗、金融和法律系统。

监控和更新模型

人工智能系统应持续监控和更新,以确保它们随时间保持准确和有效。这需要对模型进行持续维护、测试和重新训练。

总之,Microsoft Responsible AI 是一个旨在帮助开发者和组织构建透明、可信和负责任的人工智能系统的倡议。记住,负责任的人工智能实施至关重要,Azure AI Foundry 旨在使其对组织来说变得实际。通过遵循伦理原则和最佳实践,我们可以确保人工智能系统以负责任的方式开发和部署,从而造福整个社会。

免责声明: 本文档是使用基于机器的人工智能翻译服务翻译的。尽管我们努力确保准确性,但请注意,自动翻译可能包含错误或不准确之处。应将原文档的母语版本视为权威来源。对于关键信息,建议使用专业人工翻译。我们不对使用此翻译引起的任何误解或误读负责。