负责任地开发AI技术.docx

负责任地开发 AI 技术 Google 简介 科学的进步更加凸显了全球问题带来的挑战，并且也加剧了问题的复杂程度。幸运的 是，科学的进步也催生出了可以帮助我们解决这些问题的新型技术工具，其中最值得关 注的就是 AI。目前，AI 研究不断取得突破，AI 在现实世界中的应用也在快速发展，这 几乎为所有领域提高生产能力和洞察能力都带来了新的可能。与此同时，AI 也为我们解 决旧有难题带来了新的曙光(有时也会放大问题)。例如，人类社会如何对待公平，如 何打造包容的环境，以及如何让劳动者为未来的工作做好准备? 我们相信，如果运用得当，AI 可以为经济和社会带来巨大好处，并可以协助我们做出更 公平、更安全、更全面、更明智的决策。但要实现这样的愿景，我们需要高度谨慎并不 断努力，包括应对 AI 遭到滥用的风险，以及采取措施最大限度地降低此类风险。 AI 对世界的影响将取决于人们在利用这项技术时做出的种种选择。就像音乐家根据具体 的听众、演出目的和场地限制来选择哪些乐器和音乐一样，程序员和企业也是如此，他 们会在政府机构设定的界限以及文化接受程度内选择要应用哪些技术以及要实现什么结 果。要如何利用 AI 带来的好处，以及如何构建有利于社会发展的框架，最终将由各个国 家/地区和社会自行选择。Google 致力于在力所能及的范围内提供帮助，并希望本文档 能够对关于 AI 话题的探讨起到一定帮助。 Google 的方法简介 作为 AI 领域的引领企业之一，我们深知 Google 有义务以审慎且负责任的方式开发和 应用 AI，并为推行这样的做法做出贡献。和 业界其他企业一样，我们列出了对我们至关 重要的一般原则（见Google 的 AI 原则），并致力于 制定相关流程和治理结构，以便在精神和现 实层面恪守这些原则。 在实践中，AI 原则的实施方式常常取决于技 术上的可行性。Google 处于 AI 研究的最前 沿，致力于协助我们自身以及他人利用这项 技术实现更多可能，包括面向开发者提供工 具和指南（见 Google 的部分工作重点）。 Google 研究团队下设的人类与 AI 研究 (PAIR) 小组就是一个很好的例子。该小组 致力于协助解决算法偏见、可解释性和可用 性等方面的问题，他们开发了开放源代码工 具，以协助开发者更好地了解其系统存在的 风险，并帮助他们找出并解决可能存在的问 题(例如 Facets 等数据集可视化工具)。概 括来说，他们会发布研究成果，并在更大的 范围内分享研究成果，以便让人们了解这项 尖端的技术，并促进这项技术的发展。 Google 的 AI 原则 AI 应造福社会 AI 不应产生或加深偏见 AI 的开发和测试应以安全为宗旨 AI 应对人负责 AI 应纳入隐私保护设计原则 AI 的开发应秉持严苛的科学卓越性标准 AI 应可用于符合上述原则的用途 Google 的部分工作重点 可解释性 让任何人训练灵活的模型，以便提前了解输入是否只能对输出产生正面影响 让开发者在训练模型期 间深入了解模型 结合使用不同的技术来提供强大的接口，以便对神经网络输出进行解释 隐私保护 针对联合学习模型更新的安全聚合协议 以加密 方式为每位用户的更新提供强大的隐私保护 Google 的部分工作重点 安全性 AI 系统面临的最大威胁之一来自“对抗攻击” 集成对抗训练 公平性 训练数据遗漏和过度表示的内容会对 AI 系统造成影响 数据、模型设计、训练方法以及测试方法中存在人为偏见，则可能会导致得出的结果对不同人群产生不同影响 让开发者以不同的精细程度了解其训练数据的整体情况 探索性数据分析工具，用于查找数据中具有统计意义的少数样本 Google 承诺不为以下应用领域设计或部署 AI 旨在造成或直接加剧人身伤害的武器或其他技术; 出于违反国际公认规范的监视目的收集或使用信息的技术; 目的与广泛接受的国际法和人权原则相悖的技术 对于任何存在重大的伤害风险的 AI 应用， 只有在认定好处远远超出风险时，才应该继续开展相关工作，并且实施适当的安全限制 Google 致力于让每个人都能使用 AI 我们对外发布了 Google 的内部机器学习 工具包 TensorFlow 的源代码，让所有人 都可以在此领域开展相关实验，并推动 该技术向前发展 我们投资创建并分享了一些大型数据 集，以针对多种数据类型为机器学习研 究人员提供协助，这些数据集类型包括 语音指令、照片和视频、在线讨论、音 效和众包绘图 “Learn With Google AI”网站为希望学习 如何使用 AI 的人员(无论经验多寡)提 供免费课程、教程和实践练习 最后，Google Cloud 降低了 AI 的入门门 槛，让尽可能多的开发者、研究人员和 企业都能使用 AI。我们的平