迎接AI时代：通过负责任的AI推进未来发展

图片来源：由无界版图AI工具生成

本文为2023年2月微软副董事长Brad Smith发表在Microsoft On the Issues的文章《Meeting the AI moment: advancing the future through responsible AI》，中文为国盛区块链研究院翻译整理。

本文的核心观点是人工智能(Artificial Intelligence，简称AI)为改善世界提供了巨大的可能，但同时也会造成一定程度上的危害。我们需要用更广泛的视角来看待这一技术带来的影响，并进行深入的交流以确定最有希望的解决方案。

作者认为，目前顶尖的人工智能是推进批判性思维和刺激创造性表达的强大工具，它不仅让人们更好的搜集信息，还可以帮助人们寻求未知问题的答案。这不是一个简单的技术进步，还意味着知识工作将迎来一场工业革命。但是，就像之前的每一项技术一样，它可能被当作一种工具或武器，进而造成一定程度上的危害。所以，我们需要建立responsible AI标准，以确保人工智能的建设和使用是负责任和符合道德的，确保人工智能能够推动国际竞争力和国家安全，确保人工智能能广泛地服务于社会。这不仅仅是AI技术专家的任务，更需要未来多学科，多领域，多视角的结合。

总的来说，作者认为我们需要下定决心拥抱人工智能这项新技术。但是，站在美国企业的角度，在带着对前景的热情进入这个新时代之前，需要睁大眼睛，坚决地解决前面不可避免的陷阱。

一、迎接人工智能时代：通过负责任的AI(responsible AI)推进未来发展

去年夏初，微软的一小群高级领导和responsible AI专家开始使用来自OpenAI的技术，它类似于现在世人所知的ChatGPT。即使对于那些自2019年以来与OpenAI的这项技术的开发者密切合作的人来说，最近的进展似乎也很了不起。我们曾预期在2033年左右的人工智能发展，在2023年已经到来了。

回顾我们行业的历史，某些分水岭年份非常突出。例如，互联网的使用随着1995年浏览器的普及而爆发，智能手机的增长随着2007年iPhone的推出而加速。现在，2023年很可能标志着人工智能的一个关键拐点。对于普通人，这个行业的机会是巨大的。而对于我们这些开发这种技术的人，责任则更大。我们需要利用这个分水岭，不仅仅是完成新的人工智能技术的进步，而且要负责任地、有效地解决未来的承诺和危险。

这件事太重要了。人工智能很可能代表了我们一生中最重要的技术进步。虽然这话经常被提到，但我们有充分的理由这么说。今天的尖端人工智能是推进批判性思维和刺激创造性表达的强大工具。它不仅让人们更好的搜索信息，还可以帮助人们寻求未知问题的答案。它可以帮助人们在复杂的数据和过程中发现洞察力，加快了我们更快表达我们所学知识的能力。最重要的是，在未来几个月或几年里，它将把所有这些事情做得越来越好。

许多个月来，我不仅有机会使用ChatGPT，而且有机会使用微软内部正在开发的人工智能服务。每天我都在学习新的方法，以便从技术中获得最大的收益。而且更重要的是，每天我都在思考这个新的人工智能时代将带来的更广泛的问题。而这样的问题比比皆是。

例如，这将改变什么？

随着时间的推移，一个比较简洁的答案是人工智能将改变一切。因为与之前的技术不同，人工智能的进步增强了人类的思考、推理、学习和表达能力。这意味着作为一切之根本的知识工作也将迎来一场工业革命。

于是，这为改善世界带来了巨大的可能。人工智能可以提高生产力，刺激经济增长。如果有效使用，它可以减少许多工作的繁琐，它可以帮助人们在工作中更具创造性，在生活中更具影响力。除此之外，人工智能在大型数据集中发现新见解的能力将推动医学的新进展，科学的新前沿，商业的新改进，以及网络和国家安全的新的和更强大的防御措施。

但是，所有的变化都是好的吗？

虽然我希望答案是肯定的，但事实不是这样。就像之前的每一项技术一样，一些人、社区和国家将把这种进步变成一种工具和武器。不幸的是，一些人将利用这项技术来利用人性的缺陷，故意以虚假信息为目标，破坏民主，并探索新的方法来推进对邪恶的追求。不幸的是，新技术通常会把人的优点和缺点都带出来。

这导致了一种深刻的责任感。一方面，这是我们所有生存在地球上的人的责任；但在更高的层面上，是我们这些参与开发和部署技术本身的人的责任。

对于人类将如何利用人工智能，我有时候带着乐观的情绪思考，认为人工智能终将造福人类，但由于上述原因也有悲观的时候。但是，更重要的是，我们需要下定决心拥抱人工智能这项技术。我们必须带着对前景的热情进入这个新时代，但同时也要睁大眼睛，坚决地解决前面不可避免的陷阱。

好消息是，我们不是从头开始。

2017年，我们曾在微软建立了一个responsible AI的基础设施。它与网络安全、隐私和数字安全领域等类似工作共同发展。它与一个更大的企业风险管理框架相联系，帮助我们为responsible AI创建原则、政策、流程、工具和治理系统。一路走来，我们与OpenAI中同样致力于responsible AI的专家一起工作和学习。

现在，我们必须重新担起这个责任，重新拿起这个工作进而为人工智能确立标准，并要在过去六年的工作的基础上，做的更多且更有效率。在微软和OpenAI，我们都认识到，技术将不断发展，而我们必须致力于持续参与和改进。

Responsible AI的基础

六年来，微软一直投资于一项跨公司计划，以确保我们的人工智能系统在设计上是负责任的。2017年，我们启动了由研究人员、工程师和政策专家组成的Aether委员会，专注于responsible AI的问题，并帮助制定我们在2018年通过的人工智能原则。2019年，我们创建了responsible AI办公室，以协调合理的人工智能治理，并推出了responsible AI标准的第一版。Responsible AI标准是一个将我们的高级别原则转化为我们的工程团队的可操作指南的框架。2021年，我们描述了实施这一计划的关键组成部分，包括扩大治理结构，培训我们的员工掌握新技能，以及支持实施的流程和工具。而且，在2022年，我们升级了我们的responsible AI标准，并将其推向第二版。它规定了我们将如何使用实用的方法来建立人工智能系统，提前识别、测量和减轻危害，并确保从一开始就将控制措施纳入我们的系统。

我们要从responsilbe AI项目的设计和实施中不断学习，这一点至关重要。我们在2022年夏天做的第一件事是聘请一个多学科团队与OpenAI合作，在他们现有的研究基础上，评估最新的技术在没有任何额外保障措施的情况下如何运作。就像所有的人工智能系统一样，重要的是要以最初的基准来处理产品建设工作，不仅要深入了解一项技术的能力，还要了解其局限性。在这个思想下，我们团队一起确定了一些风险，例如模型可能具有生成使刻板印象永久化内容的能力，以及可能具有编造一个令人信服但与事实不符的内容的能力。与生活的任何方面一样，解决一个问题的第一个关键是要了解它。

有了这些早期的洞察，我们responsible AI生态系统中的专家们采取了更多的措施。我们的研究人员、政策专家和工程团队共同研究了该技术的潜在危害，建立了危害的测量管道，并对有效的缓解策略进行迭代。这些工作中的大部分是没有先例的，其中一些挑战了我们现有的思维。在微软和OpenAI，我们已经取得了迅速的进展。这让我更加认识到推动responsible AI的最先进技术所需的专业知识的深度和广度，以及对新规范、标准和法律的日益增长的需求。

在此基础上再接再厉

当我们展望未来，我们能做的比现在多得多。随着人工智能模型的不断进步，我们需要解决新的和开放的研究问题，缩小测量差距，设计新的实践、模式和工具。我们需要以谦逊的态度对待未来的道路，并每天接受反馈、学习和改进。

但仅有我们自己和其他志同道合的组织的努力是不够的。人工智能的这一变革时刻要求我们以更广泛的视角来看待该这一技术的影响——包括正面和负面的影响——以及利益相关者之间需要更广泛的对话。我们需要进行广泛而深入的对话，并承诺采取联合行动，以确定未来的保护措施。

我们认为应该专注于三个关键目标。

首先，我们必须确保人工智能的建设和使用是负责任和符合道德的。历史告诉我们，像人工智能这样的转型技术需要新的道路规则。负责任的公司积极主动的自我要求将有助于为这些新法律铺平道路，但我们知道，并非所有组织都会自愿采取负责任的做法。国家和社区将需要利用民主的法律制定过程，进行全社会的对话，讨论应该在哪里划线，以确保人们得到法律的保护。我们认为，有效的人工智能法规应该以最高风险的应用为中心，在面对快速发展的技术和不断变化的社会期望时，应以结果为重点，并具有持久性。为了尽可能广泛地应用人工智能带来的便利，全球的监管方法将需要具有互操作性和适应性，就像人工智能本身。

第二，我们必须确保人工智能能够推动国际竞争力和国家安全。即使我们不希望这么说，但我们必须承认，我们生活在一个四分五裂的世界，技术优势是国际竞争力和国家安全的核心。人工智能是这种竞争的下一个前沿阵地。随着OpenAI和微软的结合，以及谷歌内部的DeepMind，美国完全有能力保持技术领先地位。其他国家已经在这个领域有所投资，所以我们更应该寻求在其他致力于民主价值观的国家中扩大这种立足点。但同样重要的是要认识到，在即将到来的人工智能浪潮中的另一个主导者是中国。而且，就在上周，中国的百度公司承诺将在人工智能方面发挥领导作用。美国和更广泛的民主社会将需要多个强大的技术领导者来帮助推进人工智能，并在包括数据、人工智能超级计算基础设施和人才等议题上有更广泛的公共政策领导。

第三，我们必须确保人工智能广泛地服务于社会。历史也表明，重大的技术进步会超过人们和机构的适应能力。我们需要新的举措来跟上步伐，以便工人能够通过人工智能增强能力，学生能够取得更好的教育成果，个人和组织能够享受公平和包容性的经济增长。我们最脆弱的群体，包括儿童，将比以往任何时候都需要更多的支持，以便在一个由人工智能驱动的世界中茁壮成长，我们必须确保这下一波技术创新能够增强人们的心理健康和福祉，而不是逐渐侵蚀它。最后，人工智能必须为人类和地球服务。人工智能可以在帮助解决气候危机方面发挥关键作用，包括分析环境结果和推进清洁能源技术的发展，同时也加快向清洁电力的过渡。

为了迎接这一时刻，我们将努力影响公共政策以支持这些目标。我们致力于与公民社会、学术界、政府和行业形成新的、更深入的伙伴关系。通过合作，我们都需要对必须解决的问题和可能是最有希望的解决方案有更全面的了解。现在是就人工智能的道路规则进行合作的时候了。

最后，当我发现自己在最近几个月里思考这些问题时，我的思想一次又一次地回到了几个相互关联的想法上。

首先，这些问题太重要了，不能只留给技术专家。而且，同样地，如果没有科技公司的参与，就没有办法预测，更不用说解决这些进展了。这项工作比以往任何时候都更需要一个大的合作群体。

第二，人工智能的未来需要多学科的结合。科技行业是由工程师建立的。然而，如果人工智能真的要为人类服务，未来需要我们将计算机和数据科学家与来自各行各业和各种思维方式的人结合起来。在这时候，人工智能技术比以往任何时候都更需要接受过人文、社会科学教育，并具有比一般人更多常识的人。

最后，也许也是最重要的，谦逊将比自信更有利于我们。我们不缺乏有意见和和有前瞻性的人,许多人的观点都值得考虑。但我总是能想起沃尔特-惠特曼的一句话——或者是泰德-拉索，这取决于你的偏好。

"要有好奇心，不要有判断力"。

我们正在进入一个新的时代。我们需要一起学习。

关键词：AI, 人工智能, ChatGPT, OpenAI, responsible AI

原文链接：

• This Article Link：

https://blogs.microsoft.com/on-the-issues/2023/02/02/responsible-ai-chatgpt-artificial-intelligence/