最近，包含露骨内容的流行歌星泰勒-斯威夫特（Taylor Swift）的深度伪造图片充斥互联网。一些报道称，这些图片是有人使用微软 Designer 制作的。微软 官方表示没有看到这方面的证据，但补充说已经对产品设计进行了修改 ，"以加强我们的文本过滤提示，并解决滥用我们服务的问题"。

今天，微软总裁布拉德-史密斯（Brad Smith）在公司官方博客上发表了一篇文章。虽然他没有提到泰勒-斯威夫特（Taylor Swift）的深度伪造图片，也没有提www.196nk.cn到据称在创建这些图片时使用了微软 Designer，但史密斯表示，公司看到"坏人滥用这些新人工智能工具的现象正在迅速扩大"。

史密斯概述了微软将重点关注的六个具体领域，以打击这类"滥用人工智能生成的内容"。首先是通过阻止特定文本提示、测试和快速禁止滥用这些工具的用户等活动，帮助提高这些工具的安全使用。

微软正在研究的另一个领域是帮助识别人工智能生成的内容。史密斯表示：我们已经在必应和 Copilot 的Microsoft http://www.196nk.cnDesigner 图像创建工具中使用了出处技术，我们正在将媒体出处扩展到我们所有创建或处理图像的工具中。公司正在研究未来的"水印和指纹技术"，并努力从 LinkedIn 等服务和 Xbox 等游戏服务中删除滥用人工智能的内容。

史密斯说，微软还希望与科技行业的其他企业以及执法部门合作，共同打击基于人工智能的深度伪造行为，希望与世界各国政府合作制定新的法律来禁止此类内容。

与此同时，微软希望帮助教育公众识别为欺骗人们而制作的深度伪造内容，这"需要新的公众教育工具和计划"，向他们展示哪些内容是真实的，哪些是虚假的。

博客全文翻译如下：

每天，数以百万计的人使用强大的人工智能生成工具来提升他们的创造力。在许多方面，人工智能将为我们所有人创造令人兴奋的机会，让新创意焕发生机。但是，随着这些新工具从微软和整个科技领域推向市场，我们必须采取新的措施，确保这些新技术不会被滥用。

技术发展史早已证明，创造力并不局限于怀有良好愿望的人。不幸的是，工具也会变成武器，而这种模式正在重演。目前，我们正目睹坏人滥用这些新的人工智能工具，包括通过人工智能生成的OJPHyBvM视频、音频和图像进行深度伪造的行为迅速扩张。这一趋势对选举、金融欺诈、非自愿色情骚扰以及新一代网络欺凌构成了新的威胁。

我们需要紧急行动起来，解决所有这些问题。

令人鼓舞的是，作为一个行业，我们可以从邻近领域的经验中学到很多东西--在推进网络安全、促进选举安全、打击暴力极端主义内容和保护儿童方面。作为一家技术公司，我们致力于在六个重点领域采取强有力的综合方法，保护人民和我们的社区：

1. 强大的安全架构。我们致力于采用以设计安全为基础的综合技术方法。根据不同的场景，需要在人工智能平台、模型和应用层面应用强大的安全架构。它包括持续的红队分析、先发制人的分类器、阻止滥用提示、自动测试以及快速禁止滥用系统的用户等方面。它需要以强大而广泛的数据分析为基础。微软已经建立了完善的架构，并通过我们的《196世界之最负责任的人工智能和数字安全标准》分享了我们的学习成果，但随着技术的发展，我们显然需要在这些领域继续创新。

2. 持久的媒体出处和水印。这对于打击视频、图像或音频中的深度伪造至关重要。去年，我们在 Build 2023 大会上发布了媒体出处功能，该功能使用加密方法对人工智能生成的内容进行标记和签名，并附带有关其来源和历史的元数据。微软与其他领先公司一起，一直是验证出处方法研发领域的领导者，包括作为原产地项目（Project Origin）和内容出处与真实性联盟（Coalition for Content Provenance and Authenticity，C2PA）标准机构的共同创始人。就在上周，Google和 Meta 在支持 C2PA 方面迈出了重要的一步，我们对此表示赞赏和称赞。

   我们已经在必应和 Copilot 中的Microsoft Designer图像创建工具中使用了出处技术，我们正在将媒体出处扩展到我们所有创建或处理图像的工具中。我们还在积极探索有助于加强来源技术的水印和指纹技术。我们致力于不断创新，帮助用户快速确定图像或视频是否由人工智能生成或处理。

3. 保护我们的服务免受辱骂内容和行为的侵害。我们致力于保护言论自由。但这不应该保护那些试图伪造他人声音以诈骗老年人钱财的个人。这不应延伸至篡改政治候选人的行为或言论以欺骗公众的深度伪造行为。它也不应庇护网络恶霸或未经同意的色情制品的传播者。我们致力于识别并删除我们托管的消费者服务（如 LinkedIn、我们的游戏网络和其他相关服务）中的此类欺骗性和滥用性内容。

4. 跨行业以及与政府和民间社会的紧密合作。虽然每家公司都要对自己的产品和服务负责，但经验表明，当我们共同努力建立一个更安全的数字生态系统时，我们的工作往往会做得最好。我们致力于与技术领域的其他公司合作，包括在生成式人工智能和社交媒体领域。我们还致力于与民间团体积极合作，并与政府开展适当的合作。

   在前进的道路上，我们将借鉴我们在"克赖斯特彻奇呼吁"中打击暴力极端主义的经验，通过数字犯罪部门与执法部门合作，以及通过"我们保护全球联盟"和更广泛的方式更好地保护儿童。我们致力于在整个技术部门并与其他利益相关团体一起采取新的举措。

5. 推动立法，保护人们免受技术滥用之害。显然，其中一些新威胁需要制定新的法律和执法部门做出新的努力。我们期待献计献策，支持世界各国政府的新举措，从而更好地保护人们的网络安全，同时尊重保护言论自由和个人隐私等永恒的价值观。

6. 公众意识和教育。最后，强大的国防需要公众的充分知情。随着²¹世纪第二季度的到来，大多数人都已认识到，不能相信在互联网（或其他任何地方）上读到的一切。好奇心和怀疑精神的完美结合是每个人的重要生活技能。

同样，我们需要帮助人们认识到，不能轻易相信你看到的每一个视频或听到的每一个音频。我们需要帮助人们学会如何辨别合法内容和虚假内容的区别，包括水印196世界之最。这将需要新的公众教育工具和计划，包括与民间社会和全社会的领导人密切合作。

归根结底，这一切都不容易。这需要我们每天付出艰苦但不可或缺的努力。但是，只要我们共同致力于创新与合作，我们相信，我们一定能够齐心协力，确保技术在保护公众的能力方面保持领先。这或许比以往任何时候都更应该成为我们的集体目标。