深度造假冲击主流科技平台，谷歌加入人工智能水印联盟

　　谷歌(Google)周四表示，它将加入一个由Adobe、英特尔(Intel)和微软(Microsoft)等科技和媒体公司组成的联盟，该联盟正在推进一种方法，可以在一段媒体被人工智能创造或改变时发出信号。

　　谷歌表示，它将寻求使用Adobe的一个名为Content Credentials的项目，该项目让创作者有机会在人工智能媒体上添加一个小的“CR”符号。这个符号与媒体编辑的时间、地点和方式有关。它将作为一种元数据形式，指示人工智能编辑，并允许观众验证图像、视频、音频和文档。

　　这个名为“内容来源与真实性联盟”(Coalition for Content Provenance and Authenticity，简称C2PA)的组织并不支持对所有内容实施此类措施，而是将其作为一种方式，让新闻机构和社交媒体平台等机构在人工智能技术快速发展的时代分享可信的数字媒体，人工智能技术可以创造逼真的假媒体，并令人信服地改变真实媒体。

　　Adobe的法律、安全和政策组织负责人、该联盟的联合创始人达纳·拉奥(Dana Rao)说:“我们认为，我们试图解决问题的方式是，首先，我们希望你有能力证明，作为创造者，什么是真的。”“然后我们想告诉人们，如果有人试图告诉你一些真实的事情，他们会通过这个过程，你会看到‘CR’，几乎就像‘好管家’的批准印章。”

　　人工智能技术的发展使以前耗时且技术困难的编辑任务自动化成为可能，将创造合成媒体的能力交到数百万人手中。这为创造性的努力以及包括虚假信息和性虐待在内的更邪恶的努力打开了大门。

　　这引发了一些人的努力，要么控制这项技术，要么在人工智能创造出某种东西时让它变得更清晰。其中一个想法是水印，它旨在增加一些明显的或微妙的信号，从而更容易分辨真假。

　　谷歌已经创建了一套生成式人工智能消费产品，如人工智能聊天机器人巴德，以及人工智能编辑和创作工具。它还拥有YouTube, NBC新闻的一项调查发现，YouTube拥有数百万浏览量的假新闻频道，这些频道使用类似的人工智能工具来制造虚假内容。

　　在谷歌加入C2PA的新闻发布会上，谷歌负责信任和安全的副总裁劳里?理查森(Laurie Richardson)表示:“在谷歌，我们负责任的人工智能方法的一个关键部分是与业内其他公司合作，帮助提高数字内容的透明度。”

　　“这就是为什么我们很高兴加入委员会并纳入最新版本的C2PA标准。它建立在我们在这个领域的工作基础上——包括谷歌DeepMind的SynthID，关于这张图片的搜索，以及YouTube的标签，表示被修改或合成的内容——为人们提供重要的背景，帮助他们做出更明智的决定。”

　　其他加入C2PA的科技公司，比如微软(Microsoft)，也同样创造并投资了消费者生成型人工智能技术。在人工智能普及之前，Adobe本身就是数字媒体编辑工具的先驱，现在Adobe将其整合到自己的产品中，降低了进入门槛，可以大规模地创建复杂的、被操纵的媒体。

　　这些快速发展并非没有后果。在谷歌(Google)和微软(Microsoft)的搜索引擎上，可以在搜索结果的最前面找到名人女性未经同意的露骨性假照片，并输入“深度假”(deepfakes)一词。这些材料，包括人工智能编辑的真实照片和完全人工智能生成的照片，以及利用人工智能“交换”面孔和克隆声音的视频，已经淹没了主流社交媒体平台，并逃避了法律和刑事追索。

　　Rao说，内容认证将有助于在战区等情况下核实有新闻价值的媒体，并指出以色列与哈马斯的战争就是一个持续冲突的例子，人们对在线图像是真实的还是被操纵的产生了怀疑。包括《纽约时报》和英国广播公司(BBC)在内的一些新闻媒体机构已经成为C2PA的成员，而佳能(Canon)等一些相机公司正在将内容认证(Content Credentials)构建到自己的技术中。

　　拉奥说:“媒体素养是关键。“我们需要的文化变革是验证，然后是信任。”