今年，政治选举将在全球各地密集举行，各大社交媒体公司受到压力，要求它们识别深度伪造内容，并阻止虚假信息传播。

TikTok将成为第一个自动标记某些人工智能(AI)生成内容的社交媒体平台。目前生成式人工智能(generative AI)的快速发展加深了人们对在线虚假信息和深度伪造内容传播的担忧。

TikTok以及Facebook所有者Meta等在线集团已经要求用户披露是否借助AI软件制作了逼真的图像、音频或视频。

中国字节跳动(ByteDance)旗下的这款高人气短视频app更进一步，周四宣布将推出自动标记功能，以确保其识别为AI生成视频的内容得到相应标记。这将包括使用Adobe的Firefly工具、TikTok自己的AI图像生成器和OpenAI的Dall-E制作的内容。

“挑战在于，我们从与我们合作的许多专家那里了解到，AI生成的有害内容……正在增加，”TikTok运营、信任与安全主管亚当•普莱泽(Adam Presser)表示。

“这对我们的社区来说非常重要，因为真实性真的是使TikTok成为一个充满活力和快乐的社区的要素之一……社区成员希望知道哪些内容是人类制作的，哪些内容是用AI增强或生成的。”

各社交媒体平台（包括TikTok、Meta、X和YouTube）都在探索将生成式AI集成至其平台的方法，推出聊天机器人以及帮助网红和广告商创建内容的新工具。然而，这些平台已受到批评，被指任由大量AI生成的低质量垃圾内容在平台泛滥，让用户难以招架。

在世界各地扎堆举行重大选举的一年里，这些公司还面临压力，要求它们针对具有误导性的深度伪造内容制定防护措施，遏制隐秘势力的运作，并确保它们在保持无党派立场的同时适当审核内容。

本周早些时候，TikTok及其母公司字节跳动对美国政府提起诉讼，挑战一部旨在强制出售或禁止这款app的法律。立法者声称担心该平台可能会传播虚假信息和宣传内容。

周四，TikTok表示将加入Adobe领导的科技和媒体集团联盟，该联盟将在AI生成产品中纳入所谓的内容凭证。

该技术将数字指纹以及其他识别信息（例如内容的生成时间、地点和由谁生成）嵌入多媒体AI内容。TikTok将使用这些标志物来自动标记使用AI产品制作的内容。

OpenAI周二宣布将加入这个名为“内容真实性倡议”(Content Authenticity Initiative)的联盟，并将指纹识别技术嵌入其图像模型Dall-E 3生成的所有图像。这家ChatGPT开发商表示，最终，在其视频生成模型Sora广泛发布后，它也将把数字指纹嵌入其生成的所有视频内容。

谷歌(Google)、微软(Microsoft)和索尼(Sony)等大型科技公司正在探索将该技术嵌入各自的AI工具。

Meta本月早些时候表示，它将开始检测谷歌、OpenAI、微软、Adobe、Midjourney和Shutterstock等集团插入的隐形标志物，为AI生成的内容贴上“AI制作标签”。这家Facebook的所有者还表示，它正在开发深度伪造检测分类器。

专家们提出，不良行为者或老练的虚假信息组织很可能会使用开源AI生成工具来创建深度伪造内容，这将加大追踪难度，使这类内容逃过数字指纹和水印的标记。

科技公司辩称，他们的努力代表着解决这一问题的第一步。

Adobe总法律顾问兼首席信任官达纳•拉奥(Dana Rao)表示：“这项解决方案的前提是，如果你希望保持透明并与公众进行真实、透明的对话，那么该工具将让你能够在一个所有数字内容都可以被操纵的世界中这么做。”