扎克伯格视频通过AI“深度伪造” 社交网络监管受操纵面临挑战

据CNET报道，刚刚出现在图片分享网站Instagram上的视频显示，Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)似乎正就大数据的力发表简短的演讲。

视频中的扎克伯格称：“试想一下：一个人完全控制着数十亿人被盗的数据，掌握着他们所有的秘密、生活和未来。这都要归咎于Spectre漏洞。它让我明白，谁控制了数据，谁就控制了未来。”

事实上，扎克伯格从未说过这些话。这段视频是通过“深度伪造”(Deepfake)技术制作的，它利用人工智能(AI)创建视频，并伪造目标没有说过的话，这突显出社交网络在监管受操纵内容方面面临的挑战。

扎克伯格的这段虚假视频也可能是对Facebook的一次考验，此前该公司拒绝删除美国众议院议长南希·佩洛西(Nancy Pelosi)的虚假视频。Facebook宣称，该公司不会删除假新闻，但会减少其在网站上的影响力，并显示来自事实核查人员的信息。

Instagram发言人称：“我们将像对待Instagram上所有错误信息一样对待这些内容。如果第三方事实核查人员将其标记为虚假视频，我们将从Instagram的推荐页面(如Explore和hashtag页面)过滤它。”

事实核查机构Lead Stories称这段视频为“艺术”，并在一篇帖子中表示，将这段视频打上讽刺的标签，这不会损害视频的传播。用户将看到警告标签，说明它不是真实的。

艺术家比尔·博斯特斯(Bill Poster)、丹尼尔·豪维(Daniel Howe)与Canny广告公司合作制作了这段视频。他们在Instagram上的帖子中称，这段视频是使用CannyAI的视频对话替代(VDR)技术创建的。

创作者们称，这段视频使用了扎克伯格2017年关于俄罗斯干预美国大选的视频片段。视频的右侧有哥伦比亚广播公司(CBS)标志，标签上写着“扎克伯格：我们正在提高广告透明度。”CBS发言人已经表示，该公司要求Facebook“撤下这一未经授权的假冒CBSN商标”。

Canny公司还曾与博斯特斯合作，制作了唐纳德·特朗普(Donald Trump)总统和金·卡戴珊(Kim Kardashian)等人的假视频。扎克伯格的虚假视频是四天前发布的，博斯特斯没有立即回复置评请求。

这已经不是有关扎克伯格的第一个虚假视频了。早在2018年，电影制作人安德鲁·欧雷克(Andrew Oleck)就曾在Facebook上发布了一段视频，视频中似乎是扎克伯格在说他要删除社交网络，这让许多用户误以为是真的。

与此同时，美国议员们对在2020年美国总统大选中使用深度造假技术感到担忧。美国众议院情报委员会计划于周四就被操纵媒体和“深度造假”问题举行听证会。

这篇好文章是转载于：知行礼动