AI 既能看出 92% 的假新闻,也能写高品质假新闻

你对假新闻司空见惯了吗?一张真假难辨的图片,一个在现实和虚假间游离的故事,这会让你难以分辨事实的真相。久而久之,在习惯用质疑的眼光看一切的你看来,真新闻也像假新闻,假新闻也有真事实。

而在今天,假新闻不仅由人类产生,机器也可以生产出令人信服的假新闻。随着时间的推移和技术的发展,这种情况只会变得越来越普遍,并且可能更有破坏性。

真真假假分不清,不如「以毒攻毒」,用 AI 来检测 AI 写的假新闻,这个检测假新闻的 AI 就是 Grover。

AI 既能看出 92% 的假新闻,也能写高品质假新闻

Grover 从 Google 新闻上 5,000 个不同媒体撰写的新闻中进行学习。在这过程中,它接收了 120 千兆位元的真实新闻文章,并用这些文章进行训练,最终 Grover 分辨人和 AI 写的故事的正确率是 92%。在此之前,最好的假新闻辨识器的正确率是 73%。

Grover 之所以能如此有效地发现虚假内容,是因为它也非常善于自己製作内容。毕竟造假大师和鉴假大师之间只有一线之隔。

华盛顿大学教授和论文的共同作者 Yejin Choi 在一份新闻稿中表示,辨别假新闻的 Grover 在假新闻撰写编造上也远比他人得心应手。「在我们的研究中,我们发现 Grover 的假新闻内容远比我们人类同胞写的新闻更可信,这个事实说明了自然语言生成的发展程度──以及为什幺我们需要努力克服这种威胁。」

AI 既能看出 92% 的假新闻,也能写高品质假新闻

Grover 研究团队。

这个擅长打假也擅长造假的 AI 还有能力模仿特定媒体的风格,甚至是特定作家的风格。之前,Grover 生成的一篇假新闻就模仿了《纽约时报》专栏作家 Paul Krugman 的文章风格。不过研究人员也表示,即使是最好的人工智慧假新闻,所做的一切依然基于学习得来的风格和语调,而不是对语言和世界的真正理解。因此,只要我们有耐心,我们可以从原作者浩如烟海的文章中找到 Grover 模仿的痕迹。

研究者们将 Grover 的展示结果放在网路上,每一个人都可以用它写些天马行空的假新闻。Fastcompany 的编辑就用它写了一个《为什幺川普一天要做 100 个伏地挺身》的怪诞文章。面对这种专业编辑都有点束手无策的文章,Grover 的表现也蛮出色:

AI 既能看出 92% 的假新闻,也能写高品质假新闻

虽然只有短短两段内容,但我们也可以看出 Grover 对川普性格和言论的掌握和本人性格非常相似。撇开令人啼笑皆非的新闻主题,可能真的会有不少人相信这条新闻。

Grover 论文的第一作者 Zellers 表示:「儘管书写看起来很流畅,但 Grover 和其他神经语言生成器所写的文章包含了机器独有的语言怪癖,这暴露了它们的机器起源。」这些语言不畅之处类似于神经文本生成器的签名或浮水印。Grover 知道去寻找这些「浮水印」,这使得它在挑选人工智慧创造的故事时更为高效。

Grover 依然需要进化,虽然它已经比同行做得更加出色了,但它依然还有无法辨识的 8% 假新闻。

随着人工智慧变得越来越複杂,用 AI 抵御 AI「製造」可能是我们能够採取的最佳手段。

上一篇: 下一篇:
随机文章Random article
图文排行Image & Text rank