精准镇压:新科技将让独裁者如虎添翼

毫无疑问,1984所描述的社会正在到来。

多年来,中国政府一直在花钱雇佣所谓的“五毛党”(成千上万名假装回贴的水军)在网上发布支持政府的讯息,转移网上批评者的注意力。未来,机器人将替代这些“政府雇佣军”的工作。

这些越来越狡猾的机器人将与其他新工具一起工作,方便独裁政权传播虚假信息。这些新工具包括“deep fakes”——无法与真实音频、视频或图像区分开来的伪造音像。音频伪造品目前已经非常完善,可以骗过很多听众: Lyrebird公司称自己可以做出“世界上最逼真的人造声音”。Lyrebird等多家公司的语音合成系统,仅需一分钟的原声录音就能生成听上去与讲话者无差别的音频。

很快,视频技术也能发展到这个程度。在YouTube上,我们已经看到了男演员史蒂夫·布什密(Steve Buscemi)和女演员珍妮弗·劳伦斯(Jennifer Lawrence)令人不太舒服的合成脸,也看到了中国公司科大讯飞(iFlytek)发布的一段不甚完美的视频,视频中特朗普(Donald Trump)和奥巴马(Barack Obama)都在讲着流利的普通话。这样的伪造视频将很快逼真到令人不寒而栗的程度。达特茅斯大学(Dartmouth)的计算机科学教授Hany Farid认为,防守者在这种形势下将“处于劣势”。“开发技术来操纵内容的人数可能是监测虚假内容的人数的100到1,000倍。”今年1月,他对皮尤研究中心(Pew)表示:“突然之间,我们就能说什么都是假的。那我们还能去相信什么吗?”

Source: 精准镇压:新科技将让独裁者如虎添翼 – 华尔街日报