防AI以假乱真扰乱选举,2024大选远未作好准备

2023-05-15 16:14

随着人工智能(AI)技术越趋强大、普及,成本也相对低廉,电脑工程师及政治人物纷纷警告,AI工具可在几秒钟之内复制人类声音,或者创建超级逼真的图像、视频和音频,藉此愚弄选民影响选举,再结合社交媒体的演算法之后,可以更快、更广泛地将谣言传送给目标民众。

▲分析指出,AI技术有可能加剧竞选的肮脏把戏,生成式AI可快速生成有针对性的竞选电邮、文本或视频,还可能大规模破坏选举。 美联社

美联社报道,专家预料AI技术投入应用后,将为选举阵营提供新的抹黑工具,而且会影响2024年选举,前景令人不安。分析表示,现在的系统已能快速生成针对性的文宣内容,包括电邮、单张或视频,因此可大规模破坏选举。网络安全公司ZeroFox的副总裁纳什(A.J. Nash)便警告,全美对此并未做好准备。

AI专家举例说,假如选举阵营有意,可用AI混淆视听、诽谤竞选对手甚至煽动暴力,譬如模仿对方参选人的声音,要求选民在错误的日期投票、承认自己犯下某些罪行、发表种族歧视等争议言论,又或者捏造对方的演讲或受访片段,以及伪造新闻报道,谎称某人已经退出选举等。

对此,艾伦人工智慧研究所(Allen Institute for AI)的创办人埃齐奥尼(Oren Etzioni)表示,假设有人冒充科技大亨马斯克(Elon Musk),并且亲自打电话给特定选民,游说民众投票支持某些候选人,普通民众未必能分辨真假。

在实际例子中,前总统特朗普12日也确实在其“真相社交”(Truth Social)平台,分享了一段以AI制作的视频,并且在当中歪曲CNN主持人库珀(Anderson Cooper)的反应,让人感觉库珀赞赏特朗普上周的论政节目。其他AI生成的政治虚假信息也在网上疯传,包括宣称拜登批评跨性别民众,以及执法部门逮捕特朗普等等。而在本月较早时,首都华盛顿的一政治顾问行业协会表态,谴责政治广告使用换脸技术Deepfakes如同欺骗。

为了遏止这些现象,来自纽约的民主党籍众议员克拉克(Yvette Clarke)已在国会提案,要求政治参选人使用AI创建的竞选广告时,必须附加标签,任何参选人使用AI合成的图像时,也需在图片添加水印。

以上内容归星岛新闻集团所有,未经许可不得擅自转载引用。

相关阅读
热门文章