AI合成影像技术逐渐普及,专家忧轻易伪造色情影片

2023-04-17 13:51

利用人工智能(AI)生成影像的技术正逐渐普及,并已出现在艺术创作、时装设计等领域,专家担心,这类技术结合“深伪”(deepfake)之后,不法之徒可以轻易将女性公众人物的脸庞拼凑到裸体,届时将导致人人自危的局面。

AI

▲利用深伪技术、通过人工智能生成的色情片,可更容易将公众人物的脸移花接木到演员的片段。网上图片

美联社报道,“深伪技术”的原理是透过人工智能或机器学习,从而创建、更改照片和录影,以此制作的色情电影数年前已在互联网上传播,当时网上论坛Reddit便有用户发帖,表示自己可将女性名人的脸,移花接木与色情演员的胴体结合。

评论形容,这对无数女性来说都如同恶梦,无论是影星、歌星、记者、网红甚至普通人,留在网上的图像和片段都会成为加工的素材,部分人可以藉此制成色情内容图利,前度伴侣也可以此报复。

对抗网上骚扰的民间组织EndTAB表示,“深伪技术”只要继续发展并且普及,有心人就可轻易捏造不良图像,难度和“按下按钮一样”。机构创办人道奇(Adam Dodge)预料,这个情况一旦出现,注定会有人滥用技术,通过深度伪造的色情内容、伪造裸照来伤害他人。

真实案例显示,澳洲的28岁女子马丁(Noelle Martin)10年前出于好奇,曾用谷歌搜索自己的照片,结果赫然发现贴上自己面容的伪造色情片。马丁表示,直到今天也不知道幕后黑手的身分,怀疑有人挪用她在社交媒体的照片,随后改成色情内容。

分析表示各国虽然尝试立法,但网络世界只会道高一尺魔高一丈。与此同时,研发ChatGPT的OpenAI公司表示,将限制用户创建这些图像,防止公众人物受害,短视频平台抖音则称,已经收紧内容规则,所有“深伪技术”生成的片段都必须添加标签。


热门文章