名人实测 AI“变声”骗人有多像?旅游达人:语气好像我

2023-12-19 09:19

《星岛申诉王》早前踢爆有骗徒利用AI人工智能模拟声音技术进行诈骗,惟当时有科技专家指,模拟英语声音技术较先进,模拟广东话没那么成熟。《星岛申诉王》今次与一间专门提供网络保安的跨国公司合作,邀请IT专家挑战这个模拟广东话技术难关,AI模拟著名股评人胡孟青“青姐”,以及经常带观众“潮什么”的旅游达人梁芷珮(Christy)声带,事前记者获得两人同意,复制她们声线去模拟一段诈骗录音,看看效果如何。

经过AI处理后,两条声音分别产生。胡孟青的模拟对白是“大家好,多谢大家一直支持青姐。老实说,我在股市都赚够了,可能之后都会集中做教育和培训,希望帮大家赚到一点钱。我今天公开一隻股票号码,编号1234,这股票庄家我是认识的,接下来应该会大升,大家有兴趣的话可以买少少。我退休了,应该不会再做股评人,如果想再交流,可以进入以下群组。”

《星岛申诉王》细听AI“青姐”,发现声线有7、8分相像。惟真青姐听过AI声线后点评说:“它的声音是平的,我说话的时候声音不是这样平的,他们想学我!因为我出了名说话没有尾音,但现时出来的声音,是好像不够气,认识青姐的人,也知道我很够中气,而它就好像中了COVID之下的青姐状态。人工智能学到音调,但它学不到那种神韵,神韵很难学的。”

《星岛申诉王》持续跟进骗徒利用科技诈骗的现象。

▲《星岛申诉王》持续跟进骗徒利用科技诈骗的现象。

接下轮到Christy。她近年开办旅行社,并亲身带团,所以《星岛申诉王》模拟骗徒利用这一点来行骗,对白为“大家好,我是Christy梁芷珮。你想跟我一起出团玩、一起‘潮什么’吗,立即点击以下的连结吧。”

Christy听过模拟她声线的录音后表示:“我觉得语气很像,但声线不太像,只是语气像。”她表示现在办旅行社,已不是靠门市逐一见客,而是透过电话或WhatsApp确认所有交易。如果有人模拟到她的声音,欺骗对方直接存款,对于她们这类旅行社可能有很大影响。

Nick sir表示,青姐的访问一般很长,所以要拿她的声音做“模”很简单,效果亦较好,相对Christy每个访问较短,又夹杂其他人的访问及英语,会影响效果。

▲Nick sir表示,青姐的访问一般很长,所以要拿她的声音做“模”很简单,效果亦较好,相对Christy每个访问较短,又夹杂其他人的访问及英语,会影响效果。

今次实验模拟了两条声音,效果有点分别。以声论声,AI模拟青姐的效果稍胜模拟Christy,该公司网络保安主管Nick Sir有以下解释:“青姐的访问一般很长,所以要拿她的声音做‘模’很简单;相对地Christy那个难度高一点,因为她每个访问只有10分钟或更短时间,中间又夹杂其他人的访问及英语,因此效果会有点影响。”

诈骗大趋势,AI换脸写诈骗电邮

鉴于近年人工智能技术(AI)愈趋成熟,有机会成为犯罪行为的辅助工具,当中利用“深伪技术”(Deepfake)换脸,“深伪技术”是透过收集个人样貌、声音等生物特征,再合成或修改影片,假扮成受害人亲友与其视像通话,目的是更容易接近受害人而已,之后的行骗过程均与其他骗案相似;警方提醒市民跟人通电话,或者进行视像通话时,就算觉得对方声线与自己亲友有多相似,都不能够排除被骗的机会,应尝试从对话内容,例如说一些亲友之间才知道的资讯,从而核实对方身份的真假。

人工智能相关骗案防罪贴士:

  • 要求对方在镜头前做指定动作,如手指于脸上横扫、头部上下左右转头等

  • 提出个人问题测试对方身份真伪

  • 切勿轻易提供人脸、指纹等生物辨识资料

  • 提防亲友在视述或录音中提出汇款要求

  • 避免接听陌生视像通话来电

Nick Sir指,近年不少骇客都会用AI技术配合诈骗,入侵企业的电脑系统。“在网上搜寻你的个人资料,用大数据学习后,找到你有关係的朋友,再用这些资料去做一个AI的诈骗,成功率就会大大提高。骇客普遍瞄准一些大公司高层,把他们背景以至子女的名字都找到了,放在电邮内容,令他们的同事及朋友,戒心因而降低。”

Nick Sir表示,企业电脑一旦遭到骇客入侵,后果可以很严重,部分企业愿意支付赎金,换取骇客解锁,但他认为骇客随时有机会在系统内埋下“后门”,准备下次再勒索,建议企业做好预防工作。“其实很大部分的已知案件,接近9成是经过电邮入侵,所以在电邮安全做了足够防范,已经很大程度保障到公司。”

更多防骗指南,尽在星岛环球网:

微信新型诈骗!奸招假扮至亲讯息,女子回复“老公”痛失¥4900

支付宝电邮也有假?做错1步即被骗,教5招分辨官方电邮

550元享受4星级酒店包两餐?揭露诈骗套路,3招引人上钩

内地人办香港电话卡可赚钱?当心卷入电信诈骗!

利用小孩骗钱?!3大新型诈骗手法曝光,长者心软易中招

以上内容归星岛新闻集团所有,未经许可不得擅自转载引用。

热门文章