“有图有真相”已过时，今日即使收到亲人样貌的影片，也要质疑其真实性。有从事AI行业的专家向《星岛》透露，因AI的快速进步，诈骗情况正出现本地化、精准度高及实时性强的趋势，更指“传统上诈骗集团需要大量人力资源来实施骗局，但AI技术大幅降低这些成本，让诈骗变得更容易、更普及”，例如传统的阻断式攻击每小时需100元美元成本，但现在透过AI及自动化，仅需其十分之一价格。

▲伍鸿荃表示，骗徒可在视像会议中，利用AI技术将自己的脸换成目标人物，令受害人上当。

▲Microsoft报告指出，AI驱动安全措施已协助阻止了40亿美元的诈欺企图。

▲杨广泽指，AI降低技术门槛，让诈骗更易发生。

有人AI伪造全红婵卖蜂蜜

网络安全公司Amidas行政总监伍鸿荃表示，大语言模型已打破地域限制，诈骗内容变得更像本地人所写，几乎没有语言差异，而且诈骗电话和讯息变得更有针对性、更精准。不但如此，AI技术还能进行实时语音对话，只需几分钟的语音样本，就能实时模仿目标声音。

举例而言，上月有内媒指奥运冠军全红婵被非法商家使用其赛后接受采访和家人直播的画面，用AI合成相应声音，将内容窜改为介绍土蜂蜜等商品。其后全红婵父亲辟谣指，有人用AI伪造一家人声音卖蜂蜜，但他们也没办法。

开源大模型或增恶意用途

事实上，随着AI工具收费越趋便宜，且越来越多开源大模型，将可能出现更多恶意用途。伍鸿荃表示，不少AI模型如Copilot、ChatGPT等都有不允许用户作恶意用途的限制，但也有人能从开源途径获得模型，并改写某些程序，令其变为特殊修改版，以及用于生成恶意软件。

透过这些特殊AI模型及自动化操作，不法份子大幅降低发送钓鱼邮件、恶意攻击的成本，伍鸿荃认为，传统的阻断式攻击成本可以大减90%；同时钓鱼邮件和恶意攻击受低成本鼓动，令数量大幅上升，企业IT部门的防范工作量亦同步增加。因此，不少企业也需要用AI工具对抗AI诈骗。

AI分类钓鱼邮件快人类50倍

通过AI深度学习技术，企业IT部门可提高网络钓鱼侦测的效率。Microsoft报告指出，AI驱动安全措施已协助阻止了40亿美元的诈欺企图。此外，伍鸿荃指使用Security Copilot等AI平台可协助安全分析，将钓鱼邮件进行分类筛选，简单的就交由AI处理，并可提供初步诊断和应对建议；若安全警报系数较高，则交由IT部门处理。

他又指，分析师以手动审核一封电子邮件可能需要超过25分钟，亦即在8小时内只能处理约15至20封可疑电子邮件，但若使用AI驱动的网络钓鱼侦测，其可在30至60秒内对网络钓鱼电子邮件进行分类，比人类速度快50倍左右。

AI换脸可用于视像会议 曾有受害者被骗两亿

AI技术不只可模仿声音外，换脸技术亦日益精湛。伍鸿荃表示，骗徒可在视像会议中，利用AI技术将自己的脸换成目标人物，令受害人上当。事实上，本港警方亦曾公布，有骗徒利用深伪技术（Deepfake）假冒他人与受害者进行视讯，骗取了2亿元巨款。

伍鸿荃更认为，不用多久时间，将会出现有AI智能体模仿真人进行实时视像沟通，完全不需要真人操作。

几分钟可生成诈欺网站

另一方面，据Microsoft近期关于AI驱动的欺诈威胁报告显示，以往骗徒需花费大量时间才建立一个看似真实的网站，但现在透过AI，即使只有最低限度的技术知识，亦可在几分钟内生成电子商务诈欺网站。

有关诈骗网站通常会模仿合法网站，用AI做出虚假产品说明、图片和评论，让消费者以为是真正的商家；还会用AI聊天机械人应付客户投诉，拖延退款时间，预先编写借口和AI生成回覆，让假网站看起来很专业可信。

AI实用教学信息平台DotAI行政总裁杨广泽回忆指，自己在帮会计师楼客户重新搭建网站时，亦曾发现有非法份子仿效了原本网站，制作了一个假冒网站。他表示，“这种模仿范围不仅限于网站，还包括社交平台Instagram等，都很容易被仿制，其实归根到底是品牌与信息安全的问题，但AI降低技术门槛，让这些问题更易发生。”

以上内容归星岛新闻集团所有，未经许可不得擅自转载引用