人工智能（AI）发展一日千里，发展迅速的同时引发了诸多争议。日前，人工智能领域最具影响力的四家公司将联手成立行业机构，负责监督该领域最先进模型的安全开发。

Google、微软、OpenAI及Anthropic将组建“前沿模型论坛”（The Frontier Model Forum），该行业组织将专注于“安全、负责任地”开发人工智能前沿模型。微软总裁布拉德．史密斯（Brad Smith）表示：“开发人工智能技术的公司有责任确保其安全性及可靠性，并使其始终处于人类控制之下。这一倡议希望将科技界团结起来，负责任地推进人工智能发展并应对挑战，从而造福全人类。”“前沿模型论坛”成员表示，其主要目标是推进人工智能安全方面的相关研究，如制定评估人工智能模型的标准、与政治家和学者探讨人工智能的安全风险、帮助探索人工智能在气候问题及癌症检测等多领域的积极作用等。

AI技术今年以来大爆发，凭借强大的算力和学习能力，能准确、快速地处理资料，以获得即时结果。如借助AI系统，医生可以花更少的时间研究数千次眼部扫描，并可以在几秒钟内帮助诊断患者的病情。此外，为执行特定任务而构建的AI可以避免人类易犯的错误，在未来用于为人们的许多自动化服务提供动力。

但同样的，随着AI日趋成熟，骗徒开始利用AI伪造出以假乱真的效果来诈骗，令人防不胜防。眼下，“深伪技术”诈骗手段正在欧美蔓延。所谓“深伪技术”，是透过AI作深度学习的方法，模拟特定受害人的多角度面部特征和声音，然后将脸容移花接木地替换到任何影片上，再以声音合成器预先录制好一段录音，便轻易制作出一段相当逼真的片段，再向“目标”人物发出虚假紧急求助电话，骗取金钱；或冒充名人向“目标”推介虚假投资产品骗财。尤其，现在只需一部电脑或智能手机，在网络下载软件，利用几张照片，便可迅速伪造影片，犯罪成本极低。电骗党将AI技术和诈骗手法深度结合，打破了很多人向来眼见为凭、耳听为证的心理防线。普通民众一要加强个人讯息保护。二要向家中长者灌输时刻保持警觉、做好查证工作的意识。因被骗的大多是长者，而长者往往是科技盲，当骤眼看到“深伪技术”影片，可能会即时被影片中的逼真影像所蒙骗。

AI作为工具，本身并无好坏之分，重要的仍是掌握它的人如何使用，人工智能还需要人工控制。

以上内容归星岛新闻集团所有，未经许可不得擅自转载引用。