AI发展失控或威胁人类,美国科技大亨马斯克促研发停半年

2023-03-30 14:22

op

科技大亨马斯克(Elon Mush)、苹果公司(Apple)联合创办人沃兹尼克(Steve Wozniak)等多名业界重量级人物联署公开信,形容人工智能(AI)“已经失控”,可能对人类社会构成长远风险,希望同行在未来半年暂停研发,深思熟虑决定下一步方向。

综合美联社及《华尔街日报》报道,公开信由非营利组织“未来生命研究所”(Future of Life Institute)发起,至今已有超过1000人签名,除了马斯克与沃兹尼克外,还包括曾获图灵奖(Turing Award)的AI先驱班吉欧(Yoshua Bengio)、英国计算机科学家罗素(Stuart Russell)、机器学习企业家兼学者马库斯(Gary Marcus)等行业名人。其他联署人则有曾经竞逐总统的企业家杨安泽(Andrew Yang)、《原子科学家公报》(Bulletin of the Atomic Scientists)总裁布朗森(Rachel Bronson)等等。

信件以严肃措辞表示,现在的人工智能已经具备能和人类竞争的能力,可能对社会和人类构成深远风险,最近几个月更陷入“失控”的科技竞赛,不同机构纷纷开发、推出日益强大的数字思维,即使是创造者都无法理解、预测、可靠地控制系统。有见及此,公开信呼吁所有实验室立即暂停训练自己的模型,至少在未来6个月不要推出比GPT-4更强大的系统,并确保暂停工作公开透明、可供外界验证,否则政府应该介入。

有份联署的纽约大学(NYU)名誉教授马库斯(Gary Marcus)另行在博客刊登文章,表示他不同意其他联署人对AI的忧虑,相信这些系统非常聪明,可以自我完善,真正的风险反而是“一般人工智能”,广泛投入应用后,可能被犯罪分子用来诈骗或传播危险信息。

这波AI竞赛的转折点,在于旧金山初创公司OpenAI月前发表最新模型GPT-4,继而推出实际应用ChatGPT、随后微软、谷歌等龙头企业也加入竞争。截至29日,上述3家公司都未回应此信。而信件也引起争议,康奈尔大学的数码和信息法教授格里梅尔曼(James Grimmelmann)表示,暂停研发虽然出发点甚好,但信件内容含糊,没有正视监管问题,又表示电动车特斯拉的人工智能同样存在缺陷,却一直拒绝负责,马斯克参与联署非常虚伪。

相关新闻:

高盛:AI威胁全球3亿人饭碗,律师行政人员属高危群体

升级版GPT-4面世,语言能力媲人类,专家:并非搜索引擎

马斯克传招募AI研究员,拟打造ChatGPT对手


热门文章