加州议会推进严厉AI法规,硅谷抗议

2024-06-08 09:18

美国加州议会正推进一项严厉管制人工智能(AI)技术的法案,强制科技公司必须遵守严格的安全框架,包括向有待成立的新州立机构保证,不会开发具“危害能力”的AI模型;开发者亦须设立一个“紧急停止开关”(kill switch),可立即关闭强大的AI模型。但该法案引发硅谷大小企业的不满和抗议,担心可能会给AI开发者带来无法承受的责任风险,有人声称它将逼使AI初创企业离开加州。

“AI造福人类全球峰会”5月底在日内瓦举行,一名参观者向机械人Captcha挥手。

▲“AI造福人类全球峰会”5月底在日内瓦举行,一名参观者向机械人Captcha挥手。

加州州议会正在考虑对在该州运营的科技公司引入新限制的提案,包括三大AI初创公司OpenAI、Anthropic、Cohere,以及由Meta等科技巨头运营的大型语言模型。该法案已于上月在州议会参议院通过,将于8月在州众议院表决。法案要求加州的AI相关企业,向将于加州科技部内成立的部门“前沿模式部”,披露是否符合AI新规例,并保证他们不会开发具有“危害能力”的AI模型,例如用来制造生化武器、核武器,或协助网络攻击。根据草议的《前沿人工智能(AI)系统安全保障创新法案》,开发者必须报告其安全测试情况,并引入“紧急停止开关”来紧急关闭其模型。如果企业不遵守这些要求,可能会被起诉并面临民事处罚。

忧给开发者无法承受责任

但这项法案已引发硅谷的风险投资者、科企创办人、普通员工反弹,担心法案会给AI开发者带来无法承受的责任,他们无法保证自己的服务不被坏人滥用。有人声称它将逼使AI初创企业离开加州,并阻止Meta等平台操作“开放原始码”(Open Source)模型。该法案可能会逼使一些大型AI公司改变其运营方式。

大型公司或改变运营方式

这项法案由非牟利组织AI安全中心(CAIS)共同发起,得到AI先驱辛顿(Geoffrey Hinton)和本吉奥(Yoshua Bengio)的支持,他们担心AI可能对人类生存造成威胁。提出法案的民主党州参议员维纳说:“我希望AI成功,创新继续,但让我们尝试在任何安全风险之前先行一步。”批评者则指责维纳的法案限制过多,给开发者,尤其是小型AI公司的开发者带来了高昂的合规负担。曾在Google和中国百度公司领导AI项目的著名电脑科学家吴恩达说:“它为科幻风险创造了巨大的责任, 因此,任何敢于创新的人都会感到恐惧。”

其中一项激烈批评,是法案损害“开放原始码”模型的开发者(开发者将原始码提供给公众审查和修改),为他们带来无法承受的负担,难以保证其服务不会被坏人滥用。维纳说,他正计划对法案进行修订,“开放原始码”开发者将不对“经过(他人)大量微调”的模型承担责任。

另一项修正是法案只适用于“训练成本至少为1亿美元”的大型模型,因此不会对大多数小型初创企业产生影响。然而,硅谷的一位资深风险投资人表示,他们已经收到企业创办人询问,是否需要因为潜在的立法而离开加州。

相关新闻:

谷歌连本业都做不好?克鲁格曼开炮:有AI更糟,马斯克也补刀

美众院外交委员会通过法案,让政府更易限AI出口

以上内容归星岛新闻集团所有,未经许可不得擅自转载引用。