加州州长加文·纽瑟姆于周日否决了一项加州人工智能安全法案，阻止了全国范围内最雄心勃勃的控制新技术增长的提案。首创的法案S.B. 1047要求在大型人工智能系统或模型向公众发布之前进行安全测试。它还赋予该州的司法部长权利，对因这些技术造成严重伤害（如死亡或财产损失）的公司提起诉讼。并规定在潜在的生物战、大规模伤亡或财产损失的情况下，必须有一个关闭人工智能系统的开关。
纽瑟姆先生表示，法案存在缺陷，因为它过于关注监管最大的人工智能系统，即前沿模型，而没有考虑到技术带来的潜在风险和危害。他说，立法者应该回去重新撰写该法案，以备下届会议讨论。“我认为这不是保护公众免受技术带来真正威胁的最佳方法，”纽瑟姆先生在一份声明中说。“相反，该法案将严格的标准应用于甚至最基本的功能——只要是大型系统部署的。”
这一决定预计会引发一些技术专家和学者的强烈批评，他们一直在推动这项立法。纽瑟姆州长，一位民主党人，面临着强大的舆论压力要求否决法案。该法案在全国范围内引发了关于如何监管人工智能的激烈辩论，最近几周，一大批说客涌向他的办公室，有些人提倡该技术的巨大潜力，另一些人则警告其可能对人类造成不可挽回的伤害。
加州原本有望成为监管这项技术的标准制定者，近年来，随着聊天机器人和逼真的图像及视频生成器的发布，这项技术迅速进入公众视野。在联邦立法缺失的情况下，加州立法机构通过其提案采取了积极制约技术的发展，两院几乎一致通过。尽管全球的立法者和监管机构都对该技术发出了警告，但少有采取行动。国会已经举行听证会，但没有任何立法取得实质性进展。欧盟通过了人工智能法案，限制了面部识别软件等风险较高的技术使用。
感谢您的耐心，我们正在验证访问权限。如果您处于阅读模式，请退出并登录您的《纽约时报》账户，或订阅《纽约时报》以获取全部内容。感谢您的耐心，我们正在验证访问权限。已经是订阅者？登录。想订阅《纽约时报》？订阅。