加利福尼亚州通过AI安全法案，规定必须配备“紧急停止开关”

加利福尼亚州的参议院和众议院已经通过了SB-1047号人工智能安全法案。该法案要求大型AI模型配备“终止开关”，以便在它们构成新的安全威胁时，通过最小程度的人工监督来停止它们。该法案现在等待纽森州长在9月30日前签署。

批评者认为该法案针对的是未来可能的风险，而不是当前的问题，如深度伪造或错误信息。支持者，包括AI先驱杰弗里·辛顿和约书亚·本吉奥，认为这是保护消费者所必需的，将AI监管比作制药和航空航天行业。

斯坦福大学的李飞飞和一群商业领袖反对该法案，担心它可能阻碍开源合作和学术研究。他们敦促纽森否决该法案，称其“根本上有缺陷”。

纽森持谨慎态度，担心过度监管，但同时也关注AI行业领导者的呼吁。他的决定将塑造加利福尼亚州在AI安全和创新方面的方针。