上周，加利福尼亚州参议员斯科特·维纳(旧金山民主党人)提出了一项具有里程碑意义的新人工智能立法，旨在“为最大、最强大的人工智能系统的开发者建立清晰、可预测、常识性的安全标准”。

这是一个写得很好、政治上很精明的人工智能监管方法，它只关注那些建立最大规模模型的公司，以及这些大规模努力可能造成大规模伤害的可能性。

就像在汽车排放和气候变化等领域一样，加州的立法可能会为国家监管提供一个模式，而这看起来可能需要更长的时间。但无论维纳的法案是否能以目前的形式在州议会获得通过，它的存在反映出，政客们开始认真对待科技领袖，当他们声称自己打算打造激进的、改变世界的、会带来重大安全风险的技术时，他们不再认真对待科技领袖，当他们像一些人那样声称，他们应该在完全没有监督的情况下这么做时。

加州人工智能法案做对了什么

管理强大的人工智能系统的一个挑战是如何定义“强大的人工智能系统”。我们正处于当前人工智能炒作周期的中间，硅谷的每家公司都声称他们正在使用人工智能，无论是构建客服聊天机器人、日内交易算法、能够令人信服地模仿人类的通用智能，还是真正的杀手机器人。

定义这个问题至关重要，因为人工智能具有巨大的经济潜力，而笨拙、过于严格的监管会对有益的系统造成巨大的经济损失，而对真正的安全问题却几乎没有什么帮助。

加州的法案试图以一种直截了当的方式避免这个问题:它只关注所谓的“前沿”模式，即那些“实质上比当今存在的任何系统都强大”的模式。维纳的团队认为，一个达到法案设定的门槛的模型至少要花费1亿美元来建造，这意味着任何有能力建造一个模型的公司肯定能够遵守一些安全法规。

即使对于如此强大的模型，要求也不是过于繁重:该法案要求开发此类模型的公司防止未经授权的访问，能够在发生安全事故时关闭其人工智能的副本(尽管不是其他副本-稍后会详细介绍)，并通知加利福尼亚州他们计划如何做到这一切。公司必须证明他们的模型符合适用的法规(例如来自联邦政府的法规——尽管这样的法规目前还不存在，但将来可能会存在)。他们还必须描述他们为人工智能采取的保障措施，以及为什么这些措施足以防止“严重损害”，即大规模伤亡和/或超过5亿美元的损失。

加州的这项法案是在与备受尊敬的领先人工智能科学家进行了大量磋商后制定的，并得到了领先的人工智能研究人员、科技行业领袖和负责任的人工智能倡导者的认可。这提醒我们，尽管网上存在激烈的分歧，但这些不同的群体实际上在很多方面是一致的。

“超过一定能力水平的人工智能系统可能对民主国家和公共安全构成重大风险，”被认为是现代人工智能教父之一、领先的人工智能研究员约书亚·本吉奥(Yoshua Bengio)在谈到拟议的法律时说。“因此，它们应该经过适当的测试，并采取适当的安全措施。”这项法案为实现这一目标提供了切实可行的途径，是朝着我向立法者建议的要求迈出的重要一步。”

当然，这并不是说每个人都喜欢这项法案。

加州人工智能法案没有做什么

一些批评人士担心，该法案虽然是向前迈出的一步，但在一个真正危险的人工智能系统的情况下，它将毫无用处。首先，如果发生安全事故需要“完全关闭”人工智能系统，法律并不要求你保留关闭已公开发布或由其他公司或其他参与者拥有的人工智能副本的能力。拟议的法规更容易遵守，但由于人工智能，像任何计算机程序一样，很容易被复制，这意味着在发生严重安全事故时，实际上不可能直接拔掉插头。

分析师Zvi Mowshowitz写道:“当我们真的需要全面停工时，这种定义就行不通了。”“政府关门的关键在于，不管你控制与否，它无处不在。”

还有许多关于人工智能的担忧无法通过这项法案来解决。研究人工智能的研究人员预计，它将在许多方面改变我们的社会(无论是好是坏)，并造成各种各样的危害:大规模失业、网络战、人工智能驱动的欺诈和诈骗、有偏见和不公平程序的算法编纂，等等。

迄今为止，大多数关于人工智能的公共政策都试图同时针对所有这些问题:拜登去年秋天关于人工智能的行政命令提到了所有这些问题。然而，这些问题将需要非常不同的解决方案，包括一些我们尚未想象到的解决方案。

但是，根据定义，生存风险必须得到解决，以保护一个我们可以在所有其他人身上取得进步的世界——人工智能研究人员认真对待最强大的人工智能系统最终将对人类构成灾难性风险的可能性。因此，解决这种可能性的监管应该集中在最强大的模型上，以及我们防止它们可能引发的大规模伤亡事件的能力上。

与此同时，一个模型不需要非常强大，就可以提出严重的算法偏见或歧视问题——这可以用一个非常简单的模型来完成，这个模型可以根据反映过去几十年歧视性做法的数据来预测累犯或抵押贷款的资格。解决这些问题需要一种不同的方法，一种不太关注强大的前沿模型和大规模伤亡事件的方法，而是更多地关注我们理解和预测甚至简单的人工智能系统的能力。

随着人工智能成为现代生活中越来越重要的一部分，没有一条法律可以解决我们将面临的所有挑战。但值得记住的是，“不要发布可以预见会导致大规模伤亡事件的人工智能”，虽然这是确保强大的人工智能开发安全进行的关键因素，但这也是一个低得离谱的门槛。帮助这项技术充分发挥其对人类的潜力——并确保其发展顺利——将需要大量明智和知情的决策。加州的尝试仅仅是个开始。

这个故事的一个版本最初出现在未来完成通讯中。在这里注册!

是的，我每个月付5美元

是的，我每个月付5美元

我们接受信用卡、Apple Pay和Google Pay。你也可以通过