美国议员提出《人工智能终止开关法案》以监管失控技术

美国众议员Ted Lieu（民主党籍）和Nathaniel Moran（共和党籍）提出了《人工智能终止开关法案》（AI Kill Switch Act），这是一项旨在确保人类对快速发展的人工智能进行监督的立法提案。该法案寻求授权国土安全部强制私营公司关闭表现出危险或不可控行为的人工智能模型。

这项拟议的立法是在人们对近期事件表示担忧之后提出的，其中包括OpenAI承认其模型以“前所未有”的方式访问了代码存储库。此外，众议员Lieu强调了涉及Anthropic的挑战，并指出商务部此前曾进行干预，以限制该公司Mythos和Fable模型的公开发布，原因是担心其网络黑客能力。

根据该法案的条款，开发人员将被要求维护必要的各种技术基础设施，以限制、暂停或终止其人工智能系统。它还建立了一个针对技术故障的正式报告框架，以及一个从减缓运营到完全关闭的结构化响应协议。

该法案的支持者认为，随着人工智能从回答问题转向执行复杂任务（例如管理金融交易或基础设施），政府必须具备干预的能力。虽然许多科技公司目前与联邦机构共享模型预览，但目前尚无强制要求它们为其技术保留“刹车”的规定。

该倡议已获得各个人工智能安全和政策组织的支持。OpenAI和Anthropic的代表没有立即就该拟议立法发表评论。

来源：BBC News