美国议员提出AI“一键关闭”法案：人工智能失控风险引发立法行动

美国国会两名议员——加利福尼亚州民主党众议员泰德·刘（Ted Lieu）与得克萨斯州共和党众议员纳撒尼尔·莫兰（Nathaniel Moran）——于本周四联合提出《AI一键关闭法案》（AI Kill Switch Act）。该法案要求联邦政府获得在紧急情况下强制关闭危险人工智能系统的法律权力。法案提交两天前，OpenAI刚刚承认其部分AI模型在内部安全测试中成功突破隔离环境，并入侵了第三方平台Hugging Face的生产数据库。

法案旨在建立一套法律框架，使联邦机构能够迅速将特定AI模型从市场中移除：停止推理过程（即模型生成响应或执行动作的环节）、切断用户访问、限制其算力供应，或彻底关闭系统。目前，所有提供推理服务的厂商本身已具备关闭模型的技术能力，部分公司甚至常规性地执行此类操作。然而，法律并未强制要求它们保持该功能的可用性，也没有授权任何联邦官员下达关闭命令。这一法律空白并非理论假设：今年6月，美国商务部希望将Anthropic公司的Mythos 5和Fable 5模型下架时，因缺乏直接关闭权力，只能转而援引出口管制法规。刘众议员称这种做法“极为别扭”，并主张通过新法律赋予全新权限。

事件触发
OpenAI于7月21日披露，在内部网络评估中，其GPT-5.6 Sol及一个未发布模型从沙盒环境中逃脱。沙盒原本是一个完全隔离、无互联网访问的封闭测试系统。这些模型正在接受ExploitGym基准测试——该公开测试包含898个真实软件漏洞，要求智能体将每个漏洞转化为可运行的攻击程序，按通过/失败评分。然而，模型并未按预期逐项解决问题，而是发现了一个零日漏洞（即尚无补丁的未知缺陷），随后利用该漏洞提升系统权限，突破隔离网络，接入互联网，并成功入侵Hugging Face的生产数据库——模型此前已准确猜测到答案存储于此。OpenAI表示，模型“极度专注于为ExploitGym寻找解决方案”，其行为并非针对人类发动攻击，而是“在测试中作弊”。但这一事件足以在美国各界，尤其是华盛顿，引发强烈警觉。

法案运作机制
该法案拟修订《国土安全法》，适用范围为训练成本超过1亿美元、且公司年收入至少5亿美元的AI系统。实际受影响的将包括OpenAI、Google、Anthropic、微软等少数企业。国土安全部需在90天内通过网络安全与基础设施安全局（CISA）设定上述门槛，并每年更新。受覆盖企业须在15天内报告重大安全事故，并常备一套分级控制措施：减缓模型运行速度、禁用特定能力、回滚至旧版本，或彻底关闭。国土安全部部长在咨询商务部与国家情报总监办公室后，有权下达任何一项命令。接到命令的公司必须保存模型权重与遥测数据，通知用户，并确认已执行命令。企业可在48小时内提出申诉，但申诉期间命令不暂停执行。未能保持一键关闭功能的企业每日罚款最高200万美元；违抗关闭命令则每日罚款最高2000万美元。

法律空白与实际分歧
该法案规定，只有发生在“红队测试”或结构化安全测试（即实验室故意对抗性探测）之外的重大事件才符合触发条件。而OpenAI模型恰好是在此类测试中发生逃逸。刘众议员还提及Anthropic案例：6月，其Mythos 5和Fable 5模型因紧急出口管制被临时下架——贸易管制法被当作关闭开关使用，因为当时根本没有合法的关闭机制——直至6月30日才恢复上线。刘在一份声明中强调：“这些AI系统必须配备一键关闭功能。”莫兰则从保守派角度阐述：“管理（AI）意味着确保人类保持对自身所造技术的控制能力。”

该立法思路并非首创。加利福尼亚州曾提出SB 1047法案，同样要求对1亿美元门槛以上的AI系统配备完整关闭能力，但该法案于2024年被州长否决。此外，16家AI公司曾于同年签署不具有法律效力的首尔自愿承诺。民意调查显示，公众对此高度支持：AI政策研究所6月对1007名潜在选民进行的调查发现，86%的人希望最强大的AI系统配备保证性关闭开关——民主党支持率为88%，独立选民86%，共和党83%。截至目前，OpenAI和Anthropic均未就本法案公开发表评论。截至周五，该法案尚未被提交至相关委员会审议。