☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

据 CNBC 报道，当地时间 28 日，代表硅谷选区的民主党联邦众议员罗·康纳正筹备提交一份聚焦人工智能监管的关键性法案。该提案中最严苛的条款明确指出：在联邦政府建成可靠的安全防护体系、并由监管机构正式批准前，任何 AI 模型均不得实施递归式自我优化，亦不得擅自修改自身的核心目标函数、安全约束机制或紧急关停协议。

建新监管机构、强制独立审计，连芯片也要管

康纳将这项立法命名为《人类控制 AI 法案》。他在接受采访时强调：“文明级灭绝风险是切实存在的。我们必须同时严肃对待失控隐患与恶意滥用可能。”依据法案构想，所有前沿 AI 研发活动须先通过联邦层面制定的规则框架，并获得监管主体书面许可；在此之前，模型的自主演化能力将被法律强制冻结。

为保障落地实效，法案拟设立全新联邦级 AI 安全监管机构。该机构将主导制定技术安全规范，采用许可制管理模型训练与上线流程，并对高风险前沿模型开展常态化第三方审计、设定动态安全阈值，确保系统始终处于可验证、可干预、可终止的人类主导状态。每家具备前沿模型研发能力的实验室，还须配备专职独立审计人员，且其汇报线直通该新设监管机构。

该机构还将发布一份具象化“安全基础设施清单”，包括：受控沙盒测试环境、测试系统与公网的物理级隔离措施、一键式紧急停机开关，以及防止模型突破实验室边界后在开放网络中自主运行的多重围堵机制。甚至实验室所持有的先进计算芯片也将被纳入监管范畴，建立芯片流向追踪与使用合规审查机制。

出事即追刑责，关护栏=犯罪

在问责机制上，法案同样采取零容忍立场。若已部署的 AI 系统造成大规模平民伤亡或社会功能崩溃，相关行为将被定性为“危害人类罪”，涉事主体须承担刑事责任。企业内部人员若擅自禁用防护模块、切断紧急关停通路、删除运行日志或绕过遏制系统，或明知某系统未获授权仍推动其上线运行，均属刑事犯罪。此外，任何企业欲公开发布模型，必须先行投保覆盖广泛潜在风险的责任保险。

康纳表示，这是目前全球范围内提出的“最系统化的 AI 安全立法方案”，其核心逻辑主要源自他与多家独立非营利 AI 安全研究组织的深度对话，而非科技巨头高管的游说主张。“我希望它成为行业基准模板，真正赋予 AI 安全界制度性话语权。长期以来，他们被误读为只在讨论科幻情节，从未获得应有的政策重视……这场关乎人类未来的安全对话，理应由安全专家来引领，而不是由前沿实验室的商业负责人来定义。”