美国AI政策从'安全”到'安全”急剧旋转

President Donald Trump rescinded former President Joe Biden's AI Executive Order on day one of his term (disclosure: I served as senior counselor for AI at the Department of Homeland Security during the Biden administration), and Vice President JD Vance opened up the Paris AI Action Summit, a convening that was originally launched to advance the field of AI safety, by firmly stating that he was not actually there to discuss AI safety and would instead be addressing “AI opportunity.”万斯继续说，美国将“保护美国人工智能”，并阻止对手获得“威胁我们所有人民”的AI能力。

如果没有更多的背景，这些听起来像是毫无意义的流行语 - AI安全和AI安全性有什么区别，这种转变对继续采用AI的消费者和企业意味着什么？

简而言之，AI安全主要集中于以道德和可靠的行为方式开发AI，尤其是在高风险环境（例如招聘或医疗保健）中使用时。为了帮助防止AI系统造成伤害，AI安全立法通常包括风险评估，测试协议和对人类监督的要求。

相比之下，人工智能安全并不是要建立道德和安全的AI。相反，它假设美国的对手将不可避免地以恶意方式使用AI，并试图捍卫美国资产免受故意威胁，例如竞争对手被竞争国家利用AI来针对美国关键基础设施。这些不是假设的风险 - 美国情报机构继续追踪中国，俄罗斯和朝鲜的进攻性网络运营。为了应对这些类型的故意攻击，组织需要强大的网络安全实践基线，这也解释了AI提出的威胁。

这两个领域都很重要且相互联系 - 那么为什么最近几个月似乎黯然失色呢？我猜想，优先考虑AI安全性与当今外交政策的氛围本质上更加一致，其中最流行的世界观是对地缘政治和经济优势国家中无情竞争的现实主义描述。优先考虑AI安全旨在保护美国免受对手的侵害，同时维持美国在AI中的全球统治地位。另一方面，人工智能安全可能是有关言论自由和不公平偏见的政治辩论的避雷针。给定AI系统是否会造成实际伤害的问题也取决于上下文，因为在不同环境中部署的同一系统可能会产生截然不同的结果。

面对如此多的不确定性，再加上关于真正构成公众伤害的政治分歧，立法者一直在努力证明通过安全立法的合理性，这可能会阻碍美国的竞争优势。中国人工智能公司DeepSeek的消息以大幅降低的成本与我们的AI模型达到了竞争性能，仅重申了这一举动，这使人们对美国和中国AI能力之间稳步减少的差距稳定减少。

当联邦安全立法的幽灵不再笼罩着时，现在会发生什么？ Openai ， Anthropic和其他人对特朗普政府即将发布的“ AI行动计划”的公众评论提供了有趣的图片，说明了AI优先事项的变化。首先，“安全”几乎没有出现在行业的意见书中，在提到安全问题的地方，它们被改造为国家安全风险，在美国争夺中国的竞争中可能不利。通常，这些提交规定了一系列对创新友好的政策，从平衡的AI培训版权规则到对半导体和其他有价值的AI组件（例如模型权重）的导出控制。

除了试图满足特朗普政府在AI上的最初消息传递的精神外，这些意见似乎还揭示了公司认为美国政府在AI方面的作用应是什么：资助基础设施对进一步的AI开发，保护美国IP，保护AI的基础设施至关重要，仅在威胁我们国家安全的范围内对AI进行监管。对我来说，这对AI公司的策略转变不仅仅是通信转变。如果有的话，这些行业的这些评论似乎比以前要求强大而全面的数据立法的呼吁更加与众不同。

即使那样，并不是该行业中的每个人都支持对我们AI主导地位的无人驾驶措施。在他们的论文《超级智能策略》中，三种著名的AI声音，埃里克·施密特（Eric Sc​​hmidt），丹·亨德里克斯（Dan Hendrycks）和亚历山大·王（Alexandr Wang）建议谨慎谨慎，以追求曼哈顿项目风格的推动超级智能AI的推动。作者相反，提出了“相互保证的AI故障”或Maim，这是一种防御战略，让人联想起冷战时代的威慑，这将有力抵抗任何以国家领导的努力来实现AI垄断的努力。

如果美国要采取此策略，则需要禁用威胁AI项目，限制对先进的AI芯片和开放式体重模型的访问，并加强国内芯片制造。据作者说，这样做将使美国和其他国家能够和平推进AI创新，同时降低了使用AI的流氓参与者的总体风险来造成广泛的损害。

有趣的是，随着特朗普政府在AI上形成更详细的立场，这些建议是否在未来几个月内获得吸引力。我们应该期望看到更多这样的建议，特别是那些持续关注AI的地缘政治风险和机会的建议，只有在有助于防止大规模灾难的范围内提出立法，例如产生生物武器或对美国关键美国资产的外国攻击。

不幸的是，当您停止关注它们或重命名安全机构时，安全问题不会消失。在加强我们的安全姿势的同时，可能有助于提高我们的竞争优势并应对外国攻击，而安全干预措施有助于防止对个人或社会的损害。

现实情况是，AI安全和保障工作是携手合作的 - 如果系统本身可以被黑客入侵，AI安全干预措施将无效；同样，如果这些系统本质上不安全并且容易造成伤害，则将AI系统免受外部威胁的保护变得毫无意义。 Cambridge Analytica提供了这种关系的有用说明。该事件表明，Facebook围绕数据访问的安全协议不足以加剧安全漏洞，然后利用这些漏洞进行政治操纵。当今的AI系统面临着类似的相互联系的挑战。当拆除安全护栏时，安全风险不可避免地会随之而来。

目前，AI安全掌握在州立法机关和公司信托和安全团队的手中。建立人工智能的公司知道 - 也许比其他任何人都更好 - 赌注是什么。单一违反信任，无论是数据盗窃还是事故，都可能破坏其品牌。我预测，因此他们将继续投资于明智的AI安全实践，但谨慎而没有大张旗鼓。诸如Roost之类的新兴计划使公司能够协作建立开放的安全工具，这可能是对即将发生的事情的良好预览：在过去的十年中，专家，实验室和机构的支持，在专家，实验室和机构的支持下，AI悄悄地涌现的AI安全运动。

希望这足够了。

以上是美国AI政策从'安全”到'安全”急剧旋转的详细内容。更多信息请关注PHP中文网其他相关文章！