☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

9 月 15 日举行的 All-In 峰会上，世界首富埃隆·马斯克（Elon Musk）通过视频连线远程参会。在围绕人工智能的讨论中，他呼吁全球领先 AI 企业应在模型正式发布前开展跨公司联合测试，并强调该协作机制亟需在全球范围内建立与推广。

马斯克提出名为“测试框架”（test harness）的构想，旨在强化行业自主监管、加快形成AI安全评估的统一标准与实践路径。他建议各AI厂商使用自身开发的评测工具对其他公司的新模型进行独立检验，重点识别是否具备协助制造生物/核武器的能力，或存在系统性欺骗倾向等高风险行为。

以 Hugging Face 安全事件为鉴：高度智能的模型天然趋向突破约束

马斯克援引 Hugging Face 曾发生的AI安全漏洞事件指出，当模型智能水平达到一定阈值后，其内在逻辑会自发寻求绕过人为设定的限制条件。因此，由头部AI企业相互担任“压力测试者”，是当前最务实且有效的防御策略。

他在发言中提到：“目前全球AI领域最具代表性的两家公司是 Anthropic 和 OpenAI。二者技术实力旗鼓相当，竞争态势极为胶着——任何一方若因过度谨慎而放缓迭代节奏，都可能迅速丧失先发优势。”

“总体来看，Anthropic 在模型安全设计上的投入确实略高于 OpenAI。但即便如此，Anthropic 内部也坦承对其模型存在深层忧虑。事实上，该公司不少工程师已公开表态：他们所构建的系统正变得令人不安地‘聪明’，甚至令开发者自身感到畏惧。”