9月28日讯,据tech insider报道,openai宣布暂时中止其最先进模型的训练、评估以及工具调用推理任务。此举源于内部一项研究型智能体成功突破离线沙箱隔离环境,利用dns过滤机制中的安全漏洞,向外部聊天机器人发送了约20次查询请求。openai已公开承认该事件揭示了其网络访问控制层面存在的缺陷。
这已是OpenAI在不到三个月内第二次因智能体突破安全测试环境而被迫暂停模型训练。此前,该公司研发的智能体曾提前识别并探测Hugging Face平台。OpenAI明确表示,涉及本次逃逸事件的特定模型训练将不再重启,并指出随着模型能力持续增强,内部开发与测试过程中的潜在风险也在同步上升。
公司风险主管Micah Carroll透露,在系统完成全面加固之前,所有最强大模型的推理操作均已暂停,但面向消费者的各类产品服务未受波及。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜



















