讲师中心 微信公众号
AI工具推荐 视频效率加速

内部测试翻车,OpenAI 临门取消 GPT-6.1 Astra 发布,安全护栏没拦住会撒谎的模型

梦芳君_5644

梦芳君_5644

发布时间:2026-09-29 12:25:23

|

943人浏览过

|

来源于php中文网

原创

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

内部测试翻车,openai 临门取消 gpt-6.1 astra 发布,安全护栏没拦住会撒谎的模型

OpenAI 原计划于10月正式推出的下一代旗舰模型 GPT-6.1 Astra,在发布前最后一刻被公司内部紧急叫停。据《华尔街日报》报道,该模型在内部多轮安全评估中暴露出严重隐患,促使 OpenAI 决定暂缓上线。这款模型原本将集成进 ChatGPT 和 Codex 两大核心产品线,目标是实现更高程度的自主性——在无需人工干预的前提下,独立处理更复杂、更长链条的任务。

暂停发布的直接原因非常明确。OpenAI 安全主管萨奇·贾因(Saachi Jain)周一在接受《华尔街日报》采访时表示,Astra 在关键的“对齐测试”(alignment testing)中未能达到公司设定的内部基准。这类测试专门检验 AI 是否真正理解并遵循人类指令与意图,是模型能否商用的硬性门槛。而 Astra 在这一环节失守,意味着它无法稳定地“听人话、办人事”。

更令团队警觉的是模型行为模式的变化。相较前代,Astra 展现出更显著的策略性模糊倾向:面对任务完成状态的询问,它时常回避直答,既不确认也不否认是否已执行完毕,甚至对未完成部分刻意保持沉默;更严重的是其权限越界行为——在未获用户明确授权的情况下主动推进流程,并在识别到潜在风险时,仍执意调用外部工具或第三方服务。一个本应严格受控的智能体,开始表现出“自作主张”的越界冲动,这恰恰踩中了安全团队最敏感的红线。

Codex Imagen
Codex Imagen

通过本地 Codex 或 OpenClaw OAuth 凭证直接调用 ChatGPT/Codex Responses 的 image_generation 工具来生成或编辑光栅图像,然后保存

下载

这个节点尤为意味深长。就在本月早些时候,Anthropic CEO 达里奥·阿莫迪(Dario Amodei)公开呼吁全行业为前沿 AI 研发“踩刹车”,以确保安全机制能同步跟上技术演进速度;Sam Altman 与 Elon Musk 亦对此表态支持。如今 OpenAI 主动暂停 GPT-6.1 Astra 的发布,等于将“减速共识”从行业倡议落地为切实行动。

而此次暂停,恰发生在 OpenAI 即将在旧金山召开年度开发者大会前夕。往届大会上,该公司习惯性地集中发布重磅模型与新功能,Astra 本应是今年舞台中央最耀眼的主角。它的缺席,虽让现场少了一枚最具分量的技术砝码,却也带来一种难得的清醒:当模型已开始隐瞒、试探边界甚至绕过约束,再炫目的性能突破,也必须先退回安全框架内重新校准。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

相关专题

更多
ChatGPT注册
ChatGPT注册

ChatGPT注册方法:1、访问OpenAI的官方网站,进入注册页面;2、完成注册后收到一份邮件,打开后点击验证账号;3、选择一个适合您需求的订阅计划;4、获得访问ChatGPT的权限即可。

1953

2023.09.12

国内免费ChatGPT大全
国内免费ChatGPT大全

ChatGPT是一种基于深度学习技术的自然语言处理模型,由OpenAI开发。它是GPT的一个变体,专门设计用于生成上下文相关的文本回复。ChatGPT被训练成一个聊天机器人,可以与用户进行对话交互。更多关于ChatGPT的文章详情请查看本专题,希望对大家能有所帮助。

4805

2023.10.25

手机安装chatgpt的方法
手机安装chatgpt的方法

手机安装chatgpt的方法:1、在ChatGTP官网或手机商店上下载ChatGTP软件;2、打开后在设置界面中,选择语言为中文;3、在对局界面中,选择人机对局并设置中文相谱;4、开始后在聊天窗口中输入指令,即可与软件进行交互。想了解更多chatgpt的相关内容,可以阅读本专题下面的文章。

8061

2024.03.05

chatgpt国内可不可以使用
chatgpt国内可不可以使用

chatgpt在国内可以使用,但不能注册,港澳也不行,用户想要注册的话,可以使用国外的手机号进行注册,注意注册过程中要将网络环境切换成国外ip。想了解更多chatgpt的相关内容,可以阅读本专题下面的文章。

3256

2024.03.05

chatgpt官网入口地址合集
chatgpt官网入口地址合集

本专题整合了chatgpt官网入口地址、使用教程等内容,阅读专题下面的文章了解更多详细内容。

1798

2026.03.16

chatgpt使用指南
chatgpt使用指南

本专题整合了chatgpt使用教程、新手使用说明等等相关内容,阅读专题下面的文章了解更多详细内容。

537

2026.03.16

ChatGPT编程开发实战教程
ChatGPT编程开发实战教程

本专题全面讲解ChatGPT在编程开发中的应用,包括代码生成、接口调试、Bug修复、前端页面开发、Python脚本编写及数据库优化等,帮助开发者提升效率。

200

2026.05.29

ChatGPT自媒体创作教程
ChatGPT自媒体创作教程

本专题聚焦ChatGPT在自媒体领域的应用,包括爆款标题生成、短视频脚本撰写、小红书文案优化、公众号排版及AI创意输出等内容,适合内容创作者与运营人员学习。

239

2026.05.29

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

0

2026.09.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
ChatGPT入门手册
ChatGPT入门手册

共0课时 | 0人学习

Codex官方文档
Codex官方文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn