讲师中心 微信公众号
AI工具推荐 视频效率加速

ShareGPT格式转OpenAI格式的转换方法:适配不同训练框架的数据处理教程

大明吖_7982

大明吖_7982

发布时间:2026-05-25 13:53:46

|

277人浏览过

|

来源于php中文网

原创

需将ShareGPT格式转换为OpenAI chat-completion格式,可用四种方法:一、Python脚本手动映射human/gpt为user/assistant;二、LlamaFactory内置align_dataset()自动对齐;三、Medusa工具convert_to_openai.py命令行转换;四、Hugging Face Datasets动态map转换。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

sharegpt格式转openai格式的转换方法:适配不同训练框架的数据处理教程

如果您拥有 ShareGPT 格式的对话数据,但需在要求 OpenAI chat-completion API 格式(如 messages 列表)的训练框架或推理服务中使用,则必须进行结构化转换。以下是实现该转换的多种可行方法:

一、使用 Python 脚本手动映射字段

该方法通过逐条解析 ShareGPT 的 conversations 字段,将其重构成 OpenAI 格式的 messages 列表,适用于对数据可控性要求高、需嵌入清洗或过滤逻辑的场景。

1、读取原始 *_sharegpt.jsonl 文件,按行加载 JSON 对象。

2、对每个样本提取 conversations 列表,遍历其中每条字典项。

3、将 "from": "human" 映射为 {"role": "user", "content": value},将 "from": "gpt" 映射为 {"role": "assistant", "content": value},忽略 "from": "function_call" 或其他非标准角色项。

4、将转换后的 messages 列表写入新文件,每行一个符合 OpenAI 格式的 JSON 对象。

5、确保输出字段仅保留 role 和 content,禁止添加 system、name、tool_calls 等扩展字段,除非目标框架明确支持。

二、利用 LlamaFactory 内置数据对齐模块

LlamaFactory 的 align_dataset() 流程原生支持 ShareGPT → OpenAI 格式语义对齐,无需额外编写转换逻辑,适合已集成该框架的训练管线。

1、在 dataset_info.json 中为数据集指定 type: "sharegpt" 和 format: "openai"。

2、确保 dataset_attr 配置中设置 is_chat: true 且 train_on_prompt: false。

3、运行 llamafactory-cli train 命令时,系统自动触发 align_dataset(),将 conversations 拆解并重排为 messages 序列。

OpenAI Codex Operator
OpenAI Codex Operator

在目标项目目录中运行 OpenAI Codex CLI,完成实现、调试等编码任务。当用户请求 OpenClaw 使用 Codex 时触发。

下载

4、检查日志输出中是否出现 “Aligned to OpenAI chat format” 提示,确认未启用 --packing 参数,否则会破坏 messages 的独立样本结构。

三、调用 Medusa 提供的通用格式桥接工具

Medusa 的 data_generation/convert_to_openai.py 工具专为跨格式桥接设计,兼容 ShareGPT 输入与 OpenAI 输出,适配多阶段训练流程。

1、确认已安装 medusa 包并定位到 data_generation 目录。

2、执行命令:python convert_to_openai.py --input_path your_data_sharegpt.jsonl --output_path output_openai.jsonl。

3、工具默认将 human/gpt 角色严格映射至 user/assistant,自动跳过含非法 control characters 的 value 字段,避免 JSON 解析失败。

4、输出文件每行为一个独立 JSON 对象,包含字段:{"messages": [{"role": "...", "content": "..."}, ...]}。

四、基于 Hugging Face Datasets 的 on-the-fly 转换

该方法不生成中间文件,在数据加载阶段动态完成格式转换,节省磁盘空间,适合大规模数据流式处理。

1、使用 load_dataset("json", data_files="data.jsonl") 加载 ShareGPT 数据集。

2、定义 map 函数:对每个样本提取 conversations,构建 messages 列表,返回 {"messages": messages}。

3、调用 dataset.map() 并设置 remove_columns=["conversations"],保留仅含 messages 的结构。

4、保存为新数据集时指定 writer_batch_size=1000,避免内存溢出导致 messages 列表截断。

热门AI工具

更多
火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

20

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

0

2026.10.16

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

0

2026.10.16

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

0

2026.10.16

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

0

2026.10.16

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

20

2026.10.16

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

20

2026.10.15

MySQL 忘记密码怎么办
MySQL 忘记密码怎么办

MySQL忘记密码专题汇集不同版本与系统下的root密码重置方法,覆盖MySQL 5.7、8.0、Mac、Linux及本地集成环境,并提示恢复权限与重新登录的检查步骤。

20

2026.10.15

Vue.js 中 ref 和 reactive 的区别
Vue.js 中 ref 和 reactive 的区别

Vue.js中ref和reactive的区别专题汇集两种响应式API的定义、访问方式、对象解构、侦听与性能取舍等文章,帮助结合实际状态类型选择合适写法。

20

2026.10.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
ChatGPT入门手册
ChatGPT入门手册

共0课时 | 0人学习

Codex官方文档
Codex官方文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn