CodeBuddy可高效清洗百万级脏数据:自动识别字段类型与异常值,支持正则标准化、自定义替换及运营商校验清洗手机号,按业务逻辑填充缺失值,并过滤非法数值,最终导出带日志的CSV文件。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

清洗百万级脏数据时,CodeBuddy能自动识别字段类型、定位异常值、批量修复格式混乱和缺失值,避免手动写SQL或Python脚本反复试错。
启动CodeBuddy并加载数据
打开CodeBuddy桌面端,点击【新建项目】→选择【数据清洗】模板。
在「数据源」面板中,点击【本地文件】→选择CSV或Excel文件(【单文件不得超过2GB,否则加载失败】)→等待解析完成,右下角显示“共1,248,631行”即表示百万级数据已就绪。
自动识别与标注脏字段
点击顶部【智能扫描】按钮,系统将在后台运行字段分析引擎。
30秒后弹出「脏字段报告」窗口:左侧列出全部字段,右侧用颜色标记问题类型——红色为严重异常(如身份证号含字母)、黄色为可疑值(如手机号开头非1)、灰色为低置信度(如日期格式混杂)。【不要跳过这一步,跳过会导致后续规则无法精准匹配】
勾选“姓名”“手机号”“注册时间”三个字段→点击【确认标注】。
批量清洗手机号字段
方法一:正则一键标准化
在字段列表中右键“手机号”→选择【清洗规则】→【手机号格式标准化】→启用「自动补全11位」「清除空格与短横线」→点击【应用】。
CodeBuddy Code CLI 的安装、配置与使用指南。CodeBuddy Code 是腾讯推出的 AI 驱动 CLI 编程助手,支持自然语言驱动开发。 - 必备触发词:CodeBuddy, codebuddy, AI CLI, Tencent AI coding, @tencent-ai/codebuddy-code, terminal AI assistant - 适用场景:安装 CodeBuddy CLI、配置 CodeBuddy、使用 CodeBuddy 命令、排查 CodeBuddy 问题
方法二:自定义替换清洗
点击【高级清洗】→【文本替换】→输入正则表达式 ^(\d{3})\D*(\d{4})\D*(\d{4})$ →替换为 $1-$2-$3 →勾选「仅对当前字段生效」→点击【执行】。
方法三:调用内置校验库
切换到【校验】页签→启用「运营商号段校验」→勾选「标记非真实号段」→点击【运行校验】→系统自动将170/171等虚拟号段标为“待复核”,不直接删除。
修复缺失值与异常数值
第一步:定位数值型字段异常点
选中“订单金额”字段→点击【分布分析】→观察直方图,发现大量-999.00和9999999.99值→判定为占位符。
第二步:分条件填充缺失值
点击【缺失处理】→选择「按业务逻辑填充」→设置规则:
• 若“用户等级”=VIP →填入中位数 298.50
• 若“下单渠道”=小程序 →填入均值 156.33
• 其余情况 →填入0.00
第三步:硬性过滤非法数值
点击【数值校验】→输入范围「0 ≤ 值 ≤ 100000」→勾选「超出范围值设为空」→点击【执行过滤】。
导出清洗后数据
点击右上角【导出】→选择「导出为CSV」→勾选「包含清洗日志」→指定保存路径→点击【开始导出】。
进度条走完后,打开生成的cleaned_orders_20240521.csv,用VS Code查看前10行,确认无乱码、无残留占位符、手机号统一为11位数字格式。

















