Coze可通过配置网页爬虫技能、定时工作流及知识库写入实现自动抓取与更新:先创建JS渲染爬虫技能,再构建含定时触发、HTML清洗、知识库写入的四步工作流,最后通过三种方式验证更新效果。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

你需要让扣子(Coze)自动抓取网页数据并定期更新知识库,避免手动上传文件、重复配置或数据滞后。这要求你打通爬虫技能、定时任务与知识库刷新三个环节,且每个环节的参数必须精确匹配平台接口规范。
配置网页爬虫技能
打开Coze工作台 → 点击左侧「Bot」→ 选择目标Bot → 进入「技能」页签 → 点击右上角「+ 添加技能」→ 选择「网页爬虫」。
在爬虫配置弹窗中,填写目标URL(如https://example.com/news),勾选「启用JavaScript渲染」——【若页面依赖JS动态加载内容,不勾选将导致抓取空白】。
点击「测试运行」,观察返回的HTML片段是否包含你期望的标题、正文、发布时间等字段;若返回为空或结构异常,立即检查URL是否可公开访问、是否被反爬拦截。
确认无误后点击「保存」,该技能即绑定到当前Bot,后续可通过指令调用或工作流触发。
构建定时爬取工作流
进入Bot编辑页 → 切换至「工作流」页签 → 点击「+ 新建工作流」→ 命名为「每日新闻爬取」→ 选择触发方式为「定时触发」。
第一步:添加「定时触发器」节点,设置Cron表达式为0 0 * * *(每天凌晨0点执行)。
第二步:拖入「网页爬虫」技能节点,连接上一节点输出 → 在参数栏中填入已配置的URL,同时勾选「返回原始HTML」选项——【知识库仅支持文本或PDF/Markdown格式输入,原始HTML需后续清洗】。
第三步:添加「文本清洗」节点(使用内置「HTML转文本」工具),将爬取结果中的标签、脚本、样式全部剥离,只保留纯文本段落与换行结构。
第四步:接入「知识库写入」节点,选择目标知识库(必须是已创建且状态为「启用」的知识库),将清洗后的文本作为「文档内容」传入,文档标题自动提取网页<title>标签内容,或手动设为每日新闻_{date}。
验证知识库自动更新效果
方法一:等待首次定时任务执行(最多延迟5分钟),进入「知识库」页签 → 找到对应知识库 → 点击「查看文档」→ 检查最新文档的上传时间是否为当日凌晨,内容是否含预期新闻摘要。
方法二:在Bot聊天窗口发送指令/run 每日新闻爬取,强制触发一次工作流,30秒内查看知识库文档列表是否有新增条目。
方法三:进入「工作流」页签 → 点击对应工作流右侧「历史记录」→ 查看最近一次执行状态是否为「成功」,失败日志中若出现403 Forbidden,说明目标网站已封禁Coze的User-Agent,需切换为自定义请求头或改用代理IP技能。


















