抓取并提取任意网页URL的内容,返回纯文本或原始HTML。用于读取网页全文内容。
Crawl Webpage By Desearch.
功能概述
Crawl Webpage By Desearch.是一项面向实际任务的技能,主要用于Extract 内容来自任何网页 URL.;返回干净的文本或原始 HTML.;
核心要点
- QQ 快速启动;
- 从 https:// console. desearch.ai.;
- Set 环境变量: 导出 DESEAR。
使用与执行
它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;
结果检查与注意事项
若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。
使用 Desearch 抓取网页
从任意网页 URL 提取内容,返回干净的纯文本或原始 HTML。
快速开始
- 前往 https://console.desearch.ai 获取 API 密钥
- 设置环境变量:
export DESEARCH_API_KEY='your-key-here'
使用方法
# 抓取网页(默认返回干净的纯文本) scripts/desearch.py crawl "https://en.wikipedia.org/wiki/Artificial_intelligence" # 获取原始 HTML scripts/desearch.py crawl "https://example.com" --crawl-format html
选项
| 选项 | 说明 |
|---|---|
--crawl-format |
输出内容格式:text(默认)或 html |
示例
读取文档页面
scripts/desearch.py crawl "https://docs.python.org/3/tutorial/index.html"
获取原始 HTML 用于分析
scripts/desearch.py crawl "https://example.com/page" --crawl-format html
响应
示例(format=text,已截断,为默认格式)
人工智能(AI)是指计算系统执行通常需要人类智能的任务的能力,例如学习、推理、问题求解、感知和决策……
示例(format=html,已截断)
Artificial intelligence - Wikipedia Artificial intelligence (AI) is the capability of computational systems...
注意事项
- 响应为纯文本或原始 HTML —— 不是 JSON 格式。
- 默认格式为
text。仅当需要检查网页结构时,才使用--crawl-format html。 - 推荐优先使用
text格式,以避免因 HTML 标记而过度膨胀 agent 的上下文。
错误
状态码 401:未授权(例如,API 密钥缺失或无效)
{
"detail": "Invalid or missing API key"
}
状态码 402:付款要求(例如,账户余额不足)
{
"detail": "Insufficient balance, please add funds to your account to continue using the service."
}
相关资源
- API 参考文档
- Desearch 控制台
热门AI工具
相关专题
本专题汇总了Uvicorn服务器常见问题与报错解决的教程合集,涵盖启动失败、端口占用、模块导入错误、事件循环冲突及热重载失效等典型故障的排查思路。同时整理了多进程与Worker配置、SSL/HTTPS证书报错、跨域与代理配置等实战解决方案,助你快速定位并解决Uvicorn运行中的各类问题。
0
2026.11.02
本专题汇总了Uvicorn使用教程与启动运行指南,涵盖其作为Python ASGI服务器的定位与特点,以及命令行启动(uvicorn main:app --reload)、参数配置(host/port/workers)、程序内嵌运行与Gunicorn结合部署等核心用法。同时整理了热重载调试、日志配置与生产环境部署优化等技巧,助你快速掌握Uvicorn的运行与配置。
0
2026.11.02
本专题汇总了Uvicorn的安装配置教程与部署指南,涵盖通过pip安装Uvicorn、启动FastAPI/Starlette应用、开发模式热重载(--reload)及多进程工作模式配置等核心操作。同时整理了结合Gunicorn的生产部署方案、HTTPS与反向代理配置及性能调优技巧,助你快速完成Uvicorn服务的安装与上线部署。
0
2026.11.02
Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。
0
2026.10.28
Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。
0
2026.10.28
Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。
0
2026.10.28
本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。
0
2026.10.22
本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。
0
2026.10.22
本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。
0
2026.10.22
热门下载
相关下载
精品课程
共6课时 | 12.1万人学习
共79课时 | 161.7万人学习
共6课时 | 54.7万人学习
最新文章