讲师中心 微信公众号
AI工具推荐 视频效率加速

如何通过 Discogs API 分层爬取并提取 YouTube 视频链接

阿晨君_3249

阿晨君_3249

发布时间:2026-11-07 22:48:09

|

489人浏览过

|

来源于php中文网

原创

如何通过 Discogs API 分层爬取并提取 YouTube 视频链接

本文详解 python 脚本如何利用 discogs 官方 api 实现两级请求:先搜索专辑列表,再逐个请求单张唱片详情页以提取嵌入的 youtube 视频 url。关键在于区分搜索结果接口(无 videos 字段)与单资源详情接口(含 videos 数组)。

本文详解 python 脚本如何利用 discogs 官方 api 实现两级请求:先搜索专辑列表,再逐个请求单张唱片详情页以提取嵌入的 youtube 视频 url。关键在于区分搜索结果接口(无 videos 字段)与单资源详情接口(含 videos 数组)。

Discogs 提供了结构清晰的 RESTful API,但其数据分布具有层级性:搜索端点(/database/search)仅返回元数据摘要(如标题、年份、格式),不包含视频信息;而单张唱片详情端点(/releases/{id})才在响应中提供 videos 字段。原始脚本正是基于这一设计,采用“广度优先 + 队列驱动”的方式完成两级爬取。

核心逻辑解析

  1. 第一级:获取发行列表(Search Endpoint)
    初始请求指向 https://api.discogs.com/database/search?...,返回 JSON 包含:

    • results: 每项为一个 release 的简要信息,含 resource_url(如 "https://api.discogs.com/releases/1136089");
    • pagination.urls.next: 下一页搜索结果地址(用于翻页)。

    此阶段 data 中确实没有 videos 键——这是正常且预期的行为。

  2. 第二级:获取单张唱片详情(Release Endpoint)
    脚本将每个 result['resource_url'] 加入队列,并发起新请求(如 GET https://api.discogs.com/releases/1136089?token=...)。该端点返回的 JSON 结构完全不同,典型响应如下:

    {
      "id": 1136089,
      "title": "Exos - Yellow Yard",
      "videos": [
        {
          "uri": "https://www.youtube.com/watch?v=dQw4w9WgXcQ",
          "duration": 245,
          "description": "Official video"
        }
      ]
    }

    ✅ 此时 'videos' in data 才为 True,脚本能安全遍历并提取 video['uri']。

    YouTube Transcript & Summary
    YouTube Transcript & Summary

    获取YouTube视频字幕、文本并生成摘要,用于提取视频文字、下载字幕等场景。

    下载

为什么你的调试脚本没看到 videos?

你只执行了第一级请求(INITIAL_URL),即搜索接口,因此 data 是分页列表结构,自然不含 videos。要验证第二级行为,可手动请求一个 resource_url:

# 示例:直接请求某张唱片详情(替换为实际 ID)
detail_url = "https://api.discogs.com/releases/1136089?token=YOUR_TOKEN"
detail_data = discogs_request(detail_url)
print("'videos' in detail_data:", 'videos' in detail_data)  # 输出 True
if 'videos' in detail_data:
    for v in detail_data['videos']:
        print("YouTube URL:", v['uri'])

推荐优化写法(去队列版)

若希望逻辑更直观,可改用嵌套循环替代队列(适合中小规模数据):

import requests
from urllib.parse import urlparse, parse_qs

def discogs_request(url):
    headers = {'User-agent': 'DiscogsVideoExtractor/1.0'}
    response = requests.get(url, headers=headers)
    if response.status_code == 429:
        time.sleep(60)
        return discogs_request(url)
    return response.json() if response.status_code == 200 else None

SEARCH_URL = "https://api.discogs.com/database/search?sort=title&sortorder=desc&style=Dub+Techno&format=Vinyl&type=release&year=1999&per_page=50"
ACCESS_TOKEN = "your_token_here"
PAGE_LIMIT = 25

with open('video_urls.txt', 'w') as f:
    current_url = f"{SEARCH_URL}&token={ACCESS_TOKEN}"

    for page_num in range(1, PAGE_LIMIT + 1):
        data = discogs_request(current_url)
        if not data or 'results' not in data:
            break

        # 处理当前页所有唱片
        for release in data['results']:
            detail_url = f"{release['resource_url']}?token={ACCESS_TOKEN}"
            detail = discogs_request(detail_url)
            if detail and 'videos' in detail:
                for video in detail['videos']:
                    f.write(video['uri'] + '\n')
                    print(f"✓ Saved: {video['uri']}")

        # 获取下一页 URL
        next_url = data.get('pagination', {}).get('urls', {}).get('next')
        if not next_url:
            break
        current_url = next_url

注意事项与最佳实践

  • API 限流:Discogs 对未认证请求严格限频,务必使用有效 access_token(在 Developers Settings 申请);
  • 错误处理:生产环境需增加超时、重试、空响应兜底(如 if not detail: continue);
  • 字段可靠性:videos 是可选字段,部分唱片可能无关联视频,务必用 if 'videos' in data: 判断;
  • User-Agent 合规性:必须设置真实、可识别的 User-agent 头,避免被封禁;
  • 数据许可:提取的 YouTube 链接仅作个人用途,不得用于商业分发或绕过平台规则。

通过理解 Discogs API 的资源层级关系,你就能精准定位视频数据所在位置,避免在错误响应中徒劳查找 videos 键。

热门AI工具

更多
PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智文

一款面向学习和办公场景的AI文档创作工具,可辅助生成PPT与Word文档,提高资料整理和内容制作效率。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5613

2023.11.10

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

693

2023.11.13

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

0

2026.11.06

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

0

2026.11.06

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

0

2026.11.06

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

20

2026.11.05

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

20

2026.11.05

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

20

2026.11.04

XORM框架结构体映射与表结构同步
XORM框架结构体映射与表结构同步

本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。

20

2026.11.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Gemini Notebook官方手册
Gemini Notebook官方手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn