讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在 Crawl4AI v0.7+ 中正确配置与使用 LLMConfig

千婷君_3604

千婷君_3604

发布时间:2026-10-28 13:52:03

|

644人浏览过

|

来源于php中文网

原创

如何在 Crawl4AI v0.7+ 中正确配置与使用 LLMConfig

本文详解 Crawl4AI 0.7.x 版本中 LLMConfig 的用法,涵盖初始化方式、与 LLMExtractionStrategy 的集成规范、常见报错(如 LLM Provider NOT provided)的根源及修复方案,并提供 Groq、Ollama 等主流后端的完整可运行示例。

本文详解 crawl4ai 0.7.x 版本中 `llmconfig` 的用法,涵盖初始化方式、与 `llmextractionstrategy` 的集成规范、常见报错(如 `llm provider not provided`)的根源及修复方案,并提供 groq、ollama 等主流后端的完整可运行示例。

自 Crawl4AI v0.7 起,框架对 LLM 集成层进行了统一重构:原分散于策略类中的 provider、api_token、api_base 等参数被正式收归至独立的 LLMConfig 对象中。这一设计不仅提升了配置一致性,也与底层 litellm 抽象层深度对齐——LLMConfig 本质是 litellm 模型调用参数的语义化封装,其 provider 字段必须严格匹配 litellm 所支持的模型标识符(如 "groq/grok-chat"、"ollama/llama3"),否则将触发 BadRequestError。

✅ 正确初始化 LLMConfig

LLMConfig 是一个数据类(@dataclass),需显式传入 provider 和认证凭据。注意:

  • provider 格式为 "vendor/model-name"(如 "groq/grok-chat"、"openai/gpt-4o"、"ollama/phi3");
  • api_token 用于 Groq、OpenAI 等云服务;本地 Ollama 则可设为任意非空字符串(如 "ollama");
  • 若 Ollama 运行在非默认地址(http://localhost:11434),必须通过 api_base 显式指定。
from crawl4ai import LLMConfig
import os

# ✅ Groq 示例(需设置 GROQ_API_KEY)
llm_config_groq = LLMConfig(
    provider="groq/grok-chat",
    api_token=os.getenv("GROQ_API_KEY"),
)

# ✅ Ollama 示例(本地部署,端口默认)
llm_config_ollama = LLMConfig(
    provider="ollama/llama3",
    api_token="ollama",  # 占位符,Ollama 不校验 token
    api_base="http://localhost:11434/v1",  # 必须显式声明,否则 fallback 到 OpenAI 地址
)

⚠️ 常见错误:LLM Provider NOT provided

你遇到的报错:

litellm.BadRequestError: LLM Provider NOT provided. Pass in the LLM provider you are trying to call.
You passed model=grok/grok-chat

根本原因在于:LLMConfig.provider 值未被正确解析为 litellm 可识别的模型标识。典型诱因包括:

  • provider 字符串格式错误(如写成 "grok-chat" 缺少 vendor 前缀);
  • LLMConfig 实例未被传入策略,而是错误地将 provider 直接作为字符串传给 LLMExtractionStrategy;
  • 环境变量冲突(如 OPENAI_API_KEY 存在时,litellm 可能误判为 OpenAI 请求)。

✅ 正确集成方式(关键:llm_config= 参数):

from crawl4ai import LLMExtractionStrategy
from pydantic import BaseModel

class Product(BaseModel):
    name: str
    price: float
    description: str

INSTRUCTION_TO_LLM = "从网页内容中精准提取商品名称、价格和描述,严格按 JSON Schema 输出。"

llm_strategy = LLMExtractionStrategy(
    llm_config=llm_config_groq,  # ✅ 必须传入 LLMConfig 实例,不可传字符串!
    schema=Product.model_json_schema(),
    extraction_type="schema",
    instruction=INSTRUCTION_TO_LLM,
    chunk_token_threshold=1000,
    apply_chunking=True,
    input_format="markdown",
    extra_args={"temperature": 0.0, "max_tokens": 800},
)

? 完整端到端示例(含异步爬取 + LLM 提取)

import asyncio
from crawl4ai import AsyncWebCrawler, LLMConfig, LLMExtractionStrategy
from crawl4ai.async_configs import CrawlerRunConfig
from pydantic import BaseModel

class Product(BaseModel):
    name: str
    price: str
    rating: float

async def main():
    # 1. 配置 LLM(以 Ollama 为例)
    llm_config = LLMConfig(
        provider="ollama/phi3",
        api_token="ollama",
        api_base="http://localhost:11434/v1"
    )

    # 2. 构建 LLM 提取策略
    strategy = LLMExtractionStrategy(
        llm_config=llm_config,
        schema=Product.model_json_schema(),
        instruction="仅提取商品名称、标价和用户评分(0–5 分),忽略所有其他字段。",
        input_format="markdown"
    )

    # 3. 启动爬虫并执行
    async with AsyncWebCrawler() as crawler:
        result = await crawler.arun(
            url="https://example-shop.com/product/123",
            config=CrawlerRunConfig(
                extraction_strategy=strategy,
                cache_mode="default",
                timeout=30
            )
        )
        print(result.extracted_content)  # 输出结构化 JSON 字符串

if __name__ == "__main__":
    asyncio.run(main())

? 调试建议

  • 启用 litellm 日志定位问题:
    import litellm
    litellm.set_verbose = True  # 输出完整请求/响应链路
  • 验证 Ollama 模型是否就绪:
    curl http://localhost:11434/api/tags  # 应返回已拉取的模型列表
  • 使用 crawl4ai-doctor 检查环境兼容性(确保 litellm>=1.49.0)。

总结:LLMConfig 是 Crawl4AI v0.7+ 的 LLM 配置中枢,其 provider 必须遵循 litellm 的标准命名规范,且必须作为对象传入策略类。跳过此步骤或格式错误将直接导致模型调用失败。掌握这一范式,即可无缝对接 Groq、Ollama、OpenAI、Claude 等全部 litellm 支持的后端,构建真正自主可控的 AI 数据管道。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

20

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

0

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

0

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

120

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

60

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

60

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

40

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

60

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn