讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在 Crawl4AI v0.7.x+ 中正确配置与使用 LLMConfig

浅浩同学_1325

浅浩同学_1325

发布时间:2026-10-28 14:13:29

|

380人浏览过

|

来源于php中文网

原创

如何在 Crawl4AI v0.7.x+ 中正确配置与使用 LLMConfig

本文详解 Crawl4AI 0.7.x 版本起引入的 LLMConfig 类用法,涵盖初始化方式、与 LLMExtractionStrategy 的集成规范、常见 Provider 配置示例(如 Groq、Ollama、OpenAI),并指出关键参数映射逻辑与典型错误规避方法。

本文详解 crawl4ai 0.7.x 版本起引入的 `llmconfig` 类用法,涵盖初始化方式、与 `llmextractionstrategy` 的集成规范、常见 provider 配置示例(如 groq、ollama、openai),并指出关键参数映射逻辑与典型错误规避方法。

自 Crawl4AI v0.7.0(2025年12月发布)起,框架对 LLM 集成层进行了重大重构:原分散于策略类中的 provider、api_token、api_base 等参数被统一收口至独立的 LLMConfig 对象中。这一设计不仅提升了配置一致性,也强化了与底层推理代理库(如 LiteLLM)的兼容性——而你遇到的 "LLM Provider NOT provided" 错误,正是因未正确构造 LLMConfig 或未将其传递给策略所致。

✅ 正确初始化 LLMConfig

LLMConfig 是一个轻量级配置容器,必须显式传入 provider 和认证凭证(如 api_token 或 api_key)。其构造逻辑严格遵循 LiteLLM 的模型标识规范:

from crawl4ai import LLMConfig
import os

# ✅ 正确:Groq 模型(注意 provider 字符串格式)
llm_config = LLMConfig(
    provider="groq",                    # ← 必须为 LiteLLM 支持的标准 provider 名(非模型全名)
    api_token=os.getenv("GROQ_API_KEY"), # ← Groq 使用 api_token
    model="llama-3.1-70b-versatile",    # ← 实际调用的模型 ID(可选,但推荐显式指定)
)

# ✅ 正确:Ollama 本地模型(需运行 ollama serve)
llm_config = LLMConfig(
    provider="ollama",                   # ← 固定值 "ollama"
    api_base="http://localhost:11434",    # ← Ollama 服务地址(默认端口 11434)
    model="llama3:8b",                   # ← 本地已拉取的模型名(通过 `ollama list` 查看)
)

# ✅ 正确:OpenAI 兼容接口(如 Azure OpenAI、Fireworks、DeepSeek)
llm_config = LLMConfig(
    provider="openai",                   # ← 统一使用 "openai"
    api_key=os.getenv("OPENAI_API_KEY"),
    api_base="https://api.openai.com/v1", # ← 可覆盖为其他兼容端点
    model="gpt-4o-mini",
)

⚠️ 关键注意:provider 参数不是模型路径(如 "grok/grok-chat"),而是 LiteLLM 定义的标准 provider 名称。"grok/grok-chat" 是无效 provider,LiteLLM 无法识别,故报错。Groq 的合法 provider 是 "groq",模型名则单独通过 model 参数传入。

✅ 集成到 LLMExtractionStrategy

配置好 LLMConfig 后,将其作为唯一 llm_config 参数传入策略,移除所有旧版独立参数(如 api_token, provider, api_base):

from crawl4ai.extraction_strategy import LLMExtractionStrategy
from pydantic import BaseModel

class Product(BaseModel):
    name: str
    price: float
    description: str

INSTRUCTION_TO_LLM = "提取商品名称、价格和描述,严格按 JSON Schema 输出。"

llm_strategy = LLMExtractionStrategy(
    llm_config=llm_config,               # ← 唯一必需字段
    schema=Product.model_json_schema(),   # ← Pydantic Schema(结构化提取必需)
    extraction_type="schema",             # ← 或 "text"(自由文本)
    instruction=INSTRUCTION_TO_LLM,
    chunk_token_threshold=1000,           # ← 分块阈值(tokens)
    apply_chunking=True,                  # ← 大页面自动分块
    input_format="markdown",              # ← 输入内容格式(默认即 markdown)
    extra_args={"temperature": 0.0, "max_tokens": 800},
)

❌ 常见错误与修复指南

错误现象 根本原因 修复方案
LLM Provider NOT provided provider 值非法(如 "grok/grok-chat")或缺失 查阅 LiteLLM Providers 文档,使用标准名("groq", "ollama", "openai")
AuthenticationError / Invalid API Key api_token 或 api_key 未设置或环境变量为空 使用 print(os.getenv("XXX")) 调试;确保变量名与代码一致(如 GROQ_API_KEY)
Model not found model 参数值在对应 provider 下不存在 Groq:检查 支持模型列表;Ollama:执行 ollama list 确认模型已拉取
策略不生效 / 无 LLM 输出 未在 CrawlerRunConfig 中启用该策略 确保 CrawlerRunConfig(extraction_config=llm_strategy) 或 extraction_config={"strategy": "LLMExtractionStrategy", ...}

? 调试建议

启用 LiteLLM 日志以定位底层请求问题:

import litellm
litellm.set_verbose = True  # 输出完整 HTTP 请求/响应

同时,在 Crawl4AI 中开启详细日志:

import logging
logging.basicConfig(level=logging.DEBUG)

✅ 总结

LLMConfig 是 Crawl4AI v0.7+ 的 LLM 配置中枢,其核心原则是:Provider 名标准化、认证与模型解耦、严格遵循 LiteLLM 规范。只要正确设置 provider(如 "groq")、api_token/api_key、model,并将其注入 LLMExtractionStrategy.llm_config,即可无缝对接各类开源与商业 LLM 服务。切勿复用旧版参数命名或模型路径写法——这是升级后最常踩的“坑”。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

20

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

0

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

0

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

120

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

60

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

60

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

40

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

60

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn