讲师中心 微信公众号

工具推荐

视频效率加速
AniShort
AniShort

AI短剧协同制作平台

剧云
剧云

中文短剧剧本制作平台

updream

一键生成高质量推广成片

Seko
Seko

AI短剧一键生成成片

海量数据分析遇瓶颈?Composer助你用DoctrineDBAL轻松驾驭ClickHouse!

胖静同学_8347

胖静同学_8347

发布时间:2025-07-21 14:32:25

|

354人浏览过

|

来源于php中文网

原创

在处理海量数据分析时,传统关系型数据库的性能瓶颈日益凸显。为了追求极致的查询速度,我将目光投向了ClickHouse——一个专为OLAP设计的列式数据库。然而,如何将这个强大的工具与我已有的、高度依赖Doctrine DBAL的PHP项目优雅地结合,成了一道难题。幸运的是,friendsofdoctrine/dbal-clickhouse这个Composer包,为我提供了一个完美的解决方案。它让我能够在不放弃Doctrine DBAL熟悉操作的同时,享受到ClickHouse带来的极速分析体验。

可以通过一下地址学习composer:学习地址

实际问题:传统数据库的分析之痛

想象一下,你正在开发一个大型的电商平台,每天产生数亿条用户行为日志、订单数据。产品经理希望你能够实时分析用户的购买路径、商品浏览量、转化率等指标。起初,你可能用MySQL或PostgreSQL来存储这些数据,但很快就会发现:

  1. 查询速度慢如蜗牛: 聚合查询、分组统计在海量数据上执行起来异常缓慢,导致报表生成需要数小时甚至更久。
  2. 资源消耗巨大: 为了应对分析查询,数据库服务器的CPU和内存长期处于高位,扩展成本高昂。
  3. 开发效率受限: 为了优化查询,不得不编写复杂的SQL或使用各种缓存策略,增加了开发和维护的复杂度。

我当时就面临这样的困境,每次打开数据分析后台,都要等待漫长的时间。我知道ClickHouse在处理这种场景下有着无与伦比的优势,但我的PHP应用已经大量使用了Doctrine DBAL,如果直接切换到原生ClickHouse客户端,意味着要重写大量的数据库操作代码,这简直是噩梦。

解决方案:friendsofdoctrine/dbal-clickhouse 闪亮登场!

就在我一筹莫展之际,Composer的生态系统再次拯救了我。我发现了friendsofdoctrine/dbal-clickhouse这个宝藏库。它正是Doctrine DBAL为ClickHouse量身定制的驱动程序,这意味着我可以继续使用熟悉的Doctrine DBAL API,而底层的数据存储和查询则由ClickHouse高效完成。这简直是雪中送炭!

第一步:安装驱动

使用Composer安装这个驱动非常简单,只需一行命令:

composer require friendsofdoctrine/dbal-clickhouse

这个库的不同版本支持不同的PHP和Doctrine DBAL版本,例如:

  • v3 支持 Doctrine DBAL 4+ 和 PHP 8.1+
  • v2 支持 Doctrine DBAL 3+ 和 PHP 8.0+
  • v1 支持 Doctrine DBAL 2+ 和 PHP 7.1+ 确保你安装的版本与你的项目环境兼容。

第二步:配置连接

无论是独立的PHP脚本还是基于Symfony这样的框架,配置连接都非常直观。

自定义PHP脚本配置:

<?php

require 'vendor/autoload.php';

use Doctrine\DBAL\DriverManager;
use Doctrine\DBAL\Configuration;
use FOD\DBALClickHouse\Driver;
use FOD\DBALClickHouse\Connection;

$connectionParams = [
    'host' => 'localhost',
    'port' => 8123,
    'user' => 'default',
    'password' => '',
    'dbname' => 'default',
    'driverClass' => Driver::class, // 指定ClickHouse驱动类
    'wrapperClass' => Connection::class, // 指定ClickHouse连接包装类
    'driverOptions' => [ // ClickHouse客户端特定选项
        'extremes' => false,
        'readonly' => true,
        'max_execution_time' => 30,
        'enable_http_compression' => 1, // 开启HTTP压缩
        'https' => false,
    ],
];

$conn = DriverManager::getConnection($connectionParams, new Configuration());

try {
    $result = $conn->fetchColumn('SELECT 1');
    echo "成功连接到ClickHouse: " . $result . PHP_EOL;
} catch (\Exception $e) {
    echo "连接ClickHouse失败: " . $e->getMessage() . PHP_EOL;
}

Symfony框架配置:

在 config/packages/doctrine.yaml (或旧版本中的 app/config/config.yml) 中添加ClickHouse连接配置:

Mysql Skill 1.0.0 (3)
Mysql Skill 1.0.0 (3)

MySQL 数据库管理技能,能够通过自然语言查询和管理数据库,支持 SELECT/INSERT/UPDATE/DELETE、表管理、备份恢复等操作。当用户提及 MySQL、数据库查询、建表或数据备份时使用此技能。

下载
# config/packages/doctrine.yaml
doctrine:
    dbal:
        connections:
            clickhouse: # 定义一个名为clickhouse的连接
                host:     localhost
                port:     8123
                user:     default
                password: ""
                dbname:   default
                driver_class: FOD\DBALClickHouse\Driver
                wrapper_class: FOD\DBALClickHouse\Connection
                options:
                    enable_http_compression: 1
                    max_execution_time: 60
                    # sslCA: '/usr/local/share/ca-certificates/Yandex/YandexInternalRootCA.crt' # 如果使用HTTPS,需要配置SSL证书

然后在你的Symfony服务中,你可以像获取其他Doctrine连接一样获取ClickHouse连接:

<?php

// 在一个Symfony控制器或服务中
use Doctrine\DBAL\Connection;
use Symfony\Bundle\FrameworkBundle\Controller\AbstractController;
use Symfony\Component\HttpFoundation\Response;

class MyController extends AbstractController
{
    public function index(): Response
    {
        /** @var Connection $clickhouseConn */
        $clickhouseConn = $this->container->get('doctrine.dbal.clickhouse_connection');

        try {
            $result = $clickhouseConn->fetchColumn('SELECT count() FROM my_log_table');
            return new Response("ClickHouse中的日志总数: " . $result);
        } catch (\Exception $e) {
            return new Response("查询ClickHouse失败: " . $e->getMessage(), 500);
        }
    }
}

第三步:使用Doctrine DBAL操作ClickHouse

一旦连接配置完成,你就可以像操作其他关系型数据库一样,使用Doctrine DBAL的各种方法来操作ClickHouse了!

创建数据库和表:

你甚至可以使用Doctrine的SchemaManager来创建ClickHouse数据库和表,同时支持ClickHouse特有的表引擎和选项。

<?php

// ... (获取$conn连接对象) ...

$fromSchema = $conn->getSchemaManager()->createSchema();
$toSchema = clone $fromSchema;

$newTable = $toSchema->createTable('my_analytics_data');
$newTable->addColumn('id', 'integer', ['unsigned' => true]);
$newTable->addColumn('event_date', 'date', ['default' => 'toDate(now())']); // ClickHouse分区日期
$newTable->addColumn('user_id', 'integer');
$newTable->addColumn('action', 'string', ['length' => 50]);
$newTable->addColumn('timestamp', 'datetime');

$newTable->setPrimaryKey(['id']);
// 为ClickHouse指定MergeTree引擎和分区键
$newTable->addOption('engine', 'MergeTree');
$newTable->addOption('eventDateColumn', 'event_date'); // 指定日期列用于分区
$newTable->addOption('samplingExpression', 'intHash32(user_id)'); // 采样表达式
$newTable->addOption('indexGranularity', 8192); // 索引粒度

$sqlArray = $fromSchema->getMigrateToSql($toSchema, $conn->getDatabasePlatform());
foreach ($sqlArray as $sql) {
    echo "执行SQL: " . $sql . PHP_EOL;
    $conn->exec($sql);
}

echo "表 'my_analytics_data' 创建成功或已存在。" . PHP_EOL;

插入数据:

<?php

// ... (获取$conn连接对象) ...

// 方式一:直接执行SQL
$conn->exec("INSERT INTO my_analytics_data (id, event_date, user_id, action, timestamp) VALUES (1, '2023-10-26', 101, 'view_product', now())");

// 方式二:使用DBAL的insert方法
$conn->insert('my_analytics_data', [
    'id' => 2,
    'event_date' => new \DateTime('2023-10-26'),
    'user_id' => 102,
    'action' => 'add_to_cart',
    'timestamp' => new \DateTime(),
], [
    \PDO::PARAM_INT, // id
    'date',          // event_date
    \PDO::PARAM_INT, // user_id
    \PDO::PARAM_STR, // action
    'datetime',      // timestamp
]);

// 方式三:使用QueryBuilder
$qb = $conn->createQueryBuilder();
$qb
    ->insert('my_analytics_data')
    ->setValue('id', ':id')
    ->setValue('event_date', ':event_date')
    ->setValue('user_id', ':user_id')
    ->setValue('action', ':action')
    ->setValue('timestamp', ':timestamp')
    ->setParameter('id', 3, \PDO::PARAM_INT)
    ->setParameter('event_date', new \DateTime('2023-10-26'), 'date')
    ->setParameter('user_id', 103, \PDO::PARAM_INT)
    ->setParameter('action', 'checkout', \PDO::PARAM_STR)
    ->setParameter('timestamp', new \DateTime(), 'datetime');

$qb->execute();

echo "数据插入成功。" . PHP_EOL;

查询数据:

<?php

// ... (获取$conn连接对象) ...

// 简单查询
$totalActions = $conn->fetchColumn('SELECT count() FROM my_analytics_data');
echo "总操作数: " . $totalActions . PHP_EOL;

// 带参数的预处理查询
$stmt = $conn->prepare('SELECT user_id, count() AS total_actions FROM my_analytics_data WHERE event_date = :date GROUP BY user_id ORDER BY total_actions DESC LIMIT 5');
$stmt->bindValue('date', new \DateTime('2023-10-26'), 'date');
$stmt->execute();

echo "2023-10-26 最活跃的用户:" . PHP_EOL;
while ($row = $stmt->fetchAssociative()) {
    echo "用户ID: " . $row['user_id'] . ", 操作数: " . $row['total_actions'] . PHP_EOL;
}

处理ClickHouse特有类型:

对于ClickHouse的数组类型(Array(T))或大整数类型(Int64/UInt64),这个驱动也提供了相应的DBAL类型映射。你可以在代码中注册,或者在Symfony配置中声明。

<?php
use Doctrine\DBAL\Types\Type;
use FOD\DBALClickHouse\Types\ArrayInt32Type;
use FOD\DBALClickHouse\Types\BigIntType;

// 注册自定义数组类型
Type::addType('array(int32)', ArrayInt32Type::class);
// 覆盖默认的bigint类型以更好地兼容ClickHouse的Int64/UInt64
Type::overrideType(Type::BIGINT, BigIntType::class);

// ... (获取$conn连接对象) ...
// 现在你可以在你的Schema定义中使用 'array(int32)' 和 'bigint' 类型了

总结:优势与实际应用效果

通过friendsofdoctrine/dbal-clickhouse这个Composer包,我成功解决了海量数据分析的性能瓶颈,并实现了ClickHouse与现有PHP应用的无缝集成。

  1. 性能飞跃: ClickHouse的列式存储和向量化查询引擎,让我的分析查询速度提升了数十倍甚至数百倍,报表几乎是秒级响应。
  2. 开发效率提升: 沿用熟悉的Doctrine DBAL API,无需学习新的数据操作范式,大大降低了集成成本和开发难度。
  3. 无缝兼容: 它完美地充当了Doctrine DBAL和ClickHouse之间的桥梁,让我的应用能够同时利用两者的优势。
  4. 可扩展性: ClickHouse本身就是为大规模数据和高并发分析查询设计的,为未来的数据增长提供了坚实的基础。

现在,我的电商平台可以轻松地生成实时分析报告,产品经理可以随时获取最新的业务洞察,而我也不再为数据库性能问题而夜不能寐。如果你也面临着类似的海量数据分析挑战,并且你的PHP应用使用了Doctrine DBAL,那么friendsofdoctrine/dbal-clickhouse绝对值得你尝试。它将是你的数据分析之旅中,一个不可或缺的强大伙伴!

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

相关专题

更多
PHP Symfony框架
PHP Symfony框架

本专题专注于PHP主流框架Symfony的学习与应用,系统讲解路由与控制器、依赖注入、ORM数据操作、模板引擎、表单与验证、安全认证及API开发等核心内容。通过企业管理系统、内容管理平台与电商后台等实战案例,帮助学员全面掌握Symfony在企业级应用开发中的实践技能。

6337

2025.09.11

composer是什么插件
composer是什么插件

Composer是一个PHP的依赖管理工具,它可以帮助开发者在PHP项目中管理和安装依赖的库文件。Composer通过一个中央化的存储库来管理所有的依赖库文件,这个存储库包含了各种可用的依赖库的信息和版本信息。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

364

2023.12.25

Composer 安装与快速入门指南
Composer 安装与快速入门指南

面向 PHP 开发新手,详细介绍 Composer 的下载安装方式(本地安装与全局安装)、国内镜像源(阿里云/腾讯云)加速配置、composer.json 与 composer.lock 文件的作用解析、require/install/update 等核心命令的使用方法,帮助开发者快速掌握 PHP 依赖管理的基本工作流。

623

2026.04.10

Composer 依赖管理与版本控制实战
Composer 依赖管理与版本控制实战

深入讲解 Composer 的依赖管理机制,涵盖语义化版本号规范、版本约束符(^、~、*、>=)的区别与最佳实践、composer.lock 在团队协作中的锁定策略、依赖冲突的排查与解决方法、require-dev 与生产依赖的分离管理、平台依赖检查(platform-check)等进阶内容,帮助开发者在项目中精准控制依赖版本、避免"依赖地狱"。

367

2026.04.10

Composer 自定义包开发与发布教程合集
Composer 自定义包开发与发布教程合集

以实际项目为导向,讲解如何从零创建一个符合规范的 Composer 包,涵盖 composer.json 元信息配置、PSR-4 自动加载规则设置、命名空间规划、单元测试集成、README 与 LICENSE 编写规范,以及将包提交到 Packagist 公共仓库或搭建 Satis/Private Packagist 私有仓库的完整发布流程,帮助开发者将可复用代码封装为标准化的 Composer 包。

389

2026.04.10

Composer 自动加载机制与性能优化
Composer 自动加载机制与性能优化

系统剖析 Composer 的自动加载体系,讲解 PSR-0 与 PSR-4 自动加载标准的区别与演进、classmap 与 files 加载方式的适用场景、autoload_real.php 源码级加载流程解析,同时介绍 composer dump-autoload -o 优化加载映射、APCu 缓存加速、authoritative-classmap 配置等生产环境性能优化手段,帮助开发者深入理解自动加载原理并提升项目启动速度。

340

2026.04.13

Composer 在主流 PHP 框架中的应用实践
Composer 在主流 PHP 框架中的应用实践

结合 Laravel、ThinkPHP、Symfony 等主流 PHP 框架的实际场景,讲解 Composer 在框架项目中的典型应用,包括通过 create-project 初始化框架项目、安装与管理第三方扩展包、scripts 钩子(post-install/post-update)自动执行部署任务、自定义 Installer 插件开发、多项目共享 vendor 依赖的 Monorepo 工作流管理,帮助开发者在真实框架项目中充分发

563

2026.04.13

Composer 镜像源配置与网络问题排查
Composer 镜像源配置与网络问题排查

针对国内开发者常遇到的 Composer 网络问题,详细讲解阿里云、腾讯云、华为云等国内镜像源的全局与项目级切换方法、多镜像源优先级配置策略、composer config 命令行快速设置技巧,同时涵盖 SSL 证书错误、连接超时、下载中断等常见网络报错的排查与修复方案,以及利用 artifact / path 仓库实现完全离线环境下的依赖安装。

351

2026.04.14

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

60

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 安装文档
phpMyAdmin 安装文档

共0课时 | 0人学习

phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn