讲师中心 微信公众号
AI工具推荐 视频效率加速

缩放数据分析:用霓虹灯,气流和简化建立起动套件

胖宇大大_3882

胖宇大大_3882

发布时间:2025-02-03 08:36:14

|

452人浏览过

|

来源于php中文网

原创

构建数据分析项目不再令人望而生畏!本指南提供一个轻量级、灵活且易于上手的解决方案,帮助您快速搭建一个功能强大的数据分析平台。它自动化数据收集、无服务器数据库存储以及交互式仪表板展示,所有操作都基于python完成。本例使用coingecko的加密货币数据进行演示,但您可以轻松替换成任何其他数据集。

缩放数据分析:用霓虹灯,气流和简化建立起动套件

核心技术栈

本项目基于以下三个关键技术:

  1. Neon (无服务器PostgreSQL): 提供自动扩展的无服务器PostgreSQL数据库,无需管理底层基础设施,非常适合数据分析项目。

  2. Airflow (通过Astronomer): 用于自动化ETL工作流程。本项目使用Airflow从CoinGecko获取历史和实时加密数据,并将其存储到Neon数据库中。

  3. Streamlit: 构建基于Python的交互式仪表板的简易方法。只需编写Python脚本,Streamlit即可自动生成用户界面。

数据流向

Airflow定时从CoinGecko API提取加密货币数据,Neon数据库高效地存储这些数据,方便后续查询。Streamlit应用读取存储的数据,并将其可视化在交互式仪表板中。

Secure Python Code Sandbox
Secure Python Code Sandbox

安全 Python 代码沙箱:在隔离的沙箱中执行任意 Python 代码,预装 requests、NumPy、pandas 库。返回 stdout、stderr。

下载

项目结构

项目采用模块化结构,清晰易懂:

├── astronomer/    # Airflow DAGs for ETL jobs
│   ├── dags/
│   ├── Dockerfile
│   ├── requirements.txt
├── frontend/      # Streamlit app code
│   ├── app.py
│   ├── Dockerfile
│   ├── requirements.txt
├── .pre-commit-config.yaml
├── compose.yaml
└── README.md
  • astronomer/:包含用于数据摄取的Airflow DAGs。
  • frontend/:包含Streamlit应用程序代码。

Docker支持 所有组件都支持Docker,方便部署和管理。

本地运行项目

  1. 克隆仓库:
git clone https://github.com/olgazju/data_analytics_dashboard_starter_kit.git
cd data_analytics_dashboard_starter_kit
  1. 设置Python虚拟环境: (请根据您的系统调整命令)
brew install pyenv pyenv-virtualenv
pyenv install 3.12.0
pyenv virtualenv 3.12.0 da_kit
pyenv local da_kit
  1. 使用Docker运行: 确保已安装Docker,然后运行:
docker-compose build

仪表板将在http://localhost:8501 上运行。

部署

  • 部署Airflow DAGs: 导航到astronomer/文件夹,并使用Astronomer平台部署DAGs。
  • 部署Streamlit应用程序: 使用Streamlit Cloud托管应用程序。连接您的GitHub仓库,Streamlit Cloud将自动处理部署。

下一步

如果您对数据分析感兴趣并希望快速上手,不妨尝试使用这个数据分析仪表板启动器套件。您可以fork仓库,尝试不同的数据源,并分享您的成果。欢迎提供反馈和建议!

热门AI工具

更多
超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

6127

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2588

2023.08.10

github中文官网入口 github中文版官网网页进入
github中文官网入口 github中文版官网网页进入

github中文官网入口https://docs.github.com/zh/get-started,GitHub 是一种基于云的平台,可在其中存储、共享并与他人一起编写代码。 通过将代码存储在GitHub 上的“存储库”中,你可以: “展示或共享”你的工作。 持续“跟踪和管理”对代码的更改。

8625

2026.01.21

GitHub官网入口版本汇总
GitHub官网入口版本汇总

本专题整合了GitHub入口版本地址汇总,阅读专题下面的文章了解更多详细内容。

918

2026.04.02

k8s和docker区别
k8s和docker区别

k8s和docker区别有抽象层次不同、管理范围不同、功能不同、应用程序生命周期管理不同、缩放能力不同、高可用性等等区别。本专题为大家提供k8s和docker区别相关的各种文章、以及下载和课程。

765

2023.07.24

docker进入容器的方法有哪些
docker进入容器的方法有哪些

docker进入容器的方法:1. Docker exec;2. Docker attach;3. Docker run --interactive --tty;4. Docker ps -a;5. 使用 Docker Compose。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

5939

2024.04.08

docker容器无法访问外部网络怎么办
docker容器无法访问外部网络怎么办

docker 容器无法访问外部网络的原因和解决方法:配置 nat 端口映射以将容器端口映射到主机端口。根据主机兼容性选择正确的网络驱动(如 host 或 overlay)。允许容器端口通过主机的防火墙。配置容器的正确 dns 服务器。选择正确的容器网络模式。排除主机网络问题,如防火墙或连接问题。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6997

2024.04.08

docker镜像有什么用
docker镜像有什么用

docker 镜像是预构建的软件组件,用途广泛,包括:应用程序部署:简化部署,提高移植性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2733

2024.04.08

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

60

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn