Data Engineering

Data Engineering taxonomy generated by the site skill importer.

12 個技能
A
clickhouse-io

作者 affaan-m

clickhouse-io 是一個以 ClickHouse 為核心的技能,涵蓋 schema 設計、分析型 SQL、資料匯入模式與效能調校。可用來引導 MergeTree 的選擇、分區、materialized views,以及依工作負載進行查詢最佳化。

資料庫工程
收藏 0GitHub 156.1k
C
Snowflake Automation

作者 ComposioHQ

Snowflake Automation 協助 agents 使用 Composio MCP 來探索 Snowflake databases、瀏覽 schemas 與 tables、執行 SQL,並在包含 role、warehouse、filter、timeout 與安全脈絡的條件下管理資料庫工程工作流程。

資料庫工程
收藏 0GitHub 67.5k
C
big-data-cloud-automation

作者 ComposioHQ

big-data-cloud-automation 可協助代理程式透過 Composio Rube MCP 自動化 Big Data Cloud 任務,先探索目前的工具 schema、檢查連線狀態,並規劃更安全的執行流程。

工作流自動化
收藏 0GitHub 67.4k
W
airflow-dag-patterns

作者 wshobson

airflow-dag-patterns 可協助設計可用於正式環境的 Apache Airflow DAG,提供更完善的任務模式、相依關係、operators、sensors、測試與排程工作部署指引。

定时任务
收藏 0GitHub 32.6k
W
data-quality-frameworks

作者 wshobson

data-quality-frameworks 技能可協助團隊規劃正式環境的資料驗證,涵蓋 dbt tests、Great Expectations 與 data contracts。可用來選擇合適的檢查項目、對應到 testing pyramid,並規劃適合 Data Cleaning 與資料管線穩定性的 CI/CD 資料品質工作流程。

数据清洗
收藏 0GitHub 32.6k
W
dbt-transformation-patterns

作者 wshobson

dbt-transformation-patterns 可協助代理將 dbt 專案整理為 staging、intermediate 與 marts 分層,並涵蓋 testing、documentation 與 incremental model 的實務指引。適合用來評估是否安裝、建立新 repo 骨架,或將既有 SQL 重構為更清晰的 analytics engineering 模式,特別適用於 Database Engineering 團隊。

資料庫工程
收藏 0GitHub 32.6k
W
spark-optimization

作者 wshobson

spark-optimization 是一份實用指南,協助診斷執行緩慢的 Apache Spark 工作,重點涵蓋 partitioning、shuffle、skew、caching 與記憶體調校。你可以用它從 wshobson/agents 安裝此技能、閱讀 SKILL.md,並根據 Spark UI 徵兆、叢集設定與查詢模式,採取有憑有據的最佳化修正。

性能优化
收藏 0GitHub 32.6k
A
chief-data-officer-advisor

作者 alirezarezvani

chief-data-officer-advisor 是面向新創資料決策的策略型 CDO skill,涵蓋 AI training data rights、warehouse vs lakehouse vs mesh strategy、customer-data asset valuation、M&A readiness,以及 data team hiring。它提供決策支援用的參考資料與 Python tools,重點不在戰術型 data engineering。

Strategic Planning
收藏 0GitHub 22.1k
A
cdo-review

作者 alirezarezvani

cdo-review 是一項 Chief Data Officer 審查 skill,用來在正式承諾前,對資料策略計畫、AI training data rights、架構選擇、資料產品化、M&A diligence,以及資料團隊招募進行壓力測試。

Strategic Planning
收藏 0GitHub 22.1k
M
data-analytics

作者 markdown-viewer

data-analytics skill 會為資料分析工作流程產生 PlantUML 圖表,涵蓋 ETL、ELT、data lake、warehouse、streaming pipeline、log analytics 與 BI dashboard。它特別針對清楚的來源到目的地流程、AWS analytics/database stencil,以及實用的 data-analytics 指南式輸出而最佳化,不是用來畫一般軟體或雲端架構圖。

数据分析
收藏 0GitHub 1.1k
T
tinybird-python-sdk-guidelines

作者 tinybirdco

tinybird-python-sdk-guidelines 可協助你安裝並使用適用於 Python Tinybird 專案的 tinybird-sdk。內容涵蓋 datasources、endpoints、clients、connections、從舊版檔案遷移,以及 backend 開發工作流程,並提供 build 與 deploy 指引。

後端开发
收藏 0GitHub 16
K
lamindb

作者 K-Dense-AI

lamindb 技能可協助你使用 LaminDB——一個開源的生物資料框架,讓資料具備可查詢、可追蹤、可重現與 FAIR 特性。適合用於 lamindb 的資料分析、metadata 整理、基於 ontology 的標註、schema 驗證,以及跨 notebooks 與 pipelines 的 lineage-aware 工作流程。

数据分析
收藏 0GitHub 0