Google Cloud データ基盤コース / Chapter 07

dbt応用 — ECデータをBronzeからGoldの分析モデルへ育てる

Chapter 07 で何を学び、次の章へ何を渡すのかを整理するページです。

入力を正しい名前で受ける
中間変換で複雑さを閉じ込める
Goldを意思決定の形にする
01

入力を正しい名前で受ける

Bronzeの外部テーブルをsourceとして宣言する。

生データの揺れをそのまま下流へ渡さず、stagingで型・列名・キーを整える。

マスタ系とトランザクション系では更新のされ方が違う。
入力を正しい名前で受けるの概念図
左から右へ追い、最初に固定すべき入力・責任の境界を読む。
02

中間変換で複雑さを閉じ込める

SilverとIntermediateは、業務指標を作る前の整形と結合を担う。

snapshotで履歴を残し、共通の結合ロジックは再利用可能なモデルに分ける。

モデル間の依存をrefで表し、変更の影響範囲を追えるようにする。
中間変換で複雑さを閉じ込めるの概念図
中央の区切りを見て、変換・権限・品質の担当がどこで変わるかを読む。
03

Goldを意思決定の形にする

DimensionとFactでスタースキーマを組み、BIが読みやすいマートを提供する。

日付パーティションとクラスタリングは、よく使う絞り込みと結合に合わせる。

速さだけでなく、指標の定義を一箇所に固定することが目的である。
Goldを意思決定の形にするの概念図
終点から逆にたどり、次の章へ渡す成果物と運用確認点を読む。
TAKEAWAY

この章を終えたら