


๐ฆ Partition & ๐งฒ Clustering ์ ๋ฆฌ
ํ ์ค ์์ฝ
- Partition ๐ ๋ฐ์ดํฐ๋ฅผ “ํฐ ๋ฉ์ด๋ฆฌ”๋ก ๋๋
- Clustering ๐ ๊ทธ ์์์ “๋น์ทํ ๊ฐ๋ผ๋ฆฌ” ๋ชจ์๋
1๏ธโฃ Partition (ํํฐ์ )
๊ฐ๋
๐ ํ ์ด๋ธ์ ๋ ์ง/๋ฒ์ ๊ธฐ์ค์ผ๋ก ๋ฌผ๋ฆฌ์ ์ผ๋ก ์ชผ๊ฐฌ
orders ํ
์ด๋ธ
โโ 2024-01-01
โโ 2024-01-02
โโ 2024-01-03
์ ์ฐ๋?
- ํ์ํ ํํฐ์ ๋ง ์ฝ์
- ์ฟผ๋ฆฌ ๋น์ฉ ↓
- ์๋ ↑
์ธ์ ์ฐ๋?
- ๋ ์ง ์กฐ๊ฑด์ด ๊ฑฐ์ ํญ์ ์์
- WHERE order_date >= '2024-01-01'
๐ ๋ก๊ทธ, ์ฃผ๋ฌธ, ์ด๋ฒคํธ ๋ฐ์ดํฐ = ๋ฌด์กฐ๊ฑด ํํฐ์
์ค๋ฌด ๊ท์น (์ด๊ฑฐ ์ค์)
- โ ์๊ฐ ์ปฌ๋ผ (date / timestamp)
- โ user_id, category ๊ฐ์ ๊ณ ์ ๊ฐ X
- ํ๋ฃจ ๋จ์๊ฐ ๊ธฐ๋ณธ
2๏ธโฃ Clustering (ํด๋ฌ์คํฐ๋ง)
๊ฐ๋
๐ ํํฐ์ ์์์ ํน์ ์ปฌ๋ผ ๊ธฐ์ค์ผ๋ก ์ ๋ ฌ + ๋ฌถ๊ธฐ
2024-01-01 ํํฐ์
โโ user_id = 1
โโ user_id = 1
โโ user_id = 2
โโ user_id = 2
์ ์ฐ๋?
- ํน์ ์ปฌ๋ผ์ผ๋ก ์์ฃผ ํํฐ/์กฐ์ธ
- ์ ์ฒด ์ค์บ ์ค์ด๋ฆ
์ธ์ ์ฐ๋?
- WHERE / JOIN์ ์์ฃผ ๋ฑ์ฅํ๋ ์ปฌ๋ผ
- WHERE user_id = 123
๐ user_id, product_id, country ๊ฐ์ ๊ฒ๋ค
3๏ธโฃ Partition vs Clustering ์ฐจ์ด ํ๋์
๊ตฌ๋ถ Partition Clustering
| ๊ธฐ์ค | ๋ ์ง/๋ฒ์ | ์ปฌ๋ผ ๊ฐ |
| ํฌ๊ธฐ | ํผ | ์๋์ ์ผ๋ก ์์ |
| ํจ๊ณผ | ์ค์บ ๋์ ์์ฒด ๊ฐ์ | ์ค์บ ํจ์จ ์ฆ๊ฐ |
| ํ์ ์ฌ๋ถ | ๊ฑฐ์ ํ์ | ์์ผ๋ฉด ์ข์ |
| ๋น์ฉ ์ ๊ฐ | โญโญโญโญ | โญโญ |
4๏ธโฃ ๊ฐ์ด ์ฐ๋ฉด ์ด๋ ๊ฒ ๋จ (์ ์)
PARTITION BY DATE(order_date)
CLUSTER BY user_id, product_id
์ฝ๋ ์์
- ๋ ์ง ํํฐ์ ์ ํ
- ๊ทธ ์์์ user_id ๋ฌถ์ ํ์
๐ ์ฑ๋ฅ + ๋น์ฉ ์ต์ ์กฐํฉ
5๏ธโฃ ์ค๋ฌด์์ ์์ฃผ ํ๋ ์ค์ โ
- ํํฐ์ ์ ๋๋ ๋ ๋๋ ์์ ํ ์ด๋ธ์ ํํฐ์
- ํํฐ์ ๋๋ฌด ์๊ฒ ์ชผ๊ฐฌ (์๊ฐ ๋จ์)
- ํด๋ฌ์คํฐ๋ง ์ปฌ๋ผ์ ๋๋ฌด ๋ง์ด ๋ฃ์
๐ ํํฐ์ 1๊ฐ + ํด๋ฌ์คํฐ 1~2๊ฐ๊ฐ ๋ณดํต ์ต์
6๏ธโฃ dbt / DW ๊ธฐ์ค ์ถ์ฒ ํจํด
Silver (DW Core)
- PARTITION BY date
- CLUSTER BY business_key
Gold (DM / Fact)
- PARTITION BY date
- CLUSTER BY join_key
7๏ธโฃ ๋ฉด์ ์ฉ 20์ด ๋ต๋ณ (์ธ์๋ ๋จ)
“Partition์ ํ ์ด๋ธ์ ๋ ์ง ๊ฐ์ ํฐ ๊ธฐ์ค์ผ๋ก ๋๋
์ค์บ ๋ฒ์๋ฅผ ์ค์ด๋ ๋ฐฉ์์ด๊ณ ,
Clustering์ ํํฐ์ ๋ด๋ถ์์ ์์ฃผ ์กฐํ๋๋ ์ปฌ๋ผ ๊ธฐ์ค์ผ๋ก
๋ฐ์ดํฐ๋ฅผ ์ ๋ ฌํด ์ฝ๊ธฐ ํจ์จ์ ๋์ด๋ ๊ธฐ๋ฒ์ ๋๋ค.
์ค๋ฌด์์๋ ๋ณดํต ๋ ์ง๋ก ํํฐ์ ํ๊ณ ,
์กฐ์ธ์ด๋ ํํฐ์ ์์ฃผ ์ฐ๋ ์ปฌ๋ผ์ผ๋ก ํด๋ฌ์คํฐ๋งํฉ๋๋ค.”
๋ง์ง๋ง ํต์ฌ ๋ฌธ์ฅ
๐ Partition์ ‘์ด๋๊น์ง ์ฝ์์ง’,Clustering์ ‘์ด๋ป๊ฒ ๋นจ๋ฆฌ ์ฐพ์์ง’๋ค.
'DataEngineering > Architecture' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
| Medallion Architecture ์ ๋ฆฌ (0) | 2026.01.30 |
|---|---|
| DW / DM ๊ตฌ์ถ ์ฒดํฌ๋ฆฌ์คํธ (0) | 2026.01.30 |