티스토리챌린지 3

DB schema migration tools 리서치

(2023-12-12 에 작성한 자료) 사용 중인 DBMS: ClickHouse사용 중인 언어: Python, TypeScript한 줄 요약: 쓰던 거 쓰기로 했다 🥲 발단기존에는 팀별로 각각의 데이터베이스를 사용하고 있다가 제품 통합이 일어나면서 여러 팀이 하나의 데이터베이스를 사용하게 되었고, 공동의 스키마 관리가 필요하게 되었다.스키마의 상태를 편하게 알아볼 수 있는 도구가 필요하다고 느꼈고, 시각화 뿐 아니라 db에 migration 자동화 + 각자의 사용 언어로 변환까지 되면 좋겠다고 생각했다.대표적으로 Python, TypeScript를 사용 중현행 alembic + clickhouse-sqlalchemy의 한계alembic은 clickhouse에 대해 완벽한 migration 자동화가 이뤄..

개발 이야기 2024.11.26

"한 권으로 배우는 도커 & 쿠버네티스" 도서 리뷰

이 책을 읽게 된 이유와 읽기 전 나의 지식 수준참여 중인 개발자 커뮤니티에서 이 책으로 스터디를 하게 되었다.도커는 업무에서 많이 활용해 봤어서 도커는 거의 아는 내용이었고,쿠버네티스는 예전에 쿠버네티스로 airflow 띄워보려고 미니큐브 설치해보고, 노트북 자원 부족으로 컨테이너가 계속 죽어서 삽질하다가(처음엔 원인을 몰랐다) 포기했던 정도의 경험이 있었다.그래서 도커 파트에서는 가볍게 참여하고 쿠버네티스 파트를 목적으로 스터디에 참여하게 되었다. 책의 내용 우선, 이 책의 실습은 Windows 위에서 가상화 소프트웨어를 통해 Ubuntu 가상 머신 세 대를 띄워서 진행된다.그리고 나머지 작업들은 거의 putty를 이용한 쉘 환경에서 진행된다.실습 환경 세팅에 한 챕터가 할애되었다. 도커 파트:도커 ..

개발 이야기 2024.11.25

"차세대 빅데이터 플랫폼 Data Lake" 도서 리뷰

이 책을 읽게 된 이유최근에 본 개발자 직무 면접에서 '데이터 거버넌스에 참여해 본 경험은 있으신가요?' 라는 질문을 받았는데, 데이터 거버넌스라는 용어의 뜻을 몰라서 대답을 잘 하지 못했다.그래서 데이터 거버넌스에 대해 알아보고 싶어서, 자주 가는 도서관에 데이터 거버넌스로 검색해서 나온 책들 중 한 권이 이 책이었다.   책의 내용데이터 웨어하우스(DW)의 진화된 버전으로 데이터 레이크를 구축하여 쓰자는 내용을 필두로,  0. 왜 데이터 웨어하우스가 아닌 데이터 레이크여야 하는지  1. 데이터 레이크 플랫폼을 기술적으로 어떻게 설계할지  2. 데이터 레이크 플랫폼을 어떻게 도입하고 운영하고 관리할지에 대해 다루고 있다 0. 왜 데이터 웨어하우스가 아닌 데이터 레이크여야 하는가회사 내 데이터들을 데이터..

개발 이야기 2024.11.14