Airflow DAG 개념 톺아보기 (설치/실행 과정 포함)
딥상어동의 딥한 프로그래밍/엔지니어링2024. 10. 13. 17:18Airflow DAG 개념 톺아보기 (설치/실행 과정 포함)

들어가며최근 들어, 팀 내에서도 그리고 글또에서도 새로운 환경에서 ETL 파이프라인을 구축해 볼 기회가 생김에 따라 Airflow를 이전보다는 조금 더 깊게 알아야 할 필요성이 생겼다. 이에 따라, Airflow를 공부하며 관련된 내용들을 정리해보는 중인데, 오늘은 나와 같은 초보자의 관점에서 Airflow를 테스트 환경을 구성하고 DAG을 만들고 실행하는 과정에서 몇 가지 기본적인 개념들을 다루어보고자 한다.DAG란?Airflow is a platform that lets you build and run workflows. A workflow is represented as a DAG (a Directed Acyclic Graph), and contains individual pieces ..

파이썬 퍼널 분석 코드 - (feat. 이 코드... 어디서 많이 봤는데? 기분 탓이겠지?)
나라는 존재/생각2024. 9. 8. 01:45파이썬 퍼널 분석 코드 - (feat. 이 코드... 어디서 많이 봤는데? 기분 탓이겠지?)

- 최근, 인스타 광고(데이터 분석 광고)를 통해 우연찮게 제가 예전에 썼던 "파이썬으로 퍼널 분석 하는 글"과 유사한 이미지를 발견하였습니다.- 처음에는 반가운 마음이 들었습니다. 어? 나도 비슷한 내용으로 글썼었는데..!https://gibles-deepmind.tistory.com/entry/Pandas-%ED%8D%BC%EB%84%90%EC%B0%A8%ED%8A%B8-%EB%8D%B0%EC%9D%B4%ED%84%B0%ED%94%84%EB%A0%88%EC%9E%84%EC%9C%BC%EB%A1%9C-%ED%91%9C%ED%98%84%ED%95%B4%EB%B3%B4%EA%B8%B0 [Pandas] 퍼널차트 데이터프레임으로 표현해보기0. 퍼널 차트몇 명이나 깔때기를 통과할까?  좌측 퍼널 차트는 얼마나 ..

당신을 통제하는 감정은? - 인사이드 아웃2 후기
나라는 존재/생각2024. 7. 2. 19:36당신을 통제하는 감정은? - 인사이드 아웃2 후기

지난주 주말, 인사이드 아웃2 영화를 봤다. 원작의 경우, 기쁨/화남/슬픔/까칠/소심 5가지의 감정만 있었지만 주인공인 '라일리'가 고등학교 진학을 앞두며 다루는 문제들이 복잡해지고 이에 따라 불안/질투/당황 등의 감정이 추가됐다. 새로 등장한 감정들이 라일리의 문제 해결에 있어어떤 역할을 하는지 관찰하는 것이 인사이드 아웃2의 묘미라고 할 수 있다. 영화 초반 라일리는 친구들과 하키 캠프를 떠난다. 하지만, 친구 2명은 이미 다른 고등학교에 배정을 받은 상황.다른 고등학교에 가게 된 라일리는 친구들을 못 사귈까봐 전전 긍긍하는 상황. 여기서 "불안" 이라는 감정이 등장한다. 딱 봐도 정신 없어 보이는 "불안"은 모든 상황을 통제하고, 예측할 수 없는 상황에 대비하고자 한다."기쁨이"가 라일리의 유년시절..

유의미함이란? (1) - 가설과 표집분포
딥상어동의 딥한 통계학2024. 4. 14. 23:58유의미함이란? (1) - 가설과 표집분포

- 가짜연구소에서 "온라인 통제 실험 연구자로 거듭나기"라는 이름의 A/B테스트 스터디에 참여하고 있다. 현재 까지, 온라인 통제 실험 소개 및 분석 기초 Chapter2 실험의 실행과 분석 - 엔드 투 엔드 예제 Chapter6 조직 운영을 위한 지표 Chapter7 실험을 위한 지표와 종합 평가 기준 (OEC) - 위 주제들로 총 4번의 스터디를 진행하였고, Chapter17 온라인 종합 대조 실험에 사용되는 통계 이론 챕터를 내가 맡게 되어 오늘은 겸사 겸사 책에 대한 내용을 블로그에 적어보려 한다. 흡연은 통계의 필요성을 알려주는 주요 요인 중 하나이다. - 플레처 네벨 - Chapter의 첫 장에 나오는 문장이다. 플레처 네벨씨는 왜 저런 말씀을 남기셨을까? 궁금해서 찾아봤더니, 이분 꽤 유명한..

분석가라는 배역에 몰입하기 위해
나라는 존재/생각2024. 3. 31. 23:54분석가라는 배역에 몰입하기 위해

들어가며 https://sports.khan.co.kr/entertainment/sk_index.html?art_id=202403310920003&sec_id=540401&pt=nv ‘파묘’ 끝나지 않는 1위 영화 ‘파묘’(감독 장재현)가 끝없는 1위 행진을 이어가고 있다. 31일 영화진흥위원회 영화관입장권 통합전산망 집계결과 ‘파묘’는 전날 18만3474명이 관람해 박스오피스 정상을... sports.khan.co.kr - 어제부로 나도 1,000만 파묘 관람객 대열에 합류했다. - 영화 중 가장 인상 깊었던 장면은 김고은 배우님의 대살굿 장면 - 이 분 예전에 진짜 대살굿을 해보신 적이 있나?라는 생각이 들정도로 상당히 자연스러운 연기였다. 당연히, 김고은 배우님은 대살굿은 커녕 그 근처에 ..

아직끝나지 않은 24년 1분기에 대한 회고 (feat. 아직 한발 남았다)
나라는 존재/생각2024. 3. 17. 08:54아직끝나지 않은 24년 1분기에 대한 회고 (feat. 아직 한발 남았다)

들어가며 - 무기력감이 나를 감싸는 요즘이다. (적절한 짤이 없어 지훈이 형님 짤로 대체.. 압도적인 무기력함이 나를 감싸네..?) - 그동안은 피해왔던 이 무기력감에 대해.. 오늘은 피하지 않고 한번 정면으로 마주하는 글을 써보고자 한다. 그리고, 아직 1분기가 끝나지 않았기에 마지막 총알 한발은 어디에다 쏴야 할지도 적어보려고 한다. 무...기...력...함... - 해가 가면 갈수록 부쩍 말끝마다 ...을 붙이게 된다. 기사 인터뷰에 응하신 아버지는 말씀에 따르면 단정적으로 딱 짤라 말하기 어려울 때, 여지를 남기는 표현이라고 하시는데 - 생각해보면 나도 비슷한 마음으로 사용하는 것 같다. - 소름 돋는건 내가 물결도 많이 쓴다는 사실이다 아~~~ 이렇게... 나도... 나이가 들어가는 것인가~..

연말 성과작성 - 누구보다 빠르게 난 남들과는 다르게
나라는 존재/생각2024. 2. 18. 23:32연말 성과작성 - 누구보다 빠르게 난 남들과는 다르게

들어가며 - 두둥! 직장인들의 머리를 절로 쥐어 뜯게 만드는 연말 성과 작성 시간이 왔다. - 아, 보통 12월 말 ~ 1월 초에 적으니 지금 시점에는 거의다 적으셨을 것 같다. - 하지만, 직장인들 모두의 공통 공감대는 같을 것 같은데.. 그것은 바로 나 작년에 뭐했지? 내 성과가 뭐지? - 에 대한 생각이다. 그래서, 보통은 작성 마지막날 모니터 한쪽에는 평가화면이 떠 있는 진풍경?이 펼쳐진다. - 나도 그랬다. 마지막날.. 몰아서.. 머리를 쥐어 뜯으며.. 처음 적을때는 그러려니 하고 적었는데 두 번째 적을 때는 작성 마지막날 머리를 쥐어 뜯으며 적고 있으니 정말 괴로웠다 - 그러다 문득, 이거 빨리 적으려면 어떻게 해야지?에 대해 고민하게 됐고 몇 가지 생각을 고쳐먹으니 재작년과 작년은 작성 첫 ..

100 - 1 = 0? 내 분석 결과가 의미 없어지는 사소한 이유들
나라는 존재/생각2024. 1. 7. 23:32100 - 1 = 0? 내 분석 결과가 의미 없어지는 사소한 이유들

Intro - 한 건의 분석 결과를 낼 때마다 종종 드는 생각이 있다. 이 가설 까지 봤어야 했는데, - 왜 이런 생각이 드는 것일까 - 어쩌면, 보지 못한 그 한 가지 가설 때문에 내가 지금까지 했던 분석들이 쓸모없게 느껴져서 그런지도 모르겠다. - 만약, 100 - 1 = 0 이냐고 물어본다면 누군가는 사소한 것에 집착하지 말라는 의미로 100 - 1 = 99 라고 할 수도 있고, 다른 누군가는 디테일을 중요하게 생각하는 의미로 100 - 1 = 0 이라고 할 수도 있다. - 무엇이 정답인지는 상황마다 다르겠지만, 한 가지 때문에 내가 들인 노력을 0으로 만드는 것보다는 그래도 99는 했다고 말하는 편이 더 낫다는 것을 우리 모두는 알고있다. - 그럼, 어떻게 해야 100 - 1 = 0의 늪으로 들..

글또 9기를 시작하며 - 겨울은 새로운 사계절의 시작
나라는 존재/생각2023. 11. 27. 00:04글또 9기를 시작하며 - 겨울은 새로운 사계절의 시작

들어가며 - 불과 한달전이라는 것이 믿기지 않을 정도로 이번 연도 10월 한달 간, 나한테는 정말 많은 일들이 있었다. - 그 중에서도 가장 기억에 나는 일은 "집주인과의 보증금 분쟁"이다. 뉴스에서 나오는 전세사기는 아니었지만, 세입자가 구해지지 않으면 돈을 줄 수 없다고 주인 분이 얘기를 한 탓에 한달 간 정말 많은 마음 고생을 했었다. - 법무사님과 만나기도 하고, 사내 변호사분과 통화를 하기도 하고 내용증명에 각종 서류 법적 서류 준비에 정말 바쁜 한달이었다. 비슷한 일을 겪으셨던 같은 회사분이 당시에 도움을 주셨는데, 실질적인 도움도 도움이었지만 심적으로도 정말 많은 위로가 되었다. - 어찌됐든, 만기일이 일주일이 지나기는 했지만 법적인 분쟁으로 가지 않고 운이 좋게도 돈을 다 돌려받을 수 있..

3년차 데이터 분석가의 23년 상반기 회고
나라는 존재/생각2023. 7. 16. 16:363년차 데이터 분석가의 23년 상반기 회고

글또 8기가 끝나며, 마무리로 23년 상반기를 되돌아보려고 한다. 2년간 세 번 글또에 참여한 후기 - 6기부터 8기, 횟수로 3번째 글또가 끝났다. - 글또는 개발자 글쓰기 커뮤니티이다. - 2주에 한 번 글을 쓰고, 커피챗, 글또콘 등 다양한 커뮤니티 활동도 지원한다. - 올해로 직장에서 일한지도 3년이 지났다. - 묘한 연관성이 있어보이는 3이라는 숫자, 처음 직장에 입사하고 1년동안은 퇴근 외 시간을 잘 활용하지 못했다. - 메이크 타임 같은 책도 읽어보고, 타임 트래커 모임도 참여했었다. 하지만, 책에 있는 내용은 제대로 실천하지 못했고 타임 트래커 모임에서도 중간에 하차하였다. - 그러다가, 글또 커뮤니티 공고를 보고 참여하게 됐다. 그리고, 2년이라는 시간 동안 글또는 내 생활을 유지시켜주..

image