Data Engineering

전체 글 11

하위 카테고리

Apache Airflow - 설치하기 (Docker Compose)

Apache Airflow의 개념과 장단점을 소개하고, Docker를 이용한 Airflow 설치 과정을 단계별로 안내합니다. DAG 구조와 워크플로우 이해, Docker Compose를 활용한 로컬 환경 구축, 웹 UI를 통한 Example DAG 실행까지 다룹니 …
Apache Airflow의 개념과 장단점을 소개하고, Docker를 이용한 Airflow 설치 과정을 단계별로 안내합니다. …
Cover Image

[Python] 만개의 레시피 데이터 수집

최근 레시피 생성을 목적으로 한 사이드 프로젝트에 참여하게 되었는데 모델 학습을 위한 만개의 레시피 데이터 크롤링을 진행해보았습니다. 스키마 구성 # 기존엔 레시피 명칭과 음식 재료 정보만을 수집할 계획이었지만, 만개의 레시피의 각 페이지를 살펴보면서 추가적으로 가 …
최근 레시피 생성을 목적으로 한 사이드 프로젝트에 참여하게 되었는데 모델 학습을 위한 만개의 레시피 데이터 크롤링을 진행해보았습니 …

[Python] requests로 네이버 스마트스토어센터 로그인 구현하기 (3)

앞선 네이버 로그인 구현 과정을 통해 네이버 로그인에 대해 이해하고 스마트스토어센터 로그인 결과로 얻을 수 있는 쿠키 값의 일부를 획득했습니다. Copy python cookies = { "NNB": "...", …
앞선 네이버 로그인 구현 과정을 통해 네이버 로그인에 대해 이해하고 스마트스토어센터 로그인 결과로 얻을 수 있는 쿠키 값의 일부를 …

[Python] requests로 네이버 스마트스토어센터 로그인 구현하기 (2)

이번 게시글에서는 스마트스토어센터 페이지에서 데이터를 수집하는 자동화 프로그램을 제작하기 위한 첫 번째 과정으로 네이버 로그인을 구현할 것입니다. 앞선 게시글에서 데이터를 수집하는 방식에 대해 알아보면서 로그인이 필요한 페이지에 접근하기 다음과 같은 쿠키 값이 필요 …
이번 게시글에서는 스마트스토어센터 페이지에서 데이터를 수집하는 자동화 프로그램을 제작하기 위한 첫 번째 과정으로 네이버 로그인을 …