Screenshot 2023-07-28 at 3.58.21 PM.png

매주 새롭게 추가되는 법률 상담 사례들을 데이터셋에 추가하여 주기적으로 모델을 다시 학습시키기 위해 Airflow를 활용한 모델 학습 파이프라인을 구축했습니다. 일주일마다 HuggingFace 저장소에 올라온 새로운 데이터셋을 가져와 모델에 입력 가능한 형태로 전처리한 뒤, HuggingFace의 Trainer로 모델 학습을 진행합니다. 학습이 끝난 모델은 모델 서버에서 사용 가능하도록 HuggingFace의 저장소에 업로드했습니다.