벌써 글또 7기가 끝날 시점이 되어, 글또 7기 회고를 해보게 되었습니다.
7기에서 썼던 글 리스트를 확인해보니 다짐글을 시작으로, 아래와 같이 여러 주제로 글을 작성했네요.
- huggingface/transformers에 컨트리뷰트 해보기
- [ML OPS] transformers inference (ft. colab, onnx, gpu)
- [ML OPS] quantization을 활용한 인퍼런스 최적화 (ft. ONNX, TensorRT)
- argo workflow - cron workflow
MLOPS로 커리어를 변경하고 글또 7기를 시작해서 huggingface의 transformers에 컨트리뷰트도 해보고, inference 최적화하는 방법들을 정리해서 소개도 해보았고, mlflow와 argo workflow도 간단하게 활용해보고 소개를 해보았습니다.
mlflows는 아직 도입을 검토 중이지만, argo workflow는 현재 회사에서도 실제로 팀에 도입해서 사용도 하고 있어서, 좋은 공부였던 것 같네요.
MLOPS가 커버하는 범위가 워낙 넓다보니, 데이터베이스를 활용하는 백엔드 서버도 개발도 해야했고 파이썬으로는 ORM을 처음 사용해보았는데 django보다는 flask와 fastapi를 활용하고 있어서 SQLAlchemy를 활용하기로 결정하여 공부해서 서비스도 개발을 해보았습니다.
글또 7기 다짐글에서 MLOPS에 대해서 어느정도 주관이 생길 수 있으면 좋겠다고 적었었는데, 아직도 확실하게는 모르겠지만 그래도 처음보단 많이 주관이 생긴 듯 합니다.
기존 DEVOPS의 역할을 모두 커버하면서, ML에 좀 더 잘 맞추어 안정적인 서비스 운영이 제일 우선이고 데이터 관리, 모델 관리, 실험 관리 등등을 위한 자동화를 하는 역할이 MLOPS라는 직군이 해야할 일이 아닐까하고 생각이 되네요.
글또 7기를 하는 동안에 블로그엔 쓰지 않았지만, 업무에서는 kubernetes 상에서 GPU를 활용하여 서비스 할 수 있도록 인프라를 구성하고 회사 정책에 맞추어 CI/CD 작업도 했는데 한번도 소개를 하지 못해서 아쉬움이 살짝 남는 것 같습니다.
글또 7기를 하면서 다짐했던 것들을 많이 지켰기에 많이 뿌듯합니다.
글또 8기가 시작한다면 또 계속하게 될 것 같네요.
7기 회고는 이렇게 마무리 해보도록 하겠습니다.