[MLOps] MLOps란?

 

 

🌟MLOps란?

Machine Learning Operations의 약자로, 머신 러닝 모델을 효과적으로 관리, 배포 및 유지보수하기 위한 방법과 프로세스를 가리키는 용어를 말한다.

 

MLOps는 머신 러닝 모델을 제품 또는 서비스로서 실제 환경에 효율적으로 통합 즉, 상품화하는 작업을 지원한다.

---

🌟용어 정리

1. 머신러닝 상품화

AI 모델을 실제 서비스에 통합하여 상업적으로 활용 가능한 형태로 전환하는 과정이다.
머신러닝 모델은 연구 단계에서 멈추지 않고, 실제 사용자들이 사용할 수 있는 시스템에 적용되어야 한다. 이 과정에서 모델을 안정적으로 배포하고 관리하는 기술이 중요하다.

2. DevOps

DevOps는 Development(개발) + Operations(운영)의 합성어로,
소프트웨어 개발과 IT 운영 간의 협력, 통합 및 자동화를 강조하는 소프트웨어 개발 및 배포 프로세스 문화를 의미한다.
개발팀과 운영팀이 긴밀히 협력하여 제품을 빠르게 개발하고 안정적으로 배포하는 것을 목표로 한다.

3. 자동화

반복적으로 사람의 손이 필요한 작업을 소프트웨어를 통해 자동으로 처리하는 과정이다.
개발과 시스템 운영에서 서버 설정, 애플리케이션 배포, 모니터링 등을 자동화하여 생산성과 안정성을 높인다.
특히, 인프라(서버, 네트워크 등)를 코드로 관리하는 것이 자동화의 핵심이다.

4. CI & CD (지속적 통합 및 지속적 배포)

• CI (Continuous Integration) :
  코드 변경 사항을 빠르게 통합하고, 이를 자동으로 품질 검증하는 과정이다.
  코드가 자주 병합되기 때문에 개발 속도가 빨라지고, 버그를 조기에 발견할 수 있다.
• CD (Continuous Delivery) :
  소프트웨어 버전 업데이트를 자동으로 배포하고, 고객에게 빠르게 제공하는 프로세스다.
  배포 과정을 자동화하여 안정적으로 지속적인 서비스 업데이트가 가능하다.

---

🌟머신러닝, 연구실에서 서비스로 - 목표와 현실의 간극

1. 이해 관계자들의 목표 차이

• 데이터 사이언티스트와 ML 엔지니어 : 좋은 성능의 머신러닝 모델을 설계하고 훈련하는 데 집중한다.
• 인프라 엔지니어와 백엔드 엔지니어 : 안정성을 중요시한다.

따라서, 연구(Research) 단계의 머신러닝과 실제 서비스(Production) 단계의 머신러닝은 개발 방향이 다르다.

2. 대기시간 vs 처리량

• Research ML : 처리량(Throughput)을 중요시한다.
• Production ML : 대기시간(Latency)을 중요시한다.

3. 데이터의 차이

• Research ML :
  • 데이터가 깔끔하고 정형화되어 있다.
  • 모델 개발과 훈련에 집중할 수 있다.
• Production ML :
  • 데이터가 지저분하고 노이즈가 많다.
  • 데이터의 구조가 복잡하고, 지속적으로 변화한다.
  • 개인정보 보호 및 규제 문제를 고려해야 한다.
  • 정답 레이블이 존재하지 않을 수 있으며, 데이터가 편향될 가능성이 있다.

4. ML Fairness(공정성)에서의 차이

• AI Fairness : AI의 추론 결과가 모든 인간에게 동등하게 적용되어야 한다는 개념이다.
• 문제점 : ML 모델은 학습 데이터에서 패턴을 학습하기 때문에, 불균형한 데이터나 편견을 반영해 불공정성을 야기할 수 있다.
• Research ML : Fairness는 선택적이고 필수 사항이 아니다.
• Production ML : Fairness는 매우 중요한 요소로, 기업의 이미지와 비즈니스 성과에 직결된다.

5. Interpretability(해석 가능성)

• Interpretability : AI가 왜 그러한 결정을 내렸는지 설명할 수 있는 능력이다.
• 중요성 : 신뢰성, 투명성, 편향 식별, 법적 및 윤리적 이슈 대응에 필수적이다.
• Research ML : XAI(설명 가능한 AI)와 같은 연구가 활발하지만 필수 사항은 아니다.
• Production ML : 해석 가능성은 매우 중요한 요소로, AI 시스템의 신뢰성과 비즈니스 성공에 큰 영향을 미친다.

---

🌟머신러닝 시스템과 DevOps와 MLOps의 비교

1. 머신러닝 시스템이란?

• 머신러닝 시스템은 모델의 개발, 배포, 운영을 지원하는 시스템이다.
• 모델의 생애주기 전반을 관리하고 최적화하기 위한 접근 방식이다.

2. 머신러닝 시스템의 주요 원칙

• DevOps의 원칙과 유사하지만, 머신러닝 시스템은 모델 모니터링, 모델 버전 관리 등의 프로세스가 추가된다.
• 머신러닝 특화된 프로세스가 강조되어, 데이터와 모델의 지속적인 관리와 개선이 필수적이다.

3. DevOps와 MLOps의 공통점

• 자동화의 필요성이 매우 중요하다.
• DevOps에서 소프트웨어 개발 및 배포를 자동화하는 것처럼, MLOps에서는 모델 개발, 훈련, 배포, 모니터링 등 머신러닝 전 과정에서 자동화가 핵심이다.

4. DevOps와 MLOps의 차이점

1. 대상

• DevOps (전통적인 소프트웨어) : 소프트웨어 개발 및 운영 프로세스 개선
• 머신러닝 시스템 : 데이터로부터 학습하고 패턴을 발견

2. 목적

• DevOps : 소프트웨어 릴리즈 주기를 단축하고 서비스 운영을 개선
• 머신러닝 시스템 : 소프트웨어 목적에 더해 데이터 분석과 예측을 통해 의사 결정을 지원하거나 자동화

3. 프로세스

• DevOps : CI/CD + 프로그래밍
• 머신러닝 시스템 : CI/CD + 데이터 준비, 엔지니어링, 모델 학습, 평가 및 예측의 복잡한 단계

4. 검증

• DevOps : 품질 검증
• 머신러닝 시스템 : 품질 검증 + 예측 결과 해석

5. 해석 가능성

• DevOps : -
• 머신러닝 시스템 : 매우 중요함

6. 도구와 기술

• DevOps : CI/CD 도구
• 머신러닝 시스템 : CI/CD 도구 + 머신러닝 프레임워크 + 데이터 시각화 도구

7. 협업 및 의사소통

• DevOps : 소프트웨어 개발팀 + 운영팀
• 머신러닝 시스템 : 데이터 과학자, 엔지니어, 비즈니스 전문가, 영업팀

8. 데이터 규모

• DevOps : Small Data
• 머신러닝 시스템 : Big Data

 

---

 

✏️공부하며 느낀점

대학원에서 연구를 진행하면서, 단순히 모델의 성능을 높이는 것에만 집중했던 때가 있었다. 하지만 시간이 지나면서 개발한 모델을 실제 사용자들이 사용할 수 있는 서비스로 어떻게 전환할 수 있을지에 대한 궁금증이 커졌다. MLOps라는 직무가 존재한다는 것을 알고 나서, 머신러닝 모델을 단순히 개발하는 것을 넘어, 이를 실제 환경에 배포하고 운영하는 과정이 얼마나 중요한지 깨닫게 되었다.

 

특히, 모델 개발 이후의 단계인 데이터 엔지니어링, 모델 서빙, 모니터링, 그리고 지속적인 성능 개선이 서비스의 성패를 가른다는 점이 흥미로웠다. 연구 단계에서는 모델의 정확도를 높이는 데 집중했지만, 실제 현업에서는 안정성, 효율성, 그리고 확장성이 필수 요소라는 것을 알게 되었다.

 

MLOps는 단순한 기술적 역할을 넘어, 데이터 과학자, 소프트웨어 엔지니어, 그리고 인프라 엔지니어 간의 협업을 조율하는 역할을 한다는 점에서 더욱 매력적으로 느껴졌다. 모델이 단순히 '좋은 성능'을 내는 것만으로는 부족하며, 실제 환경에서 일관된 성능을 유지하고, 예측 결과를 신뢰할 수 있도록 보장하는 프로세스가 필요하다는 것을 깨달았다.

 

이를 통해, 머신러닝의 연구와 실제 서비스 간의 간극을 좁히는 데 MLOps가 중요한 역할을 한다는 점을 이해하게 되었고, 앞으로 이 분야에서 더 깊이 있는 경험을 쌓고 싶다는 동기부여가 되었다.

 

앞으로는 MLOps에서 사용되는 다양한 기술들을 탐구하고, 분야별로 현업에서 어떤 파이프라인이 설계되고 운영되는지 직접 조사하고자 한다.

 

이를 통해, 이론적인 지식뿐만 아니라 실제 프로젝트에서의 적용 방식을 깊이 있게 이해하고, 머신러닝 모델을 안정적으로 배포하고 관리하는 역량을 키우는 것을 목표로 하고 있다! 아자아자:)

 

 

 

 

 

 

 

Ref. [패스트캠퍼스] 10개 프로젝트로 한 번에 끝내는 MLOps 파이프라인 구현 초격차 패키지 Online