바쁜 직장인의 일기장

요즘 엔비디아 주가가 하늘을 찌르고 있다. 왜 그럴까 생각해 보면 여러 기업들이 AI를 도입하면서 고성능의 GPU가 필요해졌고, 엔비디아를 대체한 만한 기업이 없기 때문이라고 생각된다. 그렇다면 기업들은 어떤 AI을 도입하려고 이렇게 많은 고성능의 GPU가 필요한 것일까 하면, 가장 유명한 LLM 모델인 Chat GPT처럼 대화형 모델을 적용하려고 할 수도 있고, 머신러닝을 통해 운영하는 서비스의 장애 포인트를 찾아낼 수 있고, 혹은 자율주행 모델을 개발하는 데 쓸 수 도 있을 것이다. 이유가 어찌됐든 현재에는 AI가 없으면 안 되는 시대가 되고 있는 것 같다. 그래서 오늘은 이렇게 기업에서 개발한 AI 모델들이 어떻게 관리되고 있는지에 대해 알아보려고 한다. 우리는 이것을 MLOps라 부른다.MLOps..