ML inference란

  ML Life Cycle

    ML의 구조는 두개의 main parts 로 구성되어있는데, 첫번째는 Training phase로 machine learning model을 만들고 학습시키는 과정이다. 두번째는 Machine learning inference로 model에 실제 data를 넣어 output을 만드는 과정이다. 이 둘의 차이점은 트레이닝은 ML 알고리즘을 활용하여 모델을 만드는데 있다. training data set을 활용하고 validation으로 검증하는 deep learning으로 pytorch 나 tensorflow를 활용하는게 training이다. inference는 미리 트레이닝 된 모델을 가지고 예측하는 것이다.

  

 

ML Traing과 Inference 출처 : https://www.steatite-embedded.co.uk/what-is-ai-inference-at-the-edge/

 Machine Learning Inference

  Machine learning (ML) inference란 machine learning model을 dataset에 적용해서 output 또는 prediction 결과물을 얻는것을 말한다. output은 수치형자료, 텍스트, 이미지 등 다양한 형태로 표현된다.

  ML inference 에는 3가지 요소가 필요하다. a data source, a machine learning system, data destination. data source는 다양한 자료. ML system은 알고리즘을 활용해 데이터를 분석하는데 사용한다.