Python 썸네일형 리스트형 Docker기반의 RESTful api로 pytorch model 배포하기[5-5] Flask RESTful을 이용하여, HTTP로 호출할 수 있는 RESTful api 만들기 학습한 모델의 weight와 graph를 하나의 파일로 만들기(torchscript) 보안을 위해, 2번에서 만든 torchscript파일을 encryption하기 보안을 위해, cython을 이용하여 python script를 library형태로 만들기 Docker image 만들고 배포하기 마지막으로 docker 기반으로 image를 만들고 해당 image를 배포하는 방법에 대해 기록을 남겨본다. 앞서 RESTful api와 encryption된 model file 그리고 cython으로 build된 native library를 만들었다. 이를 docker 기반의 가상환경으로 옮기고 docker 환경에서 RE.. 더보기 Docker기반의 RESTful api로 pytorch model 배포하기[4-5] Flask RESTful을 이용하여, HTTP로 호출할 수 있는 RESTful api 만들기 학습한 모델의 weight와 graph를 하나의 파일로 만들기(torchscript) 보안을 위해, 2번에서 만든 torchscript파일을 encryption하기 보안을 위해, cython을 이용하여 python script를 library형태로 만들기 Docker image 만들고 배포하기 앞선 글에서는 torchscript 파일을 암호화하여 model의 구조를 타인이 보지 못하도록 하였다. 그러나 application이나 구조에 따라서는 중요한 코드가 model에 포함되어 있지 않거나, post-process코드가 성능에 큰 영향을 끼쳐서 중요할 경우에는 파일을 암호화하는 것보다 code를 암호화하는 것이 .. 더보기 Docker기반의 RESTful api로 pytorch model 배포하기[3-5] Flask RESTful을 이용하여, HTTP로 호출할 수 있는 RESTful api 만들기 학습한 모델의 weight와 graph를 하나의 파일로 만들기(torchscript) 보안을 위해, 2번에서 만든 torchscript파일을 encryption하기 보안을 위해, cython을 이용하여 python script를 library형태로 만들기 Docker image 만들고 배포하기 지난 글까지는 RESTful api를 만들고 pytorch를 이용하여 학습한 모델을 이용하기 위해서, 이를 torchscript 형태로 변환하였다. 아래와 같이 torchscript로 변환된 모델을 save&load 할 수 있는데 ''' save ''' traced_net.save(traced_path) ''' load '.. 더보기 Docker기반의 RESTful api로 pytorch model 배포하기[2-5] Flask RESTful을 이용하여, HTTP로 호출할 수 있는 RESTful api 만들기 학습한 모델의 weight와 graph를 하나의 파일로 만들기(torchscript) 보안을 위해, 2번에서 만든 torchscript파일을 encryption하기 보안을 위해, cython을 이용하여 python script를 library형태로 만들기 Docker image 만들고 배포하기 지난 글에서는 flask restful을 이용해서 restful api를 만들었었다. 이제 web상에서 HTTP method를 이용하여 restful api를 호출할 수 있게 되었다. 다음으로 할 것은, POST method를 구현하기 위해 post 함수 내부에서 image를 매개변수로 받고 model로 prediction.. 더보기 Docker기반의 RESTful api로 pytorch model 배포하기[1-5] 백엔드에 대해서는 따로 배운적은 없지만.. 예전부터 model을 만드는 것부터 배포하는 것까지의 과정을 한번 해보고 싶긴 했었다. 해당 과정에 대한 기록을 남겨두기 위해서 오랜만에 블로그를 열었다 :) pytorch로 model 학습을 완료한 상태라고 가정을 하고, 해당 model을 restful 형태로 service하는 과정을 남겨본다. 대략적인 순서는 아래와 같음. Flask RESTful을 이용하여, HTTP로 호출할 수 있는 RESTful api 만들기 학습한 모델의 weight와 graph를 하나의 파일로 만들기(torchscript) 보안을 위해, 2번에서 만든 torchscript파일을 encryption하기 보안을 위해, cython을 이용하여 python script를 library형태로.. 더보기 이전 1 다음