[ML&AI] 딥러닝 모델 안드로이드 환경 구축 고민

AWS EC2에서 GPU 사용해서 

텐서플로우 모델을 aws 인스턴스에서 사용하기 위해서 CPU인스턴스에서 GPU가 제공되는 인스턴스로 변경해야 했다 

 

*️⃣ 모델 연산은 CPU 로도 사용할 수 있지만 복잡한 행렬 연산에 최적화 되어 있지 않아 속도가 매우 느리다

*️⃣ 메모리 용량이 낮으면 모델과 데이터 로드하기에 부족해서 문제가 발생할 수 있다 

 

g5.xlarge 인스턴스 사용시 시간당 1불이상의 비용이 발생하고 이건 사용할때 시간이 아닌 인스턴스를 생성 한 이후로부터 과금되는 시스템이다 💦

 

 

TensorFlow Lite

안드로이드 내부에 탑재 

 

• MobileNetV2 (이미지 분류): 약 3.5MB
• YOLOv5s (객체 감지): 약 27MB
• BERT (자연어 처리): 약 400MB (압축 전)

*️⃣ .tflite 모델 파일을 안드로이드 assets 폴더 에 추가

*️⃣ TensorFlow Lite 라이브러리를 추가