[YOLO - darkflow] CUDA_ERROR_OUT_OF_MEMORY, CUDNN_STATUS_ALLOC_FAILED 오류 해결 방법

※ CUDA_ERROR_OUT_OF_MEMORY, CUDNN_STATUS_ALLOC_FAILED 오류 해결 방법

 

→ 올해 4월에 논문쓰면서 해결했는데 게을러서 이제 올리네요..

      구글링 + stackoverflow를 매우매우매우 열심히 검색했고.. 결국 문제를 해결했습니다.

 

    그래픽 카드 사양이...좋지 않기때문에...............생기는 문제였습니다..

     gpu 와 batch를 이렇게 수정하면 됩니다. 

 

    (dell 7577 inspiron 노트북 gtx 1060max-q 기준)

 

     gpu 1.0 = gpu를 100% 쓰겠다. 이므로 0.3 정도로 해주면 돌아갑니다.

     0.4부터 제 노트북은 오류가 납니다..

     내가 0.3도 이 오류가 뜬다! 하면 0.1로 내리고 좀씩 올려보세요.

 

python flow --model cfg/yolo.cfg --load bin/yolo.weights --demo videofile.mp4 --saveVideo ↓ python flow --demo videofile.mp4 --model cfg/yolo.cfg --saveVideo --load -1 --gpu 0.3 batch 5

 

커스텀 학습 시에도 

python flow --model cfg/yolo.cfg --load bin/yolo.weights --train --annoation train/Annotations --dataset train/Images --load -1 --gpu 0.3 --batch 5  형태로 넣어주세요.

 

 

아래 올린 포스팅을 참고해주세요.

 

https://reyrei.tistory.com/32

YOLO Darknet, darkflow 개인적으로 생각하는 팁