[Boostcamp 12주차] 피어세션과 학습 회고 & 실험일지

Day - 50

피어세션

1. 이번주는 강의, 스페셜 미션 해결을 우선적으로, 이후 방법론 제시

2. EDA 진행

3. 캐글 솔루션 분석

학습회고

오늘부터 시작하는 segmentation competition overview에 대한 강의와 글을 보고 주어지는 Data를 이해하는데 시간을 보냈다.

실험일지

1. mmsegmentation을 사용하기위해 git clone -> dataset 구조가 달라 어떻게 해야할지 모름

Day - 51

피어세션

1. 코테 리뷰

2. 강의 질의응답

학습회고

강의에서 FCN부터 문제점을 개선해나아가는 모델들을 소개해주고 구조나 코드 구현에 대한 전반적인 이해가 많이 되었던 것 같다. 대부분 반복적인 구조이기 때문에 하나의 모델을 이해한다면 비슷한 모델은 어렵지 않게 이해할 수 있을 것 같다.

실험일지

1. 아침부터 mmsegmentation을 사용하기 위해 삽질을 시작 -> annotation에 mask 이미지 파일을 넣어줘야했음 -> 주어진 데이터를 mmseg에 맞게 수정 -> mmseg의 dataset로 새롭게 정의

Day - 52

피어세션

1. 강의 질의응답

2. 멘토링 계획

3. Dense CRF Discussion

학습회고

어제와 같이 문제점들을 개선해나가는 모델들을 설명해주는 강의를 들었다. 온 신경이 Pstage에 쏟아져있어서 별 생각이 안들었다....

실험일지

1. iteration 방식으로 학습을 하니 loss도 잘 안줄어들고 소요 시간이 상당히 오래걸림 -> 14시간 학습 후 inference 결과가 이상하게 나옴 -> iteration 방식을 epoch 방식으로 변경하고 이전 mmdetection과 비슷하게 수정 -> dataset에서 reduce_zero_label=True로 지정하면 0번 클래스를 무시하기 때문에 reduce_zero_label 부분을 삭제-> config에서 data 항목에 train, val, test에도 reduce_zero_label=True라고 지정되어있어서 삭제 후 다시 돌림 -> inference 후 결과가 0.08밖에 안나옴.... 문제가 뭐지... val set에서는 mIoU가 0.4정도 나오는데...
2. SOTA에 있는 hrnet+ocr 논문을 보니 RMI(Region mutual information loss)를 기본 loss로 사용했고 CE를 auxiliary loss function으로 사용했다고 한다. -> 다음에 돌릴때는 논문에 나와있는대로 설정하고 돌려봐야겠다. -> RMI는 나중에 적용하고 optimizer와 lr_scheduler만 변경하여 다시 돌림

Day - 53

피어세션

1. 누리호 발사 시청

2. 코테 리뷰

3. TMI 시간을 가짐

학습회고

오늘은 Pstage에 집중하느라 강의를 못 보았지만 RMI Loss와 HRNet에 대한 논문을 보면서 어떻게 생겼는지 보았다.

실험일지

1. SGD, lr_config(poly)로 변경하여 24epoch 돌림 -> 11 epoch까지 돌리는데 이전보다 성능이 안좋음
2. 이전에 돌린 모델 checkpoint를 load 하여 다시 돌림 -> batch size 16으로 수정 -> 시간이 오래걸리는 문제를 해결하고 다시 RMI Loss와 Multi scale을 적용하여 돌림 -> 24 epoch 결과 mIoU가 0.41밖에 안나옴
3. Microscope image types clustering을 시도

Day - 54

피어세션

1. 멘토링

2. 캐글 솔루션 정리

학습회고

U-Net과 실험 해봐야할 사항들에 대한 강의를 모두 몰아보았다. U-Net은 어떤 구조인지 이해할 수 있었고 Pstage를 위한 어떤 실험이 있는지 알 수 있었다.

실험일지

1. 어제 돌린 hrnet+ocr을 SGD, lr_config(poly)로 변경하여 다시 돌림 -> Multi scale은 0.5, 0.75, 1.25, 1.5, 1.75로 설정 -> 중간에 멈춤
2. cv2.imwrite로 mask를 저장하면 class number로 이루어진채로 저장이되므로 학습 시간이 대폭 줄어듬 -> mask 이미지 변경 후 기본 schedule을 사용하여 iteration 160000번 시도