강의확인

Unet

  • 나온 배경은 의료계열의 데이터부족
    • 전문가의 라벨링이 필요
    • 개인정보라 얻기 어려움
  • 이미지의 segmentation의 구분이 어려움
    • 확대한 이미지다 보니 class구분하는 경계가 희미한 경우가 많다.
  • contracting path, expanding path가 대칭을 이룸
    • contracting path - 입력이미지 특징 추출
    • expanding path - localization이 가능하도록, upsampling
  • 특징
    • 인코더가 1024까지 증가하여 고차원 정보를 매핑
    • 각각의 게층의 인코더출력을 디코더와 결합하여 이전 레이어 정보를 활용
  • 사용된 기술
    • augmentation
      • random elastic deformation
        • 이미지를 약간 찌르거뜨리는 효과
      • sliding window
        • 특정크기의 window로 이미지를 자른다.
        • 특정이미지는 배경만, 부분이미지만, 자른게 겹치는 부분이 존재
    • weight map 생성
      • 같은클래스가 인접할때, 경계를 더욱 구분할 수 있도록
  • 한계
    • 깊이가 4로 고정
    • 단순한 skip connection

Unet++

  • Unet의 단점을 극복하기위해
  • deep skip connection을 적용
    • 이전의 모든 upsampling들과, feature들을 사용
  • loss
    • pixel wise cross entropy
    • soft dice coefficient
    • 합쳐서 사용
  • 한계
    • 파라미터가 증가
    • 많은 connection으로 메모리증가
    • fullscale에서 충분한정보를 탐색하지 못한다고 한다.

Unet 3+

  • full-scale skip connection
  • 기술
    • classification guided module(CGM)
      • false positive해결을 위해(틀린것을 맞다고 한것)
    • full scale deep supervision
      • focal loss, ms-ssim loss, iou를 같이 사용

그외 unet

  • 인코더를 mobile net, efficeintnet으로 대체한 unet도 존재

피어세션

  • resnet101써보니 성능올랐다.
  • deeplab resnet 101, iou기반 적용
    • 55이상되었다.
  • focal loss의 감마는 낮을수록 좋았다.
    • 0.8정도
  • optimizer
    • adamp, adamw 해보기

오늘 한일

  • unet++학습

어떻게 했는지

  • 베이스코드에서 모델을 변경하여 진행

좋았던 점

아쉬운 점

  • 모델을 변경했는데 오래 걸린 시간이 걸려 학습이 완료
  • 완료된 모델을 test를 진행해서 submission.csv를 만드는데 버그하나로 진행이 안됨
    • 모델 변경하였지만 pretrained가 아니어서 오래걸리고, 성능도 떨어져있었다.