Back-propagation 과 2006/2007 ‘딥’의 출현

해당 게시물은 Edwith에서 제공하는
머신러닝과 딥러닝 BASIC을 듣고 요약 정리한 글입니다.


CIFAR

  • Canadian Institute For Advanced Research
  • 아무도 Neural Network에 관심이 없을 때 지원을 해준 단체
  • 많은 딥러닝 엔지니어가 캐나다 출신인 이유


Breakthrough

  • Hinton and Bengio (2006, 2007)
  • Deep한 신경망은 학습 시킬 수 없다고 알고있었으나
    초기의 Weight값을 잘 설정하면 학습이 가능하다.
  • Neural Network라는 이름을 사용하지 않고
    Deep Nets, Deep Learning이라는 이름 사용
  • 사람들이 신경망에 관심을 다시 갖기 시작


Deep Learning의 발전

2010년 26.2%였던 오류 발생률이 2012년 15.3%가 되었고
계속 발전해 2015년에 만든 Deep Learning기반으로 만든
모델은 오류 발생률이 3%대가 되었다.

  • Neural Network 그림을 설명할 수 있게 되었다.
  • Deep API Learning (현재 65% 정도의 정확도)
  • 알파고
  • etc..


왜 딥러닝을 알아야하는가?

연구원이나 컴퓨터 공학 전공 학생도 아닌데 왜 알아야 하는가?

  • 데이터를 가지고있는 경우
  • 어떤 것을 팔고있는 경우
  • 비지니스를 하는 경우

다음과 같은 경우 딥러닝을 알고있으면 좋다.
실생활의 많은 곳에 딥러닝이 사용되고 있기 때문이다.


왜 지금 해야하는가?

  • 학생이나 연구원인 경우
    • 세계적 전문가가 되기에 늦지 않았다.
    • 그렇게 많이 복잡하지는 않다. (수학적으로)
  • 시험적으로 쓰고싶은 사람
    • 현재 90퍼센트 이상의 정확도를 갖는다.
    • TensorFlow같은 공개된 툴이 많다.
    • Python같은 사용하기 쉬운 언어가 있다.