Review of Artificial Intelligence 01

Process of the start and advancement of Neural Network

1. 1943 / 맥컬럭-피츠 모델( 신경망을 논리회로 모델링 )

  - 각 노드 뉴런을 나타냄, 신호 전달 시 0,1로 전달하여 논리 회로로 설명

2. 1949 / 도날드 헵이 뉴런 간 신경 강도 강화 규칙 제시

  - 이후, 노드 간 연결 강도 모델링에 영향

3. 1957 / 로젠블럿의 단층 퍼셉트론( 마크1 퍼셉트론 )

  - 다수의 아날로그 신호 연결망으로 일부 문자를 구별하고 인식

4. 1969 / '퍼셉트론즈' 저서에서 한계 제시

  - 인공지능의 아버지라고 불리는 MIT 민즈키 교수의 저서

  - XOR과 같은 비선형 분리 불가 한계 제시

5. 1984 / 다층 퍼셉트론, 역전파 알고리즘에 의해 재부흥

  - 1~2개의 은닉층의 추가로 XOR 등 비선형 분리 문제 해결

  - 컴퓨터 성능 부족으로 학습이 오래 걸리고, 많은 수의 은닉층 활용 불가

    = 복잡한 문제는 해결 불가

6. 2006년 깊은 은닉층 가지는 딥러닝 발표

  - 2020년대 현재까지 활발한 연구 수행 됨

Three Major Neural Network Models

1957 / 로젠블럿 / 마크1 퍼셉트론 ( Devlopment of perceptron model ) 

1984 / 데이비드 루멜하트 / 다층 퍼셉트론 ( Development of Learning Algorithms through Backpropagation ) 

2006 / 제프리 힌튼 / 심층 신뢰 신경망 ( Solution to the vanishing gradient problem )

 

마크1 퍼셉트론 > 퍼셉트론 발전 계기

다층퍼셉트론 > 역전파알고리즘 , 기울기소멸문제 발생

심층신뢰신경망 > 기울기소멸문제 해결