2wnswoo 님의 블로그

Reminding five algorithms using deep learning teqnique Overview of the Restricted Boltzmann Machine , RBM 1. Model proposed by Paul Smolensky in 1986RBM is initially proposed under the name Harmonium by Paul Smolensky in 1986, and rose to prominence after Geoffrey Hinton  2. RBM is utilized in unsupervised learning in machine learning and it is useful in recommending video( like Netflix ) and re..

1. 순환 신경망( Recurrent Neural Network, RNN )  1. 기존 대부분의 신경망 : 매 순간 단일 데이터의 인식, 분석이 가능  2. 순환 신경망 : k번째 들어온 데이터를 Xk라고 하고 , 그에 따른 은닉층 계산 결과를 hk, k번째 결과 Yk를 생성할 때, h1:k-1을 활용  3. 시간에 따른 데이터 사이의 패턴 인식 가능  4. 음악, 작사 작곡, 언어번역, 주가 예측 등에 활용 가능  5. 역전파에 의해 영향 받는 뉴런이 많아지므로, 학습이 불안정하거나 느림  6. 긴 기간의 데이터는 분석 성능 낮음 = 과거 정보 잊어버림 2. 장단기 메모리( Long Short-Term Memory, LSTM )  1. 장기 기억이 어려운 RNN의 단점 보완을 위한 기법  2. 장기기..

1. Overview of the types of deep learningModels, types of learning algorithmsMajor research areaConvolutional Neural Networkvideo perception, computer visionRecurrent Neural Networkvoice perception, weather/stock price predictionRestricted Boltzmann Machineclassification, 회귀 분석Deep Belief Networkwriting, voice perceptionGenerative Adevrsarial Network (생산적 적대 신경망 )음성, 영상 복원, 생성, 변조 2. Meaning of ..

1. 딥러닝과 심층신경망 개요  1. 심층 신경망( Deep Neural Network, DNN ) : 많은 수의 은닉층이 적층된 신경망 모델  2. 심층 신경망 ⊂ 인공 신경망  3. 딥러닝( Deep learning ): 심층신경망을 학습하기 위해 다양한 알고리즘을 적용해 학습하는 기법( 알고리즘, 컨볼루션 레이어 등 )  4. 딥러닝은 AlphaGo, ChaGPT, 영상, 음성 등의 패턴 인식과 분석 등에 활용  5. 기울기 소멸( Vanishing Gradient ) 문제 직면2. 네오코그니트론( Neocognitron )  1. 1970년대 Cognitron 발표, 1980년대 Neocognitron 발표  2. 손글씨 숫자, 문자 인식 연구, 일그러짐이나 크기, 각도 변화에도 인식 강인하다. ..

인공 신경망( Artificial Neural Networks )이란 무엇인가?  1. 인공 신경망 : 동물의 생물학적 신경( 뉴런 )을 모방한 모델  2. 뉴런의 작동 방식    1. 각 뉴런이 다른 뉴런과 연결되어 하나의 회로를 만듦    2. 외부로부터 자극( 입력 )을 특정 회로에 통과시켜 반응생성    3. 아래와 같이 인공 신경망 도식화 가능    4. 인공 신경망의 각 부분별 용도      - 노드 :  입력된 신호를 합치고,  활성화 함수를 이용해 비선형화       - 연결선 : 데이터를 연결된 강도에 따라 다음노드에 전달  노드라는 것은 입력 신호를 받아서 가중치를 곱하고 더한 후, 활성화 함수를 통해 최종 출력을 생성하는 역할을 하는 것. 이렇게 함으로써 신경망은 더 복잡한 문제를 해..