2wnswoo 님의 블로그

RNN, LSTM, Gradient Explosion, Gradient Clipping, Norm, Scaling, Standardization, Pruning, Quantization, Pooling, Knowledge Distillation

RNN 모델의 핵심은 루프가 있다"라는 것이다.그 루프를 펼쳐보면, 히든 투 히든 스테이트로 연결고리가 있다.Norm선형대수학에서 놈은 벡터의 크기( Magnitude ) 또는 길이 ( length )를 측정하는 방법이다. 놈은 크게 Vector norm 과 Matrix norm으로 나눌 수 있고 L1, L2, Frobenius norm 등 여러가지 계산방법에 따라 어떻게 정의 하느냐에 따라 그 값이 달라진다. 따라서, 놈을 다룰때는 어떤 norm인지 명확히 제시해야한다. L1 norm ( 맨하탄 놈 )L2 norm ( 유클리드 놈 ) = 원점( 0,0 )에서 떨어진 점의 거리 공식이다.Gradient Clipping딥러닝에서 역전파( Backpropagation ) 시 계산된 gradient ( 기울기..

Autonomous Car-자율주행차에서 인지기술이란?

자율주행차 인지 기술이란? : 센서로부터 얻은 신호를 분석하여 차량 주변의 환경에 대한 정보를 얻는 과정을 의미자율주행에서 주변환경 요소에는 크게 두 가지로 나눌 수 있음1. 동적 환경 객체 : 시간에 따라서 그 위치와 상태가 계속해서 변화할 수 있는 객체 Ex. 타 차량, 보행자, 사이클리스트, 바이크2. 정적 환경 객체 : 위치가 잘 변하지 않는 객체 Ex. 차선, 건널목 횡단보도, 신호등, 교통표지판, 중앙 분리대 등인지기술에서는 어떤 일을 해야할까?1. 동적 객체의 검출 및 추적동적 객체의 검출이란 것은, 센서 신호를 분석하여 주변 동적 객체의 위치와 종류를 판별함동적 객체의 추적이라는 것은, 매 시점마다 얻은 검출 결과를 시간적으로 연결하여 추적함같은 객체끼리 시간 변화에 따라 변하는 객체를 서..