Parameter Sharing(CNN), Rolling Shutter

 

Principle of Convolution Computation

 

 

 

입력과 출력에 따라 네 가지로 모델링 해볼 수 있다.

하늘색 박스가 input, 초록색이 output, 노란색이 sequence

 

many-to-many 에서,

첫 번째는 translation 같이 즉시 결과값이 나오는 것에 해당.
두 번째는 Q n A 처럼 입력값이 다 입력된 후에 결과 값이 나올 수 있는 것들임

 

--

 

CNN은 Parameter Sharing을 통해 MLP 대비 Parameter의 수를 줄일 수 있었다.

*sharing : 공유하는 것

CNN (합성곱 신경망)

CNN은 필터(커널) 하나를 이미지 전체에 적용하면서 특징을 추출합니다. 즉, 같은 가중치(필터)가 이미지의 모든 위치에 적용됩니다.

파라미터의 수 계산:

• 필터 크기 = 3×3 (즉, 9개의 가중치)
• 필터 하나가 이미지 전체에 사용되기 때문에, 학습해야 하는 파라미터의 수는 9개입니다.

👉 중요 포인트:

• MLP의 경우: 학습해야 할 파라미터 수가 100,352개.
• CNN의 경우: 학습해야 할 파라미터 수가 단 9개.

CNN이 “파라미터의 수를 줄인다” 라는 말은 이처럼 필터 하나의 가중치를 여러 위치에서 반복해서 사용하는 것으로 전체 가중치 수를 크게 줄일 수 있다는 뜻입니다.

--

 

• MLP (Multi-Layer Perceptron):
  • 입력의 모든 노드와 다음 층의 모든 노드가 연결되니까, 이미지 크기가 크면 가중치의 수가 엄청나게 많아져.
  • 예를 들어, 28×28 이미지를 128개의 은닉층 뉴런으로 연결하려면 100,352개의 가중치가 필요하다고 했었지.
  • 학습해야 할 파라미터(가중치)가 많으니까, 학습 속도도 느리고, 과적합(overfitting) 문제도 발생하기 쉬워.

---

• CNN (Convolutional Neural Network):
  • 이미지의 특정 특징(엣지, 패턴 등)을 찾기 위해 필터(커널) 하나를 이미지 전체에 걸쳐 반복해서 사용(=Parameter Sharing) 해.
  • 예를 들어, 3×3 필터라면 가중치는 딱 9개만 학습하면 돼.
  • 가중치의 수가 확 줄어들고, 중요한 특징을 잘 뽑아낼 수 있어서 학습 속도도 빠르고, 과적합 위험도 줄어들어.

 

따라서,

Parameter Sharing이란?

CNN에서 "Parameter Sharing", 파라미터 공유는 말 그대로 작은 필터(커널)를 이미지 전체에 걸쳐 반복해서 사용하면서 특징을 추출하는 과정 을 말한다.

 

 

따라서, 

 

Convolutional Neural Network(CNN)에서 같은 층의 Feature는 같은 Parameter를 이용해 추출된다.

 

맞는 선지이다.

같은 파라미터 = 같은 필터 = 같은 커널

 

--

Q.롤링 셔터 현상(왜곡)이란?

A. 디지털 카메라 등으로 고속 피사체를 촬영한 경우에 피사체가 왜곡되어 촬영되는 현상

 

 

대부분의 일반 카메라에는 CMOS 센서가 들어가 있음.

 

따라서,

카메라가 영상을 취득할 때 센서 Array의 모든 Pixel값을 동시에 취득하지 않는경우 롤링셔터 효과가 발생하여 이미지의 왜곡이 발생 할 수 있다. 

 

--

 

 

 

 

These materials are derived from the Multi-view Geometry and Artificial Intelligence for 3D Perception developed by Professor PARK Jin-sun from PNU.