2wnswoo 님의 블로그

[Machine Learning] norm, normalization

norm : vertor나 tensor의 크기 또는 길이를 측정하는 방법normalization : vector의 크기 또는 길이를 1로 만드는 작업여기서 vetor의 크기의 의미는,제곱합을 한 것에 제곱근을 씌운 것을 의미한다. 여기서 normalization을 하면, 벡터의 크기가 1로 만드는 작업이므로,  다음과 같이 나타낼 수 있다.

[Machine Learning] Scaling, Z-score, 전처리 과정

Scikit-learn에서 Scaling은 데이터의 값 범위를 일정한 범위로 조정하거나 특징들 간의 크기 차이를 조정하는 과정이다.scale 조정 기법 중 가장 간단한 방법이, min-max scaling StandardScaler 함수는 데이터를 평균이 0, 표준편차가 1인 형태로 변환해주는 함수다.이때, 값이 0과 1사이에 무조건 들어와야하는 것은 아니며, 가우시안 분포를 따른다고 할 때, 저 범위를 넘어가는 수도 충분히 존재할 수 있다. 그러나 왠만한 값들은 저 범위안에 들어간다*아웃라이어, Outlier : 전체 데이터의 흐름에서 벗어난 튀는 값을 말한다. 이상치라고도 한다.Z-score : 데이터가 평균에서 얼마나 떨어져 있는지를 "표준편차 단위"로 나타낸 값Z = 0 평균과 같음Z = 1 평균..

hidden to hidden connection으로 계속해서 정보를 전달한다. 인코더의 마지막 hidden state가 과거의 모든 정보를 가지고 있어야한다는 문제점이 존재 > information bottleneck 현상 발생  따라서 디코더는, 인코더의 마지막 hidden state를 받을때 문제가 발생한다. 이를 해결하기 위하여 Attention이 등장 core idea, 핵심 아이디어는, 인코더에서 어느 부분을 좀 더 핵심적으로 바라볼지 attention score를 계산하고 direct connection을 만들어줌

어텐션 : 정보 중에서 중요한 것에 집중하는 기술우리가 뭔가를 볼 때나 읽을 때 중요한 부분에 집중하는데, 컴퓨터가 그것을 흉내 내는 것 기계가 문장을 처리할 때, 각 단어가 다른 단어들과 얼마나 관련 있는지를 수치로 계산함.이것을 Attention Score 이라고 함. --입력의 각 요소가 다른 요소들과의 관계(유사도)를 계산해서, 중요한 정보에 더 큰 가중치를 주고, 그걸 기반으로 새로운 표현을 만드는 것 기본구조 : Scaled Dot-Product Attention 왜 중요한가?위치 무관한 관계 파악 가능 > CNN보다 더 유연멀티모달 입력 처리에 최적 > 이미지, 센서 등문맥 기반의 정보 재구성이 탁월 결론 :어텐션은 정보 간의 중요도 관계를 학습하고 반영하는 방식Transformer 모델이 ..

회로 보호 목적고전압, 고전류로부터 보호역극성(역전류)으로부터 보호전원의 +극과 –극이 반대로 연결된 상태*역극성 : 전압이나 전류의 방향이 정상적인 방향과 반대로 연결된 상태를 의미회로 보호를 위한 3가지 소자다이오드역전류 차단 역할정류 작용: 교류를 직류로 바꾸는 데 사용역방향 시 저항이 매우 커짐제너 다이오드역방향 연결 시 특정 전압 이상에서 저항이 급격히 낮아짐과전압 상황에서 회로 보호 가능광분리기 (Opto-isolator)LED + 광 트랜지스터로 구성전기적으로 절연하면서 신호 전달고전압 회로나 노이즈 환경에서 제어 회로 보호에 사용*절연 : 전기가 통하는 도체 사이에 전류가 흐르지 않도록 막는 것을 의미필터기본 개념필터링: 특정 주파수는 통과, 나머지는 차단주파수 영역 구분:Pass-band..

1. 여인수 (Cofactor)소행렬식에 부호를 붙여 여인수를 구함.2. 수반행렬 (Adjugate Matrix)여인수로 이루어진 행렬을 전치하여 수반행렬을 구함.3. 역행렬 (Inverse Matrix)행렬식이 0이 아니면 역행렬을 구할 수 있음.수반행렬과 행렬식을 이용해 역행렬을 구함.4. 특이행렬 (Singular Matrix)행렬식이 0이면 역행렬이 존재하지 않음.해당 행렬은 특이행렬이라 부름.5. 행렬식의 성질한 행 또는 열에 스칼라를 곱하면, 행렬식에도 해당 값을 곱함.한 행 또는 열이 전부 0이면 행렬식은 0이 됨.한 행에 다른 행의 배수를 더하거나 빼도 행렬식은 변하지 않음.두 행 또는 열이 같거나 비례하면 행렬식은 0이 됨.6. 크래머의 법칙 (Cramer’s Rule)행렬식이 0이 아닐..

신호 조절 과정의 개요신호는 센서나 외부 환경으로부터 받아들이는 입력이기 때문에, 자동화 시스템에서는 이를 효과적으로 처리하고 전달하기 위한 다양한 신호 조절이 필요하다. 주로 다음과 같은 과정이 포함된다:보호(Protection)고전압, 고전류에 의해 회로가 손상되지 않도록 보호 회로를 구성한다.이는 보드, 부품의 파손 방지를 위한 필수 단계이다.신호 형태 변환(Signal Type Conversion)저항값, 전류값 등 다양한 센서 출력은 원하는 형태(예: 전압)로 변환되어야 한다.아날로그 신호 → 디지털 신호 변환도 필요하며, 이는 후속 디지털 제어를 위한 전처리 단계이다.신호 크기 조절(Amplification)센서로부터 들어오는 신호는 매우 미세한 경우가 많아, 이를 처리 가능한 수준으로 증폭(..

Vibration : 일반적인 모든 진동을 통칭하는 용어Oscillation : 주기적인 떨림에 한정 Free Vibration, 자유진동 : 계가 초기 교란된 후 더 이상의 외력을 가하지 않고도, 자체적으로 움직이는 진동Forced Vibration, 강제진동 : 계가 외력을 받을 때, 이 외력에 의해 가진되는 진동. Ex. 자동차가 주행할 때 엔진에 의한 외력 Undamped Vibration : 계가 운동할 때, 에너지의 소멸없이 반복적으로 운동하는 진동을 비감쇠 운동이라고 함.Damped Vibration : 운동시 에너지의 소멸이 있는 대부분의 운동을 말함. 계의 3대 구성요소 : Spring, Mass, Damping    고유진동수란, 계가 초기에 교란된 후 외력 없이 스스로 진동할 때의 진..

입력과 출력에 따라 네 가지로 모델링 해볼 수 있다. many-to-many 에서,첫 번째는 translation 같이 즉시 결과값이 나오는 것에 해당.두 번째는 Q n A 처럼 입력값이 다 입력된 후에 결과 값이 나올 수 있는 것들임 --  CNN은 Parameter Sharing을 통해 MLP 대비 Parameter의 수를 줄일 수 있었다. *sharing : 공유하는 것CNN (합성곱 신경망)CNN은 필터(커널) 하나를 이미지 전체에 적용하면서 특징을 추출합니다. 즉, 같은 가중치(필터)가 이미지의 모든 위치에 적용됩니다.파라미터의 수 계산:필터 크기 = 3×3 (즉, 9개의 가중치)필터 하나가 이미지 전체에 사용되기 때문에, 학습해야 하는 파라미터의 수는 9개입니다.👉 중요 포인트:MLP의 경우..

SLAM에서 **BoW (Bag of Words)**는 주로 **Loop Closure Detection (루프 클로저 탐지)**를 위해 사용되는 기법입니다. BoW는 컴퓨터 비전에서 이미지의 특징을 텍스트 문서의 단어로 비유하여, 이미지 간 유사성을 비교하는 방법입니다.*Loop Closure Detection : SLAM 시스템에서 사용되는 기술로, 로봇이나 드론과 같은 이동 장치가 이미 지나갔던 장소를 다시 방문했을 때 이를 인식하는 과정입니다.✅ BoW의 개념이미지 또는 프레임을 일련의 특징점(Feature Points) 집합으로 표현합니다. 예를 들어, ORB, SIFT, SURF 같은 특징점 추출 알고리즘을 사용합니다.특징점들을 디스크립터(Descriptor) 형태로 변환합니다. (예: ORB..