어텐션 : 정보 중에서 중요한 것에 집중하는 기술우리가 뭔가를 볼 때나 읽을 때 중요한 부분에 집중하는데, 컴퓨터가 그것을 흉내 내는 것 기계가 문장을 처리할 때, 각 단어가 다른 단어들과 얼마나 관련 있는지를 수치로 계산함.이것을 Attention Score 이라고 함. --입력의 각 요소가 다른 요소들과의 관계(유사도)를 계산해서, 중요한 정보에 더 큰 가중치를 주고, 그걸 기반으로 새로운 표현을 만드는 것 기본구조 : Scaled Dot-Product Attention 왜 중요한가?위치 무관한 관계 파악 가능 > CNN보다 더 유연멀티모달 입력 처리에 최적 > 이미지, 센서 등문맥 기반의 정보 재구성이 탁월 결론 :어텐션은 정보 간의 중요도 관계를 학습하고 반영하는 방식Transformer 모델이 ..
